简单有效的多标准中文分词

本文介绍了一种能够同时处理多种分词标准的中文分词方案。该方案通过联合多个不同标准的语料库来训练单一模型,可以有效输出符合各种标准的分词结果,并在多个语料库上取得了优于大多数独立模型的表现。
11132108_8myE.jpg本文由码农场同步,最新版本请查看原文:http://www.hankcs.com/nlp/segment/multi-criteria-cws.html
简单有效的多标准中文分词
本文介绍一种简洁优雅的多标准中文分词方案,可联合多个不同标准的语料库训练单个模型,同时输出多标准的分词结果,在10个语料库上的联合结果优于绝大部分单独模型。模型参数全部共享,复杂度不随语料库增长。论文:https://arxiv.org/abs/1712.02856 代码和语料:https://github.com/hankcs/multi-criteria-cws 自然语言处理,特别是中文处理中,语料库往往珍稀且珍贵。具体到中文分词,也是如此。为了做出一个实用的系统,不光需要高效的算法...

继续阅读码农场 » 简单有效的多标准中文分词

原文链接http://www.hankcs.com/nlp/segment/multi-criteria-cws.html


感谢阅读本文,欢迎 查看原文或访问 码农场 获取更多内容

转载于:https://my.oschina.net/hankcs/blog/1587826

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值