paoding-analysis-2.0.4-beta使用及对比

本文探讨了paoding-analysis-2.0.4-beta分词器的实现原理,该工具基于lucene-core-2.2.0.jar开发,并对比了几种不同的分词效果,包括Lucene标准分词器、空白符分词器、简单分词器等。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

paoding-analysis-2.0.4-beta是基于lucene-core-2.2.0.jar核心开发的,所以lucene版本至少在2.2以上,目前我使用2.9版本也可以正常使用。

 

我在使用lucene1.4.3时运行出错。java.lang.VerifyError: trying to subclass final class org/apache/lucene/analysis/Token

应该是继承了final的Tocken引起的!

 

分词的效果对比:

 

分词
查看Lucene分词器分词后的结果.The result is perfect.12345!go!


庖丁分词(按字典分并进行辅助词的过滤)
结果   result   perfect   12345   go

 

Standard内置标准分词(按字分)
结 果   result   perfect.12345   go  


Whitespace(按空格分,不过滤标点)
结果 The   result   is   perfect.12345!go! 

 

Simple(按标点符号和空格分)
结果   the   result   is   perfect   go  

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值