Understand the process of indexing
1,convert to text
将原始数据转换成lucene可以识别的数据。
可识别的数据转换成Document。Document由lucene自定义的Field组成
2,analysis
会将text内容转化成一些chunks或者tokens。
其中会将内容转成小写格式,使得数据没有大小写之分。
还会将其中的一些高频但是没有意义的词给去掉。例如英文中的a an the in on 等等,中文中类似的有 的 啊 哦等。此类词英文称为stopword
3,Index writing
将analysis后的数据写入到索引(Index)中。
Lucene使用倒排索引结构。现在互联网搜索主流都是使用倒排索引。
但是各个搜索不同的原因是各家都在此结构基础上有各自特色保密的存储技巧或者优化手段。
1,convert to text
将原始数据转换成lucene可以识别的数据。
可识别的数据转换成Document。Document由lucene自定义的Field组成
2,analysis
会将text内容转化成一些chunks或者tokens。
其中会将内容转成小写格式,使得数据没有大小写之分。
还会将其中的一些高频但是没有意义的词给去掉。例如英文中的a an the in on 等等,中文中类似的有 的 啊 哦等。此类词英文称为stopword
3,Index writing
将analysis后的数据写入到索引(Index)中。
Lucene使用倒排索引结构。现在互联网搜索主流都是使用倒排索引。
但是各个搜索不同的原因是各家都在此结构基础上有各自特色保密的存储技巧或者优化手段。
本文介绍了Lucene索引构建的三个主要步骤:首先将原始数据转换为可识别的Document;其次通过Analysis将文本切分为小词块并进行标准化处理;最后将处理后的数据写入倒排索引。
126

被折叠的 条评论
为什么被折叠?



