jieba分词

这是一篇在应用jieba做中文分词的记录
参考：https://github.com/fxsjy/jieba

概述

在处理文本数据时，分析语句含义，要把中文的一整句话切分成一个个单词，通过对单词对分析完成语句含义对分析。jieba分词时处理中文单词分割对一种很好对算法包。

特点

• 支持三种分词模式：

  • 精确模式，试图将句子最精确地切开，适合文本分析；
  • 全模式，把句子中所有的可以成词的词语都扫描出来, 速度非常快，但是不能解决歧义；
  • 搜索引擎模式，在精确模式的基础上，对长词再次切分，提高召回率，适合用于搜索引擎分词。
• 支持繁体分词
• 支持自定义词典
• MIT 授权协议

安装

环境：mac +python2.7+anaconda
打开终端：conda install jieba
简单一条语句既可完成

实例

• jieba.cut 方法接受三个输入参数: 需要分词的字符串；cut_all 参数用来控制是否采用全模式；HMM 参数用来控制是否使用 HMM 模型

import jieba

seg_list = jieba.cut("我来到北京清华大学", cut_all=True)
print("Full Mode: " + "/ ".join(seg_list))  # 全模式
>>>【全模式】: 我/ 来到/ 北京/ 清华/ 清华大学/ 华大/ 大学

seg_list = jieba.cut("我来到北京清华大学", cut_all=False)
print("Default Mode: " + "/ ".join(seg_list))  # 精确模式
>>>【精确模式】: 我/ 来到/ 北京/ 清华大学

• jieba.cut_for_search 方法接受两个参数：需要分词的字符串；是否使用 HMM 模型。该方法适合用于搜索引擎构建倒排索引的分词，粒度比较细

python