超级会员免费看
该文探讨中文文本处理中的分词问题，使用结巴分词系统进行精确模式分词。接着介绍了word2vec的CBOW和Skip-Gram模型，重点阐述了基于Hierarchical Softmax的Skip-Gram模型，设置词向量维度为200，训练窗口为5。文章还讨论了删除高频词如‘the’对训练的影响。
中文与英文不同，中文以字为基本单文，单独的
字大多数不能独立表达意思，因此需要对中文文本
进行分词处理。采用结巴分词系统，以精确模式来
进行分词，word2vec 有连续词袋模型( Continuous bag-ofwords，
CBOW) 和Skip-Gram 两种模型。word2vec 能
够将文本词语转化为向量空间中的向量，而向量的
相似度可以表示文本语义的相似度。
本文采用基于Hierarchical Softmax 算法的Skip-
Gram 模型，词向量维度设置为200，训练窗口设置
为5
如果我们采用window size = 10，同时我们删除‘the’：
1. 当我们再去训练剩下的词，我们就不会再遇到‘the’了；
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
