weixin_32087115的博客

最大匹配算法作为分词的最初级分词算法，作为学习，简单实现一下。流程图：def tokenize(line, dic, max_length = 5): line = line.strip() if line == '': return [] if max_length >= len(line): return [line]...

这里先实现skip-gram，本文也是对于该篇文章的翻译，并添加个人的理解与感悟。整体的流程如下：数据准备 —— 数据获取、清洗、使标准化、分词超参数 —— 学习率、迭代次数、窗口大小、词向量维度生成训练数据 —— 创建字典、为每个词生成one-hot编码、生成word2dic和dic2word的索引建立模型 —— 通过前向传播先对词做编码，计算错误率，通过反向传播和梯度下降不断降低l...