近期自然语言处理归纳小结之(一)词向量——nnlm模型
词向量之nnlm一、模型原理概述二、模型结构详解三、训练实战一、模型原理概述 此处先插一个对我这种长期纠结于【各种向量矩阵维数到底是多少】(就是坚持不懈地要弄清俩矩阵到底能不能乘)的人来说在理解模型细节方面有巨大帮助的链接:理解nnlm. word embedding提出后nlp的发展发生了质的飞跃。nnlm即一种基于n-gram文法、词向量表示和DNN结构的语言模型,该模型对语料库中每个单词在当前输入序列的情况下作为下一个单词出现的概率进行预测。n-gram文法、词向量表示和DNN结构不再赘述。
原创
2020-10-16 10:05:14 ·
1018 阅读 ·
0 评论