丶小祖宗的博客

文章目录Word2vecSkip-gram 和 CBOW 模型Skip-gramCBOW （Continuous Bag-of-Words）模型代码简析结果总结 Word2vec Word2vec的本质可以说是对NNLM模型的改进，他的出现使得词得到了很好的表示，既可以不像ont-hot编码那样冗余，又可以得到词与词之间的关系信息。 Skip-gram 和 CBOW 模型 得到词向量的两种方式。 ...

文章目录前言神经语言模型（NNLM）代码简析结果总结参考 前言 最近看到一个Github内容不错，就当做个笔记。 神经语言模型（NNLM） 2003年，NNLM首次将神经网络应用到语言模型的问题中，从此深度学习就登上了NLP的舞台，并有把传统模型赶下去的趋势。 语言模型可以说是用前n-1个单词做为输入去预测第n个单词，也就是说第n个词是哪个单词的时候，才使得这句话像是正常的话，有正常的语序，使用正...