向着星辰大海

参考博客：word2vec原理推导与代码分析 CS224n笔记3 高级词向量表示 关于word2vec的回顾skipgram：利用中心词预测上下文example: I like deep learning and nlp. 存在两个词典，一个为中心词词典V，一个为上下文词词典U，两个词典包含的词相同1.移动滑动窗口，选择中心词deep I like deep learni...

1.怎样去表示word的含义（1）用分类资源来表示词义，如Wordnet 问题：需要很多的人力；无法对词语的相似性做出精确的定义（2） one hot：其他所有的表示方法均用了原子符号来表示，会使得词汇的表示非常的长 问题：没有天然的相似性，相似向量点积为0（3）distribution similarity：可以通过观察一个词出现的上下文来表示某个词汇含义的值。使用上下文词语的含义...

nlp一直致力于：描述人类语言结构 两个主要的方法：1.上下文无关文法依存关系：用依存关系来看什么东西解释了什么东西 ambiguity 句法：找到一条规则可以生成无数句子 依存树库优点： 1.可以反复使用，但是人类语法却几乎不可重复使用，因为每个人书写的语法规则不一样 2.更易找到不同人的书写规则 3.对于机器学习，它可以给出所有可能性及其各自的频率Depe...

1.参考博客：CS224n笔记4 Word Window分类与神经网络 2.我的笔记：百度云

课时8 第八讲 - RNN和语言模型 http://www.hankcs.com/nlp/cs224n-rnn-and-language-models.html