CS224n笔记3 高级词向量表示

为什么80%的码农都做不了架构师？>>>   

本文由码农场同步，最新版本请查看原文：http://www.hankcs.com/nlp/cs224n-advanced-word-vector-representations.html

这节课从传统的基于计数的全局方法出发，过渡到结合两者优势的GloVe，并介绍了词向量的调参与评测方法。复习：word2vec的主要思路遍历整个语料库中的每个词预测每个词的上下文：然后在每个窗口中计算梯度做SGDSGD与词向量但每个窗口最多只有2m + 1个单词，所以$\nabla_\theta J_t(\theta)$会非常稀疏：var mathConfig = {jax: ["input/TeX", "output/HTML-CSS"], tex2jax: {inlineMath: [["$", "$"]...

继续阅读：码农场 » CS224n笔记3 高级词向量表示

原文链接：http://www.hankcs.com/nlp/cs224n-advanced-word-vector-representations.html

感谢阅读本文，欢迎 查看原文或访问 码农场 获取更多内容

转载于:https://my.oschina.net/hankcs/blog/917468