1.介绍
斯坦福自然语言处理小组2019年的最新课程《CS224n: NLP与深度学习》春季课程已经全部结束了,课程内容囊括了深度学习在各项NLP任务中应用的最新技术,非常值得一看。
自然语言处理( NLP )是信息时代最重要的技术之一,也是人工智能的重要组成部分。NLP的应用无处不在,因为人们几乎用语言交流一切:网络搜索、广告、电子邮件、客户服务、语言翻译、医疗报告等。近年来,深度学习方法在许多不同的NLP任务中获得了非常高的性能,使用了不需要传统的、任务特定的特征工程的单个端到端神经模型。在本课程中,学生将全面了解NLP深度学习的前沿研究。通过讲座、作业和最终项目,学生将学习设计、实现和理解他们自己的神经网络模型的必要技能。
今年,CS224n将首次使用PyTorch而不是TensorFlow进行教学(与往年不一样)。
2.主要内容
下面是一些主要的课程目录
-
介绍和单词向量
-
单词向量2和单词意义
-
Python复习课
-
字窗分类,神经网路,矩阵演算
-
反向传播和计算图
-
语言结构:依赖解析
-
一个句子的概率?递归神经网络和语言模型
-
消失梯度和花哨的RNNs
-
机器翻译,Seq2Seq及注意事项
-
用于NLP的卷积
-
自然语言生成
-
结构分析和树递归神经网络
-
未来的NLP +深度学习