Udacity深度学习(google)笔记(4)——文本和序列的深度模型(word2vec, RNN, LSTM)

本文介绍了深度学习领域的关键技术和应用场景,包括非监督学习中的Word2Vec等词嵌入方法、循环神经网络及其变种LSTM解决梯度消失问题的技术手段,并讨论了机器翻译、语音识别等实际应用案例。此外还提供了学习深度学习的重要资源推荐。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

  • 非监督学习(应用前景?)
  • embeddings: Word2Vec
  • t-SNE
  • sampled softmax
  • CBOW和skip-gram
  • 任务 5: Word2Vec and CBOW 
  • RNN,反向传播
  • 梯度消失/爆炸(看看教材的推导和说明)
  • LSTM
  • Beam搜索(就是有效地一次往前看多步再做决策)
  • 任务 6: LSTMs: 训练一个一个长短期记忆网络预测字符串

  • 机器翻译
  • 语音识别
  • 图片描述: coco data set
  • 实时视频、增强现实


深度学习核心资源
  • 吴恩达深度学习
  • CS231n: Convolutional Neural Networks for Visual Recognition, Fei-Fei Li (Stanford).
  • CS224d: Deep Learning for Natural Language Processing, Richard Socher (Stanford).
  • Goodfellow, I., Bengio, Y. and Courville, A. Deep Learning. MIT Press, 2016.
  • tensorflow, keras文档

对深度学习的快速入门就到这了,接下来关注在kaggle上磨炼技能,同时通过学习核心资源来提高深度学习的理论。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值