吴恩达深度学习笔记3

最新推荐文章于 2025-08-08 22:12:33 发布

原创最新推荐文章于 2025-08-08 22:12:33 发布 · 200 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#深度学习

机器学习专栏收录该内容

14 篇文章

订阅专栏

本文深入探讨了序列模型的原理与应用，包括循环神经网络（RNN）、长短期记忆（LSTM）、门控循环单元（GRU）、双向RNN、深层RNN、词嵌入、Word2Vec、GloVe、seq2seq模型、注意力机制、情感分类等关键概念。通过实例解析，揭示了这些技术在自然语言处理任务中的强大能力。

序列模型

为什么选择序列模型：
在这里插入图片描述

数学符号：

循环神经网络模型：

通过时间的反向传播:

不同类型的循环神经网络:

语言模型和序列生成:

对新序列采样:
在这里插入图片描述

循环神经网络的梯度消失:

GRU 单元:

长短期记忆LSTM:

双向循环神经网络:

深层循环神经网络:

词汇表征词嵌入:
在这里插入图片描述

使用词嵌入:

词嵌入的特性:

学习词嵌入嵌入矩阵：

Word2Vec Skip-Gram模型：

负采样：

GloVe 词嵌入(选)：
在这里插入图片描述

情感分类：

词嵌入除偏：

seq2seq：

选择最可能的句子：

集束搜索：

改进集束搜索：

注意力模型直观理解：
在这里插入图片描述

注意力模型：

语音识别：

触发字检测：