文章目录 1. 前言 2. 简单RNN前向传播 3. RNN扩展 3.1 多层RNN 3.2 Jodan RNN 3.3 双向RNN 4. 小结 5. RNN案例pytorch实现 5.1 单向RNN代码示例 5.2 双向RNN代码示例 6. RNN扩展及反向传播 7. tensorflow案例 7.1 单向单个隐藏层 7.2 单向多个隐藏层(含drop) 7.3 双向RNN 7.4 完整代码展示 1. 前言 RNN:Recurrent Neural Network,循环神经网络。在全连接神经网络中,包括输入层、隐藏层,输出层,其中神经元可以认为是linear+激活函数。全连接网络如下所示: 对于一个样本, x 1 x_1 x