RNN 反向传播数学推导（BPTT 时间反向传播）

RNN 反向传播数学推导（BPTT 时间反向传播）

一、标准 RNN 前向传播公式

设：

• 输入序列：$x_t\in {\mathbb{R}}^{d_{in}}$
• 隐藏状态：$h_t\in {\mathbb{R}}^{d_{hid}}$
• 输出：$o_t\in {\mathbb{R}}^{d_{out}}$
• 参数：
  $W_{xh}$：输入→隐藏，$W_{hh}$：隐藏→隐藏，$W_{hy}$：隐藏→输出
  $b_h$：隐藏偏置，$b_y$：输出偏置

前向传播
$$\begin{array}{rl}{h}_t& =\sigma (W_{xh}{x}_t+W_{hh}{h}_{t-1}+b_h)\\ o_t& =W_{hy}{h}_t+b_y\\ {\hat{y}}_t& =\text{softmax}(o_t)\end{array}$$
$\sigma$ 为激活函数（常用 $\tanh$），损失用交叉熵：
$$\mathcal{L}=\sum _{t=1}^T{\mathcal{L}}_t,{\mathcal{L}}_t=-\sum _i{y}_{t,i}\log {\hat{y}}_{t,i}$$

---

二、BPTT 核心思想

RNN 参数所有时间步共享，反向传播沿时间维度回溯 $T$ 步，链式求导：
$$\frac{\partial \mathcal{L}}{\partial W}=\sum _{t=1}^T\frac{\partial {\mathcal{L}}_t}{\partial W}$$

定义梯度记号：
$${\delta }_t=\frac{\partial \mathcal{L}}{\partial h_t}\in {\mathbb{R}}^{d_{hid}}$$

---

三、逐位置梯度推导

1. 输出端梯度 $\frac{\partial {\mathcal{L}}_t}{\partial o_t}$

交叉熵+softmax 简化结论：
$$\frac{\partial {\mathcal{L}}_t}{\partial o_t}={\hat{y}}_t-y_t$$

2. 隐藏层误差 ${\delta }_t$

链式法则：
$${\delta }_t=\frac{\partial {\mathcal{L}}_t}{\partial h_t}={\frac{\partial o_t}{\partial h_t}}^{\top }\frac{\partial {\mathcal{L}}_t}{\partial o_t}+{\frac{\partial h_{t+1}}{\partial h_t}}^{\top }{\delta }_{t+1}$$

代入 $o_t=W_{hy}{h}_t+b_y$ 和 $h_{t+1}=\sigma (\cdot )$：
$$\frac{\partial o_t}{\partial h_t}=W_{hy}^{\top }$$

$$\frac{\partial h_{t+1}}{\partial h_t}=W_{hh}^{\top }\odot {\sigma }^{\prime }(z_{t+1})$$

$z_{t+1}=W_{xh}{x}_{t+1}+W_{hh}{h}_t+b_h$，$\odot$ 逐元素乘

得到 ${\delta }_t$ 递推公式：
$${\delta }_t=W_{hy}^{\top }({\hat{y}}_t-y_t)+W_{hh}^{\top }\cdot {\sigma }^{\prime }(z_{t+1})\odot {\delta }_{t+1}$$

终止条件：最后时刻 $t=T$，无下一时刻
$${\delta }_T=W_{hy}^{\top }({\hat{y}}_T-y_T)$$

---

四、所有参数梯度公式

1. $W_{hy},b_y$

$$\begin{array}{rl}\frac{\partial \mathcal{L}}{\partial W_{hy}}& =\sum _{t=1}^T({\hat{y}}_t-y_t)h_t^{\top }\\ \frac{\partial \mathcal{L}}{\partial b_y}& =\sum _{t=1}^T({\hat{y}}_t-y_t)\end{array}$$

2. $W_{xh},W_{hh},b_h$

先记：$\frac{\partial h_t}{\partial z_t}={\sigma }^{\prime }(z_t)$
$$\begin{array}{rl}\frac{\partial \mathcal{L}}{\partial W_{xh}}& =\sum _{t=1}^T{\delta }_t\odot {\sigma }^{\prime }(z_t)x_t^{\top }\\ \frac{\partial \mathcal{L}}{\partial W_{hh}}& =\sum _{t=1}^T{\delta }_t\odot {\sigma }^{\prime }(z_t)h_{t-1}^{\top }\\ \frac{\partial \mathcal{L}}{\partial b_h}& =\sum _{t=1}^T{\delta }_t\odot {\sigma }^{\prime }(z_t)\end{array}$$

---

五、Tanh 激活导数（常用）

若 $\sigma (z)=\tanh (z)$：
$${\sigma }^{\prime }(z)=1-{\tanh }^2(z)=1-h_t^2$$
直接代入上面公式即可。

---