2D-LSTM

最新推荐文章于 2024-09-11 19:26:50 发布

吊儿郎当的凡

最新推荐文章于 2024-09-11 19:26:50 发布

阅读量4.9k

点赞数 2

文章标签：模式识别数据挖掘深度学习神经网络

本文链接：https://blog.youkuaiyun.com/weixin_43269419/article/details/121372601

版权

LSTM

Understanding LSTM Networks 和人人都能看懂的LSTM 这两篇文章介绍了 LSTM 的原理。

2D-LSTM

2D-LSTM 是作用于三维输入( $\times H \times D$ )的 LSTM ，分别取横向和纵向上一时刻的隐藏状态和输出作为该时刻的输入，如下图所示
在这里插入图片描述
数据传播的顺序依靠对角线原则，如下图所示

图中的数字表示计算的顺序。
下图展示了 2D-LSTM 单元的结构，蓝线表示与标准单元不同的地方。

上图中 $x_{j, i}$ 为当前的输入， $s_{j, i-1}$ 为上一时刻横向的输出， $s_{j-1, i}$ 为上一时刻纵向的输出。
input gate
$i_{j, i} = \sigma(W_1x_{j, i} + U_1s_{j-1, i} + V_1s_{j, i-1})$
output gate
$o_{j, i} = \sigma(W_2x_{j, i} + U_2s_{j-1, i} + V_2s_{j, i-1})$
candidate value
$\hat{c}_{j, i} = g(W_3x_{j, i} + U_3s_{j-1, i} + V_3s_{j, i-1})$
forget gate
$f_{j, i} = \sigma(W_4x_{j, i} + U_4s_{j-1, i} + V_4s_{j, i-1})$
2D-LSTM 新加入了一个系数，用于比较 $s_{j-1, i}$ 和 $s_{j, i-1}$ 的重要程度。
$\lambda_{j, i} = \sigma(W_5x_{j, i} + U_5s_{j-1, i} + V_5s_{j, i-1})$
新状态
$c_{j, i} = f_{j, i} \circ [\lambda_{j, i} \circ c_{j-1, i} + (1 - \lambda_{j, i}) \circ c_{j, i-1}] + \hat{c}_{j, i} \circ i_{j, i}$
输出
$s_{j, i} = g(c_{j, i} \circ o_{j, i})$

Reference

[1] Bahar, P. , C. Brix , and H. Ney . “Towards Two-Dimensional Sequence to Sequence Model in Neural Machine Translation.” (2018).
[2] Voigtlaender, P. , P. Doetsch , and H. Ney . “Handwriting Recognition with Large Multidimensional Long Short-Term Memory Recurrent Neural Networks.” 2016 15th International Conference on Frontiers in Handwriting Recognition (ICFHR) IEEE, 2017.