RNN，LSTM输入输出大小

1. recurrent neural networks输入输出类型总结

2. RNN, LSTM神经网络输入输出size分析

<answer 1>

reference: https://blog.youkuaiyun.com/ssswill/article/details/88429794

标黄部分为“concat x and h”。concat， 直白的说就是把二者直接拼起来，比如 x是28位的向量，h(t-1)是128位的，那么拼起来就是156位的向量。

LSTM 单元输入都是上一个时刻的输出与当前时刻的输入通过向量concat连接而得到，基于这个输入，利用sigmoid函数作为三个门的筛选器，分别得到 ft 、it 、ot，这三个筛选器分别选择部分分量对状态进行选择性忘记、对输入进行选择性输入、对输出进行选择性输出。

本章核心内容：

每一个小黄框代表一个前馈网络层，就是经典的神经网络的结构DNN，num_units就是这个层的隐藏神经元个数。其中1、2、4的激活函数是 sigmoid，第三个的激活函数是 tanh。

所以LSTM layer中cell数 = num_units，LSTM layer由4个DNN组成，三个处理