yangzixuan_0608的博客

最近由于项目需要，需要使用LSTM进行时间序列预测，由此通过这篇文件，回忆并总结下LSTM的一些关键性问题。 一、LSTM原理： 1、一句话总结LSTM LSTM即是长短期记忆网络 2、LSTM中门和时间步 门和时间步的概念 -- LSTM的中有四个门，每个门负责是否把短期记忆纳入长期记忆中(或者说负责将短期记忆的某一部分是否纳入长期记忆) -- 每个时间步，都是网络的一个...

1、从LSTM的经典图入手 可以看到中间的 cell 里面有四个黄色小框: -- 每一个小黄框代表一个前馈网络层，其实就是经典的神经网络的结构 -- 这个cell神经元个数和隐藏层个数皆可以设置 -- 其中1、2、4层的激活函数是 sigmoid，第三层的激活函数是 tanh。 2、对LSTM的理解 1）、cell 的状态是一个向量，是有多个值的 -- cell在t时刻的状态即是ht ...