深度学习作业11 LSTM

习题6-4  推导LSTM网络中参数的梯度， 并分析其避免梯度消失的效果

遗忘门控制着历史信息的遗忘程度。通过控制的值，LSTM能够防止不必要的梯度消失，因为当 ftf_tft​ 接近1时，梯度可以较好地在时间上流动。
输入门允许新信息进入细胞状态，从而帮助模型捕捉新的有价值的信息，而不会因梯度衰减导致模型无法学习新特征。
输出门控制着输出的内容，通过控制信息流的输出，可以避免信息的过度消失。