RNNBow:Visualizing Learining via Backpropagation Gradients in Recurrent Neural Networks (文章解读)
https://arxiv.org/pdf/1907.12545.pdf这篇文章主要强调了RNN中梯度流的重要性。实际上在神经网络模型中梯度有着十分重要的作用,但由于网络结构的复杂性以及参数过于庞大,梯度流的研究一直是一个很困难的问题,所以在一般情况下人们多是通过研究训练好的模型节点的激活情况来研究网络的内部结构以及各参数在网络模型中所起的作用。这篇文章的作者设计了一款网页版的工具,通过这个工...
原创
2019-08-08 17:15:17 ·
231 阅读 ·
0 评论