LY_970909的博客

OpenCV

梯度下降法、反向传播、梯度消失、梯度爆炸、神经元死亡（未完成）文章目录梯度下降法、反向传播、梯度消失、梯度爆炸、神经元死亡（未完成）前言一、梯度更新是x0=x0−μx0′x_0 = x_0-\mu x_0'x0​=x0​−μx0′​二、反向传播三、梯度消失四、梯度爆炸五、神经元死亡总结前言经常会跟想学深度学习的朋友讲解一些入门知识，有时候也会忘记些内容，今天抽空把这些内容想到的先写下来，后续不断填坑…一、梯度更新是x0=x0−μx0′x_0 = x_0-\mu x_0'x0​=x0​−μx0