前言 反向传播作为深度学习中的一个重要的基础知识,大部分关于它的文章都太过于注重公式的堆砌,本文主要结合一个简单的浅层神经网络,进行一下前向传播和反向传播的计算。 一个作为例子的神经网络 前向传播 以上图的神经网络为例,计算前向传播的计算过程 反向传播 反向传播的目标是更新整个网络的权值,即w和b 其实现的方式为链式求导,具体如下: