本文深入探讨了卷积神经网络(CNN)的反向传播过程，通过分析二维卷积运算，揭示了如何计算原图的delta误差。在前向传播中，每个原图像素仅对其下一层的特定节点有影响。反向传播时，原图的delta误差是卷积结果的delta误差经过零填充后，与卷积核的转置进行卷积得到。这一概念有助于理解CNN中误差的反向传播和权重更新机制。
CNN
卷积神经网络(CNN)反向传播算法推导
虽然卷积神经网络的卷积运算是一个三维张量的图片和一个四维张量的卷积核进行卷积运算，但最核心的计算只涉及二维卷积，因此我们先从二维的卷积运算来进行分析：
如上图所示，我们求原图A处的delta误差，就先分析，它在前向传播中影响了下一层的哪些结点。显然，它只对结点C有一个权重为B的影响，对卷积结果中的其它结点没有任何影响。因此A的delta误差应该等于C点的delta误差乘上权重B。
大家可以尝试用相同的方法去分析原图中其它结点的delta误差，结果会发现，原图的delta误差，等于卷积结果的delta误差经过零填充后，与卷积核旋转180度后的卷积。如下图所示：
扫一扫
2751
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
