卷积的反向传播

 

 

介绍

       卷积神经网络（CNN）是多层感知器（MLP）的生物学启发变异。CNN中的神经元共享权重，与MLP不同，其中每个神经元具有单独的权重向量。这种权重的共享最终减少了可训练重量的总数，从而引入了稀疏性。

 

利用权重共享策略，神经元能够对数据进行卷积，其中卷积滤波器由权重形成。然后进行汇集操作，该汇集操作作为非线性下采样的形式，逐渐减小表示的空间大小，从而减少网络中的计算量和参数。

卷积和池化层之间存在激活函数，例如ReLu层; 在元素方面应用非饱和激活，即阈值处理为零。在几个卷积和池化层之后，图像尺寸（特征图尺寸）减小并且提取更复杂的特征。F（x ）= m a x （0 ，x ）f(x)=max(0,x)

最终使用足够小的特征图，将内容压缩成一维向量并馈入完全连接的MLP进行处理。这个完全连接的MLP的最后一层被视为输出，是一个损耗层，用于指定网络训练如何惩罚预测标签和真实标签之间的偏差。

 前向传播

 

 

反向传播

核变换