CNN综述文章《What Do We Understand About Convolutional Networks》part 5

《What Do We Understand About Convolutional Networks》-part 5

CNN综述文章《What Do We Understand About Convolutional Networks?》3 4部分总结

Chapter 3 理解Convnet构建块

本章研究典型的CNN中各处理层的作用和意义。特别是，将从理论和生物学的角度介绍ConvNet各种组件。每种组件的介绍后面都有discussion，总结了我们当前的理解水平。

3.1卷积层

卷积层可以说是ConvNet体系结构中最重要的结构之一。 基本上，卷积是一种线性的、平移不变性的运算，对输入信号进行局部加权组合。 根据所选择的权重集合（即所选择的点扩散函数（point spread function））的不同，也将揭示出输入信号的不同性质。同时，选择正确的kernel以捕获输入信号中的最显著和最重要的信息至关重要，这可以使人们对信号的内容进行有力的推断。 本节讨论了进行核选择的一些不同方法。

点扩展函数( PSF)描述了成像系统对点源或点对象的响应。PSF更一般的术语是一个系统的脉冲响应（impulse response）

卷积核的可优化参数是通过训练网络最小化损失函数$L$来调节的：

其中$L_{conv}$