本文介绍了卷积神经网络（CNN）中的卷积与池化概念。卷积通过卷积核实现特征提取，分为full、same和valid三种类型，具有稀疏连接、参数共享和平移不变性等特性。池化则分为same和valid池化，主要用于降低计算复杂度和尺寸，最大值池化和平均值池化是常见操作。卷积与池化的关键区别在于卷积涉及权重优化，而池化不需估计参数，且卷积输出通道单一，池化输出通道与输入相同。
卷积神经网络Convolutional Neural Network
注：本笔记不是完整的概念介绍，并不成系统，只是我认为重要或者难理解的部分，撷取并作一定笔记。如需系统学习，欢迎食用王汉生老师的《深度学习：从入门到精通》。
卷积的基本概念
卷积是一种特殊的线性运算，卷积核又叫滤波器，卷积层的目的是获得更多图像的特征。经卷积后输出的特征图叫响应图，响应图的深度取决于卷积用了多少卷积核，此时深度不再代表特定颜色。
卷积运算原理
- full卷积
- same 卷积
- valid 卷积
full卷积
卷积核在原始张量上从左到右，先行后列移动，对应元素相乘。只要像素矩阵与卷积核元素有一个位置重叠，就要计算，像素矩阵外的元素全部视为0。在步长为1的条件下，特征图的大小为(卷积核大小+原始张量大小-1)。
same卷积
卷积前后像素维度保持同样维度。
valid卷积
full卷积与same卷积都会有卷积核的部分延伸到原始张量的外面，延伸出的部分需要用0来填充后才能计算。而valid卷积要求卷积核完全被覆盖在像素矩阵的有效范围内，经过valid卷积后，矩阵的维度变小了。
卷积运算的特性
- 稀疏连接：降低计算复杂度；减少因连接过多产生过拟合。
- 参数共享：参数共享是指相同的参数被用在同一个模型的多个函数中。全连接方式中，每一个神经元都要学习一个单独的参数集合，在卷积运算中，每一层神经元只需要学习一个卷积核大小的参数即可。
- 平移不变性：在处理图像数据时，当卷积在图像的某个位置学习到存在的特征时，它可以在之后的任何地方识别这个特征。
最低0.47元/天 解锁文章
扫一扫
242
到【灌水乐园】发言
