pytroch学习笔记六：nn网络层——卷积层

通过前面两节的学习，已经知道如何搭建一个网络模型以及搭建模型一个非常重要的类nn.Module和模型容器Containers。搭建网络模型有两个基本的步骤：建立子模块和拼接子模块。建立的子模块就包括卷积层、池化层、激活层和全连接层等。所以这一节就从子模块开始。

一、卷积运算与卷积层

卷积运算：卷积核在输入信号（图像）上滑动，相应位置进行乘加；
卷积层：又称为滤波器，过滤器，可以认为是某种模式，某种特征。

卷积的过程类似于用一个模版去图像上寻找与它相似的区域，与卷积模式越相似，激活值越高，从而实现特征的提取。

1、1d 2d 3d卷积示意

一般情况下，卷积核在几维上滑动就是几维卷积。
一维卷积示意图

二维卷积示意图

三维卷积示意图

二、卷积的基本属性

卷积核(Kernel)：卷积操作的感受野，直观理解是一个滤波矩阵，普遍使用的卷积核大小为3×3、5×5等；
步长（Stride）：卷积核遍历特征图时每步移动的像素，如步长为1则每次移动1个像素，步长为2则每次移动2个像素（即跳过1个像素），以此类推；
填充（Padding）：处理特征图边界的方式，一般有两种，一种是对边界外完全不填充，只对输入像素执行卷积操作，这样会使输出特征图的尺寸小于输入特征图尺寸；另一种是对边界外进行填充（一般填充为0），再执行卷积操作，这样可使输出特征图的尺寸与输入特征图的尺寸一致；
通道（Channel）：卷积层的通道数（层数）。
如下图是一个卷积核（kernel）为3×3、步长（stride）为1、填充（padding）为1的二维卷积：

三、卷积的计算过程

卷积的计算过程非常简单，当卷积核在输入图像上扫描时，将卷积核与输入图像中对应位置的数值逐个相乘，最后汇总求和，就得到该位置的卷积结果。不断移动卷积核，就可算出各个位置的卷积结果。如下图：

四、卷积的各种类型

1、标准卷积

（1）二维卷积（单通道卷积）

在上面的示意图中已经显示过，表示只有一个通道的卷积。如下图是一个卷积核（kernel）为3×3、步长（stride）为1、填充（padding）为0的卷积：

（2）二维卷积（多通道卷积）

拥有多个通道的卷积，例如处理彩色图像时，分别对R, G, B这3个层处理的3通道卷积，如下图：

再将三个通道的卷积结果进行合并（一般采用元素相加），得到卷积后的结果，如下图：

（3）三维卷积

卷积有三个维度（高度、宽度、通道），沿着输入图像的3个方向进行滑动，最后输出三维的结果，如下图：

（4）1x1卷积（1 x 1 Convolution）

当卷积核尺寸为1x1时的卷积，也即卷积核变成只有一个数字。如下图：

从上图可以看出，1x1卷积的作用在于能有效地减少维度，降低计算的复杂度。1x1卷积在GoogLeNet网络结构中广泛使用。

2、