17、卷积神经网络：原理、优势与实践

卷积神经网络：原理、优势与实践

1. 卷积层的稀疏连接与特征图组合

在处理图像时，每个神经元并非接收图像中所有像素的输入，而是稀疏连接的。这种连接方式从效率角度来看十分有益，因为较少的连接意味着更少的计算量。而且，让一个神经元考虑图像中的每一个像素来对物体进行分类，在直觉上也是不合理的。例如，图中的船图像，无论天空是否多云、太阳是否可见或水面波浪高低，都应被分类为船。

卷积层由多个通道（特征图）组成，每个通道对应一个特定的特征，如垂直线、水平线、对角线或彩色块。以一个具有四个输出通道的卷积层为例，每个通道就像一个单一的特征图，能在图像的任何位置识别特定特征。所有输出通道共同构成一个卷积层，同一通道内的所有神经元共享权重，但不同通道具有不同的权重。值得注意的是，我们无需明确定义这些通道要识别的特征，网络会在训练过程中自行学习。

2. 卷积层与全连接层组合成网络

卷积层的输出通道数量与输入通道数量是解耦的。我们可以将卷积层堆叠在一起，前一层的输出通道为下一层提供输入。随着网络深度的增加，层所识别的特征变得越来越复杂，神经元的感受野也会增大。例如，顶层卷积层的一个神经元会受到输入图像中大量像素的影响，即使其内核大小与底层卷积层相同。

通常，卷积神经网络不仅包含卷积层，还会在网络末尾添加一个或多个全连接层，以整合卷积层提取的所有特征。对于分类问题，最后一个全连接层的神经元数量通常与类别数量相同，并使用 softmax 输出函数，以便将网络的输出解释为图像包含不同类别物体的概率。

3. 稀疏连接和权重共享的影响

稀疏连接和权重共享对卷积网络有两个直接影响：
- 稀疏连接意味着每个神经元的计算量