14、卷积神经网络：从全连接网络到高效图像分析

卷积神经网络：从全连接网络到高效图像分析

在当今的图像分析领域，卷积神经网络（CNNs）已经成为了一种强大的工具。但在深入了解CNN之前，我们先来看看传统的全连接神经网络（FCNNs）。

全连接神经网络的困境

传统的人工神经网络（ANN）架构通常被称为全连接神经网络（FCNNs）。在FCNNs中，第i层的每个神经元都与第i - 1层和第i + 1层的所有神经元相连。每两个神经元之间的连接都有两个参数：权重和偏置。随着网络层数和神经元数量的增加，参数数量会急剧上升。

例如，分析一个150×150像素的小图像，输入层就会有22,500个神经元。若连接到一个有500个神经元的隐藏层，所需的参数数量将达到22,500×500 = 11,250,000。在实际应用中，处理高维图像时，参数数量会变得极其庞大。对于一个1000×1000的输入图像和一个有2000个神经元的隐藏层，参数数量将达到20亿。

这种大量的参数使得训练FCNNs变得非常耗时，即使在配备多个图形处理单元（GPUs）和中央处理单元（CPUs）的设备上也是如此。对于处理和内存能力有限的个人电脑来说，训练这样的网络几乎是不可能的。

深度学习的直觉

在传统的图像分析任务中，特征提取是关键步骤。这通常需要使用一组能够代表所解决问题的特征，但选择适合特定问题的最佳特征是一项挑战。因为一个特征可能对某个问题很有效，但对另一个问题却很弱，这可能需要该领域专家的帮助。

在传统的分类问题中，目标是找到能够分离不同类别的最佳特征集。假设我们基于函数f1()计算特征1，从图5 - 1可以看到，该函数对第一类的左半部分效果较好，但对同一类的右半部分效果很差，两类之间