21、图像识别：从全连接网络到卷积网络的转变

图像识别：从全连接网络到卷积网络的转变

1. 图像分类基础与挑战

在图像分类任务中，我们面临着诸多挑战。例如，在区分鸟类和飞机的问题上，之前使用的简单神经网络虽然能够拟合数据，但存在过拟合的问题。该网络在全连接层有大量可优化的参数，这使得它更擅长记忆训练集，而不是推广鸟类和飞机的特征。

具体来说，全连接网络为了检测图像中鸟类或飞机的各种可能平移情况，需要大量参数，这不仅容易导致模型记忆训练集，还缺乏位置独立性，从而难以进行有效的推广。我们可以通过使用各种重新裁剪的图像来增强训练数据，尝试强制模型进行推广，但这并不能解决参数过多的问题。

在图像分类任务中，有几个关键的基础概念和工具需要了解：
- 数据集与数据加载器 ：有许多带注释的图像数据集是公开可用的，很多可以通过 torchvision 访问。 Datasets 和 DataLoaders 为加载和采样数据集提供了简单而有效的抽象。
- 损失函数与概率输出 ：对于分类任务，在网络输出上使用 softmax 函数可以产生满足概率解释要求的值。在这种情况下，理想的损失函数是将 softmax 的输出作为非负对数似然函数的输入，在PyTorch中， softmax 和这种损失的组合称为交叉熵。
- 全连接网络处理图像 ：我们可以将图像视为像素值的向量，使用全连接网络处理它们，就像处理其他数值数据一样。然而，这样做很难利用数