10、基于 ImageNet 数据集训练 ResNet

基于 ImageNet 数据集训练 ResNet

1. ResNet 架构概述

ResNet（残差网络）是一种深度卷积神经网络，在图像识别任务中表现出色。我们将实现的是 He 等人在 2015 年提出的 ResNet50 架构。之所以称为 ResNet50，是因为该网络架构中有五十个权重层（即卷积层或全连接层）。具体计算如下：
[
(3\times3)+(4\times3)+(6\times3)+(3\times3) = 48
]
再加上残差模块前的一个卷积层和 softmax 分类器前的全连接层，总共 50 层。

ResNet 有三种不同的模块：
- 原始残差模块 ：基础的构建块。
- 带瓶颈的残差模块 ：增加了一个额外的卷积层，有助于减少空间体积的维度。
- 预激活模块 ：改变了 RELU、CONV 和 BN 的顺序。

在实现 ResNet 时，我们将使用带瓶颈和预激活的残差模块版本。

2. ResNet50 架构详细实现

以下是 ResNet50 架构的详细构建步骤：
1. 第一层卷积 ：应用一个 7×7 的卷积，步长为 2×2。
2. 最大池化层 ：使用一个 3×3 大小、步长为 2×2 的最大池化层，将输入体积的空间维度从 224×224 快速降至 56×56。
3. 堆叠残差模块 ：
-