模型的定义与创建 init forward

这段代码定义了一个定制化的 ResNet 架构，包括对权重初始化、网络层的定义和前向传播的实现。以下是代码中各个关键部分的触发机制详解：

1. __init__ 方法的触发

__init__ 方法是类的构造函数，用于初始化新创建的对象。在这段代码中，__init__ 方法用于构建模型的结构，包括卷积层、批归一化层、线性层以及自定义的模块如 NormedLinear 和 RSG。

• __init__ 在创建模型实例时自动触发，例如当你调用 resnet32(), resnet56(), 或 resnet110() 函数来创建一个 ResNet 模型的实例时。这些函数内部会创建一个 ResNet_s 类的实例，并传递初始化参数。

2. forward 方法的触发

forward 方法定义了模型的前向传播逻辑，即如何处理输入数据并返回输出。

• forward 方法在调用模型实例对输入数据进行处理时触发。在 PyTorch 中，这通常通过直接调用模型实例来完成，例如 output = model(input_data)。这里的 model 是一个 ResNet_s 实例，input_data 是输入到模型的数据。

具体例子

当你实例化一个模型并对其进行训练或评估时，__init__ 和 forward 会在不同的时刻被触发：

• __init__ 被触发一次来构建模型的结构。
• forward 被多次触发，每次模型接收到新的数据时都会调用。

特殊情况：RSG 的触发

RSG 是一个自定义模块，它在 ResNet_s 的 forward 方法中条件性地被触发：

• 只有当 phase_train 参数设置为 True 时，RSG 的前向传播才会被执行。这意味着 RSG 主要在训练阶段被用来处理头部和尾部类别的数据不平衡。

初始化权重 (_weights_init)

权重初始化在模型构造结束后通过 self.apply(_weights_init) 调用。_weights_init 函数通过遍历所有模型中的层，对每个线性层或卷积层应用 Kaiming 正态初始化方法。

这种设计确保了每次创建模型实例时，所有层的权重都被适当地初始化，从而为学习过程提供了良好的起点。