Pytorch神经网络工具箱二

一、继承nn.Module基类并应用模型容器构建模型

1.使用nn.Sequential模型容器

运行结果 ：

2.使用nn.ModuleList模型容器

1. 使用nn.ModuleDict模型容器

二、自定义网络模块

·残差块有两种，一种是正常的模块方式，将输入与输出相加，然后应用激活函数ReLU。

·另一种是为使输入与输出形状一致，需添加通过1×1卷积调整通道和分辨率。

·组合这两个模块得到现代经典RetNet18网络结构。