PyTorch模型组合——深入探讨nn.ModuleList和nn.Sequential

目录

一、前言

二、nn.ModuleList

三、nn.Sequential

四、如何选择使用哪个容器？

---

一、前言

当我们使用PyTorch构建深度学习模型时，可能会经常遇到nn.ModuleList和nn.Sequential这两个模块。它们都是PyTorch中用于构建神经网络模型的容器，但它们在设计和用法上有一些关键区别。

二、nn.ModuleList

nn.ModuleList是PyTorch中的一个容器，它允许你将多个模块组合在一起，形成一个更大的模块。它的主要特点如下：

1. 动态构建模块列表：你可以在创建nn.ModuleList后，随时动态添加模块到列表中。这对于那些需要在运行时根据条件构建不同子模块的情况非常有用。

2. 不会自动跟踪模块：nn.ModuleList不会自动跟踪其包含的模块，这意味着它的参数不会自动添加到父模块的参数列表中。你需要自己手动管理这些参数。

下面是一个使用nn.ModuleList的简单示例，其中我们创建了一个具有可变数量的全连接层的神经网络：

import torch.nn as nn

# 定义一个自定义神经网络模型 CustomModel，它继承自 nn.Module 类
class CustomModel(nn.Module):
    def __init__(se