torch.nn.DataParallel 注意事项：模型的字典结构改变

老光头_ME2CS

于 2020-09-03 21:24:17 发布

阅读量930

点赞数 1

CC 4.0 BY-SA版权

分类专栏： Pytorch 文章标签： pytorch

本文链接：https://blog.youkuaiyun.com/Forrest97/article/details/108393495

使用torch.nn.DataParallel后，模型的字典结构会改变，原本的属性被嵌套到`module`属性下。在访问模型参数时，需通过self._model.module进行操作。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

发现在使用如下torch.nn.DataParallel，原有模型的字典结构会发生一定变化

model = Model()
if torch.cuda.device_count() > 1:
  model = nn.DataParallel(model，device_ids=[0,1,2</