AttributeError: ‘DataParallel‘ object has no attribute ‘save‘

piex_l

于 2021-12-13 22:03:47 发布

阅读量4.4k

点赞数

CC 4.0 BY-SA版权

分类专栏：机器学习 linux环境配置 pytorch中的函数文章标签： pytorch 人工智能 python

本文链接：https://blog.youkuaiyun.com/piex_l/article/details/121915212

6 篇文章

订阅专栏

3 篇文章

订阅专栏

3 篇文章

订阅专栏

本文探讨了在PyTorch多GPU环境下使用DataParallel模型时遇到的'AttributeError: 'DataParallel' object has no attribute 'save''的问题，并提供了修复方法，即通过model.module替代model进行保存。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

trainer.model.save(self.dir, epoch, is_best=is_best)
AttributeError: 'DataParallel' object has no attribute 'save'

 trainer.model.save(self.dir, epoch, is_best=is_best)

上述代码为使用单机多卡并行前的代码，我的并行代码实现如下：

os.environ["CUDA_VISIBLE_DEVICES"] = "3,2,1"
model = torch.nn.DataParallel(model,device_ids=[0,1]).cuda()#括号里的model就不细说了

原因分析：AttributeError: ‘DataParallel‘ object has no attribute ‘save‘

在 torch 多GPU训练下，存储的是整个模型而不是model.state_dict(), 所以我们在调用model时需要使用model.module方式。在使用上述修改方法后，代码如下所示：

 trainer.model.module.save(self.dir, epoch, is_best=is_best)