AttributeError: ‘DistributedDataParallel‘ object has no attribute ‘XXXX‘

使用多卡并行训练时,调用model里面的某个子模块时,会报如下错误:
AttributeError: ‘DistributedDataParallel’ object has no attribute ‘xxxx’

class train_model(nn.Module):
    def __init__(self, args):
        .
        .
        .
	def forward(self, x): 
	    x = self.backbone(x)
	    x = self.layer1(x)
	    x = self.layer2(x)
	    .
	    .
	    .

在训练代码中:若采用多卡并行训练,model = nn.DataParallel(train_model)
若想调用backbone之后的结果, x=model.backbone(feats)
则会报错:AttributeError: ‘DistributedDataParallel’ object has no attribute ‘backbone’

此时,model下的子网络结构backbone、layer1、layer2的调用方法会发生改变,如下所示
x=model.module.backbone(feats)

直接调用(不加module)适合单卡训练的情况

评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值