RuntimeError: Error(s) in loading state_dict for UnetPlusPlus:

本文介绍如何在遇到RuntimeError:Error(s) in loading state_dict for DataParallel时,正确地将模型参数从单独文件迁移到DataParallel模块,并设置strict=False以适应不完全匹配的情况。

1.在载入模型参数前加上:

model = nn.DataParallel(model) 

比如我的:

model_effi7 = torch.nn.DataParallel(model_effi7)
model_effi7.load_state_dict(torch.load(model_path_effi7))

若再出现:RuntimeError:Error(s) in loading state_dict for DataParallel:
则如此修改,从属性state_dict里面复制参数到这个模块和它的后代。如果strict为True, state_dict的keys必须完全与这个模块的方法返回的keys相匹配。如果为False,就不需要保证匹配。

model_effi7.load_state_dict(torch.load(model_path_effi7),False)
当MobileNetV2加载state_dict出现RuntimeError时,可根据不同错误类型采用不同解决方法: - **出现unexpected key(s) in state_dict错误**: 若加载模型时出现`RuntimeError: Error(s) in loading state_dict for Net:unexpected key(s) in state_dict: XXX`,可以在加载时设置`strict=False`,示例代码如下: ```python import torch from torchvision.models import mobilenet_v2 model = mobilenet_v2() try: model.load_state_dict(torch.load('models/params.pt')) except RuntimeError as e: if 'unexpected key(s) in state_dict' in str(e): model.load_state_dict(torch.load('models/params.pt'), strict=False) ``` 这种方法可以忽略参数字典中多余的键,避免因多余键导致的加载错误[^1]。 - **出现Missing key(s) in state_dict错误**: 若错误是由于模型训练时使用多张GPU并行训练,使保存的模型参数键值对中键开头多出现了`"module."`字符串,可去除该字符串后再加载。示例代码如下: ```python import torch from torchvision.models import mobilenet_v2 model = mobilenet_v2() checkpoint = torch.load('models/params.pt') new_state_dict = {} for k, v in checkpoint.items(): if k.startswith('module.'): k = k[7:] # 去掉 "module." new_state_dict[k] = v model.load_state_dict(new_state_dict) ``` 此方法可以解决因并行训练导致的键不匹配问题[^3]。 - **出现size mismatch错误**: 若出现`RuntimeError: Error(s) in loading state_dict for Network: size mismatch`,可参考以下修改方法,舍弃部分不匹配的参数: ```python import os import torch from torchvision.models import mobilenet_v2 from termcolor import colored def load_network(net, model_dir, strict=True, map_location=None): if not os.path.exists(model_dir): print(colored('WARNING: NO MODEL LOADED !!!', 'red')) return 0 print('load model: {}'.format(model_dir)) if map_location is None: pretrained_model = torch.load(model_dir, map_location={'cuda:0': 'cpu', 'cuda:1': 'cpu', 'cuda:2': 'cpu', 'cuda:3': 'cpu'}) else: pretrained_model = torch.load(model_dir, map_location=map_location) if 'epoch' in pretrained_model.keys(): epoch = pretrained_model['epoch'] + 1 else: epoch = 0 pretrained_model = pretrained_model['net'] net_weight = net.state_dict() for key in net_weight.keys(): net_weight.update({key: pretrained_model[key]}) # 舍弃部分参数,根据实际情况修改 net_weight.pop("some_layer.weight") net_weight.pop("some_layer.bias") net.load_state_dict(net_weight, strict=strict) return epoch model = mobilenet_v2() load_network(model, 'models/params.pt') ``` 该方法通过舍弃不匹配的参数,使模型能够加载其余匹配的参数[^4]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值