RuntimeError: Error(s) in loading state_dict for DistributedDataParallel: Missing key(s) in state_di

最新推荐文章于 2024-12-22 23:29:27 发布
最新推荐文章于 2024-12-22 23:29:27 发布
阅读量668 收藏 3
点赞数 3
文章标签： 深度学习 python 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_57948968/article/details/138462581
版权

RuntimeError: Error(s) in loading state_dict for DistributedDataParallel: Missing key(s) in state_dict: "module.stage.0.0.coordinate_attention.conv1.weight",

Traceback (most recent call last): File "/root/miniconda3/envs/litepose/lib/python3.8/site-packages/torch/multiprocessing/spawn.py", line 59, in _wrap fn(i, *args) File "/root/autodl-tmp/litepose/dist_train.py", line 325, in main_worker model.load_state_dict(checkpoint['state_dict']) File "/root/miniconda3/envs/litepose/lib/python3.8/site-packages/torch/nn/modules/module.py", line 1406, in load_state_dict raise RuntimeError('Error(s) in loading state_dict for {}:\n\t{}'.format( RuntimeError: Error(s) in loading state_dict for DistributedDataParallel: Missing key(s) in state_dict: "module.stage.0.0.coordinate_attention.conv1.weight", "modu

最低0.47元/天 解锁文章
言末楠
关注
2022-03-25 redis哨兵+主从的组建及failover流程
悟世之路
03-25 408
目录 摘要: 哨兵+主从的组建: 哨兵控制failover: 哨兵源码: 摘要: 记录redis哨兵+主从的组建及failover流程, 由于是动态结构, 所以主要是时序图. 哨兵+主从的组建: 哨兵控制failover: 哨兵源码: /* Redis Sentinel implementation * * Copyright (c) 2009-2012, Salvatore Sanfilippo <antirez at gmail dot
cvpr2015papers
ZhangPY的专栏
03-02 9277
@http://www-cs-faculty.stanford.edu/people/karpathy/cvpr2015papers/ CVPR 2015 papers (in nicer format than this) maintained by @karpathy NEW: This year I also embedded the (1,2-gram) tfidf
解决 RuntimeError: Error(s) in loading state_dict for : Missing key(s) in state_dict
lei_qi的博客
07-09 1万+
使用torch.nn.DataParallel多卡训练模型之后，加载模型前也需要打开多卡读取模型。 我最近使用多卡训练了一个模型。保存的方式是state_dict的方式。 然后在加载模型的时候就一直出错。 raise RuntimeError(‘Error(s) in loading state_dict for {}:\n\t{}’.format( RuntimeError: Error(s) in loading state_dict for BertMultiClassification: Missi
RuntimeError: Error(s) in loading state_dict for DistributedDataParallel: size mismatch for module
Marmaladei的博客
01-27 1752
观察发现，模型所需的tensor维度和checkpoint的相差很多，显然就不是一个层的，因此怀疑是checkpoint和model在做各层映射对应的时候出了问题。我这边直接用的是facebook的faskrcnn_benchmark里的align_and_update_state_dicts函数做层映射的，函数的说明大致意思是通过层名的后缀来做映射，所以如果有重名的层，就会导致映射错误！而我新加的几层的命名，刚好有个是self.conv1，应该是和resnet101里的某层对应上了，导致出错！
【Bug解决】RuntimeError:Error(s)in loading state_dict for DataParallel:Missing key(s)in state_dict
学习 & 分享 ~
03-14 1万+
报错信息： 原因： 加载模型参数时，关键字不匹配，原因是模型只能加载 key 完全一致的参数，可以按照下述方式解决，这样模型会跳过不匹配的参数，如果你需要完全 load 进来，就需要手动更改 model 的参数关键字名称。解决：...
RuntimeError: Error(s) in loading state_dict for DataParallel
如果想成为中心，那么就到中心去吧。
05-12 1806
出现的问题 字典中的关键词对不上，导致加载模型错误。 解决方法 根据Missing key(s)中的提示，进行修改。 # original saved file with DataParallel state_dict = torch.load('myfile.pth.tar') # create new OrderedDict that does not contain `module.` from collections import OrderedDict new_state_dict = Orde
RuntimeError: Error(s) in loading state_dict for DataParallel:
aizsa111的博客
07-17 1096
2、训练完成后，用于测试时发现参数不一致（还是模型更改了，或者模型设置错了）1、加载预训练模型时发现前后参数不一致（模型更改了）；
RuntimeError: Error(s) in loading state_dict for DataParallel: Missing key(s) in state_dict: “modul
NanXian Lin的博客
05-03 895
解决：加个False
Python运行报错_RuntimeError: Error(s) in loading state_dict for DataParallel:
weixin_51659315的博客
12-13 1482
Debug发现checkpoint['model_state_dict'']才是要删除的预训练模型对应的字典。
pytorch加载模型报错RuntimeError:Error(s) in loading state_dict for DataParallel
热门推荐
qq_29631521的博客
06-19 3万+
完整报错信息： RuntimeError:Error(s) in loading state_dict for DataParallel： Unexpected key(s) in state_dict:“module.resnet.bn1.num_batches_tracked”,"module.resnet.layer1.0.bn1.num_batches_tracked"等等，遇到这种错误，...
pytorch加载模型错误 RuntimeError: Error(s) in loading state_dict for Model: Missing key(s) in state_dict
longshaonihaoa的博客
10-14 7269
闲的没事，写写模型加载。 模型在保存时侯以键对值保存，同时在加载时根据现在网络的键值查找模型对应的键值，然后加载。一般报错是因为模型和网络的键值不匹配。 1、最常见的问题是键值多了或者少了 module. 此种情况是模型在DataParallel或者DDP训练后保存的键值有module.，对应的网络的键值则没有module. 1)可以通过： model = nn.DataParallel(model) 将模型的键值加上module. 2) 也可以通过遍历模型的键对值修改键值。 如：...
RuntimeError: Error(s) in loading state_dict for ..:Missing key(s) in state_dict: …Unexpected key...
关于我的学习记录
12-07 7728
原因：预训练权重层数的键值与新构建的模型中的权重层数名称不吻合
RuntimeError: Error(s) in loading state_dict for DistributedDataParallel报错解决
最新发布
weixin_73838412的博客
12-22 459
但是我最后debug出来似乎都不是以上原因，而是因为我在一个网络（假设是net1）中嵌套了一个网络（net2），但是在train文件中，我进行了model.load_state_dict（）（这里想要加载的是net1的权重）这时候会可能会把这个权重加载到嵌套中的另一个网络（net2），而不是本身的网络（net1）中，所以我将这两个网络单独定义，然后各自创建实例，加载权重，就解决这个问题了。3.我修改了模型的结构，导致参数加载不匹配，需要在加载时指定一个参数，strict=false。
RuntimeError: Error(s) in loading state_dict for ***: Missing key(s) in state_dict:
Snoopy_Dream
12-12 1万+
原因，model需要先放到cuda上，根据你的设置，所以是load_state_dict错了。 原来： model = se_resnet20_v2() model.load_state_dict(torch.load('/home/zj/senetial/save_models/SENet/SEnet_model_2.pth') if use_gpu and len(device_ids)...
【错误记录】RuntimeError: Error(s) in loading state_dict for DataParallel: size mismatch for module
Qz574662449的博客
11-30 2万+
【记犯的一次低级错误】 完整错误信息如下： RuntimeError: Error(s) in loading state_dict for DataParallel: size mismatch for module.lstm_block.lstm.weight_ih_l0: copying a param with shape torch.Size([1024, 500]) from checkpoint, the shape in current model is torch.Size([1024
RuntimeError: Error(s) in loading state_dict for UNet: Unexpected key(s) in state_dict:
12-14
当出现"RuntimeError: Error(s) in loading state_dict for UNet: Unexpected key(s) in state_dict"错误时，这意味着在加载模型参数时，state_dict中的键与模型中的键不匹配。这可能是由于模型结构的更改或使用不同的模型架构导致的。为了解决这个问题，可以使用以下方法： 1.检查模型结构是否与保存的模型参数相同。如果模型结构已更改，则需要相应地更改保存的模型参数。 2.如果模型结构相同，则需要检查state_dict中的键和模型中的键是否匹配。可以使用以下代码检查它们： ```python model = UNet() state_dict = torch.load(PATH) for k in state_dict.keys(): if k not in model.state_dict().keys(): print('Unexpected key in state_dict:', k) ``` 3.如果发现不匹配的键，则需要将state_dict中的键重命名为模型中的键。可以使用以下代码实现： ```python model = UNet() state_dict = torch.load(PATH) new_state_dict = {} for k, v in state_dict.items(): name = k if k.startswith('module.'): name = k[7:] # 去掉'module.'前缀 new_state_dict[name] = v model.load_state_dict(new_state_dict) ``` 以上是解决"RuntimeError: Error(s) in loading state_dict for UNet: Unexpected key(s) in state_dict"错误的方法。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值