多GPU训练保存的参数，单GPU的环境，KeyError: ‘base.conv1.weight‘

已于 2022-03-06 16:39:13 修改
阅读量1.5k 收藏
点赞数 3
分类专栏： 解决程序bug # Ubuntu 文章标签： 深度优先 算法 leetcode
于 2021-06-08 17:24:19 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_42820467/article/details/117710137
版权 
def load_param(self, model_path):
        param_dict = torch.load(model_path)
# =============================================================================
#         for i in param_dict:
#             if 'fc' in i:
#                 continue
#             self.state_dict()[i].copy_(param_dict[i])
# =============================================================================
     # 源代码是多GPU训练，单gpu时出问题       
        for i in param_dict:
            j = i.replace("base.","")
            if 'fc' in i:
                continue
            if j in self.state_dict().keys():
                self.state_dict()[j].copy_(param_dict[i])

注释内的在运行时报错，KeyError: ‘base.conv1.weight’，是由于多GPU训练保存的参数单GPU的环境无法直接用。改为注释下面的

Out of memory error on GPU 0. Cannot allocate 28.125000MB memory on GPU 0, 11.598755GB memory has be
**My Coding Family**
12-25 789
🏆本文收录于专栏，主要记录项目实战过程中所遇到的Bug或因后果及提供真实有效的解决方案，希望能够助你一臂之力，帮你早日登顶实现财富自由🚀；同时，欢迎大家！持续更新中，up！up！up！！
KeyError: ‘conv1.1.0.weight‘
weixin_44905678的博客
09-28 3598
KeyError: ‘conv1.1.0.weight‘ 最近在训练faster rcnn +resnet101时，出现了很多问题。 先是训练VOC2007数据集，训练了一周没有框。后来发现原因是载入权值出现了问题，应该这样去载入。 def resnet101(pretrained=False, **kwargs): model = ResNet(Bottleneck, [3, 4, 23, 3], **kwargs) if pretrained: model.load_st
（９）训练时报错KeyError: ‘conv1.1.0.weight‘
weixin_40227656的博客
07-17 9539
将B_mobilenet_yolov4_lite的PANet改为原来的3x3卷积，命名为L_mobilenet-yolov4_VOC，即将B_yolov4的主干网络换为mobilenet，训练时报错： Traceback (most recent call last): File "/home/lidan/PycharmProjects/yolov4/L_mobilenet-yolov4_VOC_0717/train.py", line 221, in <module> pret
pytorch多GPU训练单GPU测试出错，解决预训练模型se_resnext50_32x4d()问题
qq_37612828的博客
08-21 2347
多卡训练后的保存模型开头为"module.XXX"，参考两篇博客加载仍然报错，仔细研究发现，根据se_resnext50_32x4d()预训练模型改编的模型有些层名字中含有“XXXfc_module.layerXXX"，多卡训练后变成”module.XXXfc_module.layerXXX"。此时根据python中字符串替换函数，string.replace('module.', '')把后面的"module."也给误伤删掉了导致错误，因此在函数中加一个1，即string.replace('module.
unexpected key "module.conv1_1.weight" in state_dict
Noonebirdyou的博客
07-25 4182
在模型加载时出现如下错误 异常位置 save_filename = '%s_net_%s.pth' % (epoch_label, network_label) save_path = os.path.join(self.save_dir, save_filename) network.load_state_dict(torch.load(save_path)) 异常信息 File "/data...
KeyError: ‘layer1.1.bn1.bias‘
qq_41876456的博客
11-30 1372
在跑AICITY2020_DMT_HST的代码时遇到的问题，记录一下 参考文章 问题描述 加载resnet101模型的时候，参数多了 解决方法 将不用的参数过滤掉 #原代码 # def load_param(self, model_path): # param_dict = torch.load(model_path) # if 'state_dict' in param_dict: # param_dict = param_dict['state_d
AssertionError: weight model.layers.0.self_attn.q_proj.weight does not exist
sqlora的专栏
11-08 1177
通义千问2.5-7B-Instruct-AWQ量化，但在npu上运行报上面错误，奇怪?： Exception:weight model.layers.0.self_attn.q_proj.weight does not exist AssertionError: weight model.layers.0.self_attn.q_proj.weight does not exist https://www.modelscope.cn/models/Qwen/Qwen2.5-7B-Instruc
笔记：caffe ssd gpu训练自己的数据集
shuli0614的博客
02-22 918
caffe ssd GPU训练自己的数据集一、caffe环境搭建二、数据集三、训练和测试 一、caffe环境搭建 环境搭建过程网上有很多教程，可能要踩些坑吧，正常，这里不多赘述，主要是我当时也没做记录，实在难以复现那个过程了。 caffe用的weiliu89，先克隆下来，然后再把ssd分支checkout，代码如下： git clone https://github.com/weiliu89/ca...
YOLOv5：代码阅读（一）：train.py；yaml文件
kobayashi_的博客
11-11 4230
YOLOv5：代码阅读（一） 文章目录YOLOv5：代码阅读（一）1.yaml文件1.1 从yaml文件中解析yolov5整体基本框架问题:Focus是啥模块？问题:Conv的咋定义的问题:CSPNet是如何实现的问题:SPP的实现问题:head是怎样的问题:如何根据yaml文件生成模型2. train.py[^2]问题: yolov5训练方式问题: 训练策略问题: nbs是什么==问题: yolov5用的loss是怎么样的==问题：check_anchor函数问题：使用超参数进化算法[^5] 1.yaml
深度学习error记录（自用|持续更新）
Alannah的个人学习记录
05-20 1559
目录1.RuntimeError: Could not run 'torchvision::nms' with arguments from the 'CUDA' backend. 1.RuntimeError: Could not run ‘torchvision::nms’ with arguments from the ‘CUDA’ backend. Traceback (most recent call last): File "/opt/yyl/yolov5/train.py", line
解决pytorch多GPU训练保存的模型,在单GPU环境下加载出错问题
01-21
背景 在公司用多卡训练模型，得到权值文件后保存，然后回到实验室，没有多卡的环境，用单卡训练，加载模型时出错，因为单卡机器上，没有使用DataParallel来加载模型，所以会出现加载错误。 原因 DataParallel包装的模型在保存时，权值参数前面会带有module字符，然而自己在单卡环境下，没有用DataParallel包装的模型权值参数不带module。本质上保存的权值文件是一个有序字典。 解决方法 1.在单卡环境下，用DataParallel包装模型。 2.自己重写Load函数，灵活。 from collections import OrderedDict def myOwnLoa
Missing key(s) in state_dict
l2181265的博客
10-11 4117
这种错误多半是模型加载错误导致。排查测试代码的模型，与加载的模型是否是同一个。 错误代码： Missing key(s) in state_dict: "input_block.conv1.conv.weight",... Unexpected key(s) in state_dict: "module.input_block.conv1.conv.weight",... 错误分析： 区别在于一个加了module，一个没加。 解决办法： 训练模型时，在服务器使用了多GPUtorch.nn.DataPara
pytorch 正向与反向传播的过程 获取模型的梯度（gradient），并绘制梯度的直方图
jasneik的博客
04-12 6497
记录一下怎样pytorch框架下怎样获得模型的梯度 文章目录引入所需要的库一个简单的函数模型梯度获取先定义一个model如下定义两个获取梯度的函数定义一些过程与调用上述函数的方法可视化一下梯度的histogram 引入所需要的库 import os import torch import torch.nn as nn import torch.nn.functional as F from collections import OrderedDict 一个简单的函数 z=3y2=3(x+2)2z = 3y
Sobel求图像梯度(从0实现以及cv2实现)
Hu_Linson的博客
10-15 1516
tensor的像素值特别接近，我们可以简单的设定一个阈值，将无用像素设置为0，并将其他像素归一化到0-255区间，就可以得到近似的结果。二者图像显示不同的原因是因为cv2提取的是灰度图像 numpy像素值在0-255之间，而tensor不同。图像梯度可以把图像看成二维离散函数，图像梯度其实就是这个二维离散函数的求导。图像梯度: G(x,y) = dx(i,j) + dy(i,j);其中，I是图像像素的值(如：RGB值)，(i,j)为像素的坐标。图像就是函数，梯度对应的数值就是像素值的突变情况。
解决Pytorch下报错Missing key(s) in state_dict: "resnet.conv1.0.weight",和 Unexpected key(s) in state_dict
热门推荐
梦坠凡尘
04-25 2万+
运行predict.py时报错如下： RuntimeError: Error(s) in loading state_dict for VisitNet: Missing key(s) in state_dict: “resnet.conv1.0.weight”, “resnet.conv1.1.weight”, “resnet.conv1.1.bias”, “resnet.conv1.1.run...
训练efficientnetv2报错：KeyError: ‘blocks.40.expand_conv.conv.weight‘
weixin_46135327的博客
05-10 405
在train.py中有三处调整模型权重的地方，需要匹配才能可以。三处都得统一格式，s,m,l 三种类型应选定一种，否则报错。出现此问题是因为模型权重不匹配。
pytorch加载模型报错Unexpected key(s) in state_dict: module.conv1.weight, module.bn1
Hello Word!
06-28 1万+
文章目录代码报错原因解决 代码 import models arch = 'resnet50' model = models.__dict__[arch]() checkpoint = torch.load(ckptFile) model.load_state_dict(checkpoint['state_dict']) model = torch.nn.DataParallel(model).cuda() 报错 Traceback (most recent call last
unexpected key “model.conv1.weight” in state_dict
温瞳
01-10 2881
被自己都蠢哭了～～ 一直报错没有调整过来，以为是key的问题，后来发现是自己导入key的方式有问题，周末要好好研究一下这个 state_dict，以免之后再次出现这种超级低级的错误！！ 之前的问题是 unexpected key “model.conv1.weight” in state_dict 其实是我载入模型参数时，我使用的是 model_reid.model.load_state_dict...
Installation Error: Exception: ('install-model', ('b2a0e8e225279744a7db90e6c0de9515', {'name': 'SUPIR-v0Q.ckpt', 'type': 'checkpoint', 'base': 'SUPIR', 'save_path': 'checkpoints/SUPIR', 'description': 'SUPIR checkpoint model', 'reference': 'https://huggingface.co/camenduru/SUPIR/tree/main', 'filename': 'SUPIR-v0Q.ckpt', 'url': 'https://huggingface.co/camenduru/SUPIR/resolve/main/SUPIR-v0Q.ckpt', 'size': '5.33GB', 'installed': 'False', 'ui_id': 'b2a0e8e225279744a7db90e6c0de9515'}))Installation Error: Exception: ('install-model', ('b2a0e8e225279744a7db90e6c0de9515', {'name': 'SUPIR-v0Q.ckpt', 'type': 'checkpoint', 'base': 'SUPIR', 'save_path': 'checkpoints/SUPIR', 'description': 'SUPIR checkpoint model', 'reference': 'https://huggingface.co/camenduru/SUPIR/tree/main', 'filename': 'SUPIR-v0Q.ckpt', 'url': 'https://huggingface.co/camenduru/SUPIR/resolve/main/SUPIR-v0Q.ckpt', 'size': '5.33GB', 'installed': 'False', 'ui_id': 'b2a0e8e225279744a7db90e6c0de9515'}))
最新发布
04-24
<think>嗯，用户遇到了安装SUPIR-v0Q.ckpt模型时的异常问题，需要解决。首先，我需要回想一下常见的模型安装错误可能有哪些。常见的可能包括路径问题、依赖库版本不兼容、文件损坏或权限不足等。 首先，用户提到的SUPIR-v0Q.ckpt可能是一个PyTorch模型文件，安装时可能涉及加载模型权重。这时候需要检查文件路径是否正确，是否有中文或特殊字符，这可能导致读取失败。比如，引用[1]里提到使用完整路径避免错误，所以需要提醒用户检查路径是否正确，并且使用绝对路径。 接下来是依赖库的问题。PyTorch版本是否匹配？如果模型是用特定版本的PyTorch训练的，用户可能安装了不兼容的版本。需要建议用户检查PyTorch和相关库的版本，比如torchvision，并确保CUDA/cuDNN的版本与PyTorch匹配。例如，引用[3]提到OpenCV的特定版本，说明库版本的重要性。 然后，文件完整性也是关键。用户可能下载的模型文件损坏或不完整，建议验证MD5/SHA哈希值，或者重新下载。另外，权限问题在Linux或Mac上可能出现，需要检查文件权限，或者尝试以管理员权限运行。 还有可能是代码中的问题，比如加载模型的代码是否正确。用户可能需要检查是否有拼写错误，是否正确调用了load_state_dict，或者是否在加载前实例化了模型结构。引用[2]中提到了配置文件的调整，比如修改.cfg文件，所以用户可能需要检查模型配置是否正确。 此外，CUDA内存不足也可能导致问题，尤其是在显存较小的GPU上运行大模型时。可以建议用户尝试在CPU上运行，或者调整batch size。 如果用户提供了具体的错误信息，比如报错日志，可以更精准地定位问题。比如，如果是缺少某个模块，可能是依赖库未安装；如果是形状不匹配，可能是模型结构不对。 最后，建议用户查看官方文档或社区支持，比如GitHub的issue部分，可能有其他人遇到类似问题并找到了解决方案。同时，提供详细的错误日志有助于进一步诊断问题。</think>针对SUPIR-v0Q.ckpt模型安装异常问题，建议按以下步骤排查： ### 一、基础环境验证 1. **框架版本匹配** - 确认PyTorch版本与模型要求一致（通常需要≥1.8.0） - 使用命令验证： ```python import torch print(torch.__version__) # 需输出类似"1.13.1+cu116" ``` 2. **CUDA兼容性** - 通过`nvidia-smi`查看CUDA版本，需与PyTorch编译版本对应 - 使用`torch.cuda.is_available()`验证GPU可用性 ### 二、文件配置检查 1. **模型文件完整性** - 检查.ckpt文件大小（通常≥2GB） - 使用MD5校验： ```bash md5sum SUPIR-v0Q.ckpt # 对比官方提供的哈希值 ``` 2. **路径规范化** - 避免中文路径，建议使用全英文路径如： ```python model_path = "/home/projects/SUPIR/models/SUPIR-v0Q.ckpt" ``` - 路径长度建议≤260字符（Windows限制） ### 三、代码加载规范 1. **正确加载方法** ```python model = YourModelClass() # 需先实例化模型结构 state_dict = torch.load(model_path, map_location='cuda:0') model.load_state_dict(state_dict['state_dict']) # 注意键名可能不同 ``` 2. **内存优化技巧** - 尝试半精度加载： ```python torch.load(..., map_location=lambda storage, loc: storage.half()) ``` ### 四、常见报错解决方案 | 错误类型 | 解决方案 | |---------|---------| | `KeyError: 'module.conv1.weight'` | 使用`strict=False`参数加载或过滤键名 | | `CUDA out of memory` | 添加`torch.cuda.empty_cache()`或减小batch_size | | `UnpicklingError` | 升级Python到3.8+版本或重新下载模型文件 | ### 五、高级调试方法 1. 使用模型结构可视化工具： ```python from torchsummary import summary summary(model, input_size=(3, 512, 512)) ``` 2. 分阶段加载参数： ```python for name, param in state_dict.items(): try: model.load_state_dict({name: param}, strict=False) except Exception as e: print(f"Failed loading {name}: {str(e)}") ```
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值