[PyTorch]论文pytorch复现中遇到的BUG

最新推荐文章于 2023-04-02 00:03:22 发布
原创 最新推荐文章于 2023-04-02 00:03:22 发布 · 2.3k 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文档记录了在PyTorch中复现论文实验时遇到的三个主要问题：1) 使用zip迭代错误，原因在于返回了常量而非可迭代对象；2) DataParallel使用不当，需先将模型移动到GPU后再并行化；3) 从单GPU模型state_dict加载到多GPU模型时，由于module前缀导致参数未更新，解决方案是编写通用的权重加载函数。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

最低0.47元/天 解锁文章

200万优质内容无限畅学
急流勇进
关注
【图像去噪】论文复现：新手入门必看！DnCNN的Pytorch源码训练测试全流程解析！为源码做详细注释！补充DnCNN-B和DnCNN-3的模型训练和测试！附各种情况下训练好的模型权重文件！
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
08-12 1万+
- 以官方Pytorch源代码为基础，在DnCNN-S的基础上，增添DnCNN-B/CDnCNN-B、DnCNN-3模型训练和测试复现，代码注释非常详细，无论是科研还是应用，新手小白都能看懂，学习阅读毫无压力，去噪入门必备，适用于去噪、超分、JPEG去块任务； - 提供新增后的完整代码和训练好的模型权重文件，模型性能与论文中近似，可不训练直接测试； - 理论和源码结合，进一步加深理解算法原理、明确训练和测试流程 - 更换路径和相关参数即可训练自己的图像数据集
【图像超分】论文复现：新手入门必备！Pytorch实现SRGAN！手把手详细教程！代码注释详尽！可用于训练自己的数据集！实时验证模型性能！绘制PSNR曲线图！附训练好的各放大倍数的模型权重文件！
最新发布
主要更新底层视觉（去噪、超分等）相关的科研内容，形式为【论文精读】+【论文复现】
04-15 6116
【图像超分】论文精读：SRResNet/SRGAN【图像超分】论文复现：万字长文！Pytorch实现SRResNet代码修改无报错！踩坑全记录！适合各种深度学习新手！帮助你少走弯路！附修改后的代码和PSNR最优的模型权重文件！请配合上述论文精读文章使用，效果更佳！与原论文描述不一样的实现部分，也即可以修改的部分数据集使用：论文中是ImageNet随机选35000张图像，本文是VOC2012数据集16700张图像。数据集预处理：裁剪大小不同，论文是96×96，本文是88×88。
运行深度学习程序，最后输入一张图片进行结果验证，这是什么错误
zhangyue880820的博客
12-04 1397
Traceback (most recent call last): File "/home/zhangyue/shiyan1/predict.py", line 67, in <module> r_image = frcnn.detect_image(image) File "/home/zhangyue/shiyan1/frcnn.py", line 143, in detect_image roi_cls_locs, roi_scores, rois, _ = se...
在跑一个风格迁移的程序出现了一个问题RuntimeError: Given groups=1, weight of size [64, 3, 3, 3], expected input[1, 4, 5
weixin_43839245的博客
07-19 1万+
出现原因：这个报错的意思是，预期输入的图像通道是4，但是得到了3个通道的图像，所以在图片输入之前要把图像的通道变化一下： 原来的程序是： image = Image.open(image_path) 将其改为： image = Image.open(image_path) image=image.convert("RGB") 即可以跑了。 ...
RuntimeError: Given groups=1, weight of size [64, 3, 4, 4], expected input[6, 1, 512, 512] to have 3
qq_54000767的博客
04-02 3426
RuntimeError: Given groups=1, weight of size [64, 3, 4, 4], expected input[6, 1, 512, 512] to have 3
pytorch模型加载测试_pytorch模型加载方法汇总
weixin_39914975的博客
12-19 1492
Pytorch有很多方便易用的包，今天要谈的是torchvision包，它包括3个子包，分别是： torchvison.datasets ，torchvision.models ，torchvision.transforms ，分别是预定义好的数据集(比如MNIST、CIFAR10等)、预定义好的经典网络结构(比如AlexNet、VGG、ResNet等)和预定义好的数据增强方法(比如Resize、...
图像超分辨率算法EDSR的Pytorch版本复现代码，适合新手，修改后无bug，含制作好的h5数据集和最优PSNR的模型权重文件
04-12
pytorch环境：torch1.9.1+cuda11.1 再安装好所需的包即可运行。 文件目录： data：数据集和生成h5数据集的matlab文件 Set5：测试集Set5（matlab生成的.mat格式，不用matlab生成这个格式计算的PSNR有偏差，这样最准...
图像超分辨率SRResNet的Pytorch版本复现代码，适合新手入门，修改后无bug，含最优PSNR的模型权重文件
04-12
pytorch环境：torch1.9.1+cuda11.1 再安装好所需的包即可运行。 文件目录： checkpoint：存放训练过程中的模型文件 data：h5格式训练集位置，生成h5格式训练集的matlab代码 model：作者给出的模型文件位置 testsets...
pytorch中的pre-train函数模型引用及修改（增减网络层，修改某层参数等）
whut_ldz的博客
12-19 7万+
一、pytorch中的pre-train模型 卷积神经网络的训练是耗时的，很多场合不可能每次都从随机初始化参数开始训练网络。 pytorch中自带几种常用的深度学习网络预训练模型，如VGG、ResNet等。往往为了加快学习的进度，在训练的初期我们直接加载pre-train模型中预先训练好的参数，model的加载如下所示： import torchvision.models as mo
TypeError: zip argument #1 must support iteration
河山入梦来的博客
05-24 1万+
在Pytorch框架下，在修改resnet进行finetune时遇到了这么一个错误： TypeError: zip argument #1 must support iteration 参考了Bingoyear 老哥的博客，发现了问题所在，博客链接如下： https://blog.youkuaiyun.com/angel_hben/article/details/105731015?utm_medium=distribute.pc_relevant.none-task-blog-baidujs-1 原来在我修改r
pytorch中的小bug
dashan8608的博客
05-14 756
只用一个卡可用时，要在后边添加逗号 ， parser.add_argument('-d', '--sys_device_ids', type=eval, default=(0,)) 修改为 ValueError: Expected more than 1 value per channel when training, got input size [1, 256, 1, 1]...
Pytorch：盲点
小龙虾
07-15 2335
1. 用conda安装pytorch-gpu时，用这个命令就够了，网上其他人说的都不好使 conda install pytorch cuda92 注意得是清华源的 2. 比较两个行向量或者列向量，以期求得布尔数组时，必须要保证两边的数据类型一样，并且返回的布尔数组类型和比较的两个向量结构保持一致。另外，所有torch.返回的东西，如果要取得里面的值，必须要加.item() # !us...
pytorch出现RuntimeError: CUDA out of memory.
热门推荐
pursuit_zhangyu的博客
03-21 12万+
无论batch-size设置多小也是会出现这个问题的，我的原因是我将pytorch升级到了1.0.1，然后出现了这个问题 RuntimeError: CUDA out of memory. Tried to allocate 823.88 MiB (GPU 0; 7.93 GiB total capacity; 6.96 GiB already allocated; 189.31 MiB fr...
RuntimeError: CUDA out of memory in pytorch
小小白
07-09 3301
今天尝试了一下Transformer，一直遇到当validate若干次之后爆显存，一开始以为参数过多，batch size过大，但是无济于事。谷歌了相关内容，发现原来是需要加 with torch.no_grad(): 否则，积累的梯度应该是会一直放在显存里的...用了这一行就会停止自动反向计算梯度 emmmmm，记录下又一个踩过的坑。。。。 ...
CUDA out of memory. gpu没有被占用
m0_37951243的博客
06-18 9364
https://www.cnblogs.com/jisongxie/p/10276742.html 显存充足，但是却出现CUDA error:out of memory错误 https://blog.youkuaiyun.com/wangkun1340378/article/details/72782593/ import os os.environ["CUDA_VISIBLE_DEVICES"] =...
TypeError: zip argument #N must support iteration
Lovemyse1f的博客
05-11 1771
观察: 正常的replaybuffer中每次都会存None,而添加的HER的额外样本后出现了这个问题. 打印batch发现存在很多的none样本. 原本buffer采用数组,后改为队列存储,当满的时候会将最先进去的样本数组踢出,故尝试取消None空样本.跑了20eps没有问题. 错误定位: state, action, reward, next_state, done = map(np.stack, zip(*batch)) #numpy.stack(arrays, axis=0)沿着新轴连接数组的序列。每
pytorch 使用GPU报错 ->RuntimeError: CUDA out of memory. Tried to allocate 1.50 GiB
左手coding，右手cooking
10-15 7291
参考网址 其实 #loss.backward()
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值