RuntimeError: CUDA out of memory. Tried to allocate … MiB

R1ck_harme

已于 2024-09-12 16:48:59 修改

阅读量576

点赞数

文章标签： python

于 2022-06-19 16:32:55 首次发布

本文链接：https://blog.youkuaiyun.com/R1ck_harme/article/details/125359229

版权

博客作者在训练深度学习模型时遇到问题，尝试通过调整batch_size和num_workers来改善，但未成功。最终，他们发现通过在模型输出层添加sigmoid激活函数，有效地解决了计算量带来的问题。这种方法可能对其他面临类似挑战的开发者有所启发。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Bug记录：方法1.改batch_size和num_worker,结果失败，考虑到计算量问题，把网络最后输出加上sigmoid 解决问题

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

R1ck_harme

关注关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU

weixin_43639369的博客

02-24

1万+

RuntimeError: CUDA out of memory. Tried to allocate 32.00 MiB (GPU）1. 问题描述2. 解决办法 1. 问题描述 Pytorch，GPU显存明明够用，为什么还报错呢？发现此时减小batch_size 同样是没用的。根本原因是代码指定的GPU与实际使用的GPU不一致。你以为代码在1上跑，实际上是在已经有代码运行的其他gpu跑，因此显示显存不足。 2. 解决办法让自己指定的gpu与实际使用的对应一致即可。比如，现在0，2，3号GPU已经在

OutOfMemoryError: CUDA out of memory.Tried to allocate 128.00 MiB.......却未占用显存，个人方法简单实用

xuanjiong的博客

03-03

3352

笔者的显存大小为6g,但没有占用gpu，猜测是显存过小导致的问题。笔者直接在命令行运行相关python文件，因此找到目标文件。在右下角添加quantize(4)，就保证代码的正常运行。

参与评论您还未登录，请先登录后发表或查看评论

解决：RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0； 2.00 GiB total capacity； 1

地中海の养成记

01-31

6万+

1. 问题2. 分析3. 解决 1. 问题训练模型时报错： RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 2.00 GiB total capacity; 1.49 GiB already allocated; 57.03 MiB free; 6.95 MiB cached) 2. 分析这种问题，是GPU内存不够引起的 3. 解决方法一：换高性能高显存的显卡方法二：修改代码报错的训练代码为.

torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 260.00 MiB. GPU 0 has a total capacity

最新发布

weixin_45866058的博客

02-11

1515

三、修改：修改 AutoModelForCausalLM.from_pretrained()函数的内置参数，并使用命令加载模型参数、数据到多GPU上。运行命令：“1，2，3”为GPU序数。

RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB

qq_41558173的博客

05-18

7808

模型训练开始出现报错如下： RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 10.92 GiB total capacity; 解决办法：由于是直接导入训练好的模型，不需要再次进行反向传播。因此在进行前向传播之前加入或者在出现错误的地方加上： with torch.no_grad(): 即可解决。即 with torch.no_grad(): res = net.forward_pred(input

解决方法：RuntimeError: CUDA out of memory. Tried to allocate ... MiB

qq_44504069的博客

05-11

1万+

RuntimeError: CUDA out of memory. Tried to allocate 978.00 MiB (GPU 0; 15.90 GiB total capacity; 14.22 GiB already allocated; 167.88 MiB free; 14.99 GiB reserved in total by PyTorch)

解决：RuntimeError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0； 4.00 GiB total capacity； 2

universe_R的博客

05-03

3万+

引发pytorch：CUDA out of memory错误的原因有两个： 1.当前要使用的GPU正在被占用，导致显存不足以运行你要运行的模型训练命令不能正常运行解决方法： 1.换另外的GPU 2.kill 掉占用GPU的另外的程序（慎用！因为另外正在占用GPU的程序可能是别人在运行的程序，如果是自己的不重要的程序则可以kill）命令行中输入以下命令，可以查看当前正在GPU运行的程序： nvidia-smi 再根据上面显示的正在运行程序的PID，输入以下查看进程的命令，可以查看到进程的相关信息，包括

一文解决 RuntimeError: CUDA out of memory. 全网最全

m0_50502579的博客

07-29

9万+

RuntimeError: CUDA out of memory. Tried to allocate 50.00 MiB (GPU 0; 4.00 GiB total capacity; 682.90 MiB already allocated; 1.62 GiB free; 768.00 MiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 6.00 GiB total

Dxy1239310216的博客

05-24

4905

PyTorch提供了自动混合精度（Automatic Mixed Precision, AMP）支持，这可以通过使用较小的数据类型（如半精度浮点数）来减少内存使用，同时保持模型训练的准确性。：如果你有多个GPU，你可以使用PyTorch的DataParallel或DistributedDataParallel来在多个GPU上并行训练你的模型。但是，请注意这通常是PyTorch内部用于管理内存分配的参数，并且可能需要深入了解PyTorch的内存管理机制才能正确使用。：这是最常见的解决方法。

RuntimeError: CUDA out of memory. Tried to allocate 2.00 GiB (GPU 0； 23.65 GiB total capacity； 15.63

weixin_44012667的博客

07-03

827

一文解决 RuntimeError: CUDA out of memory. 全网最全_runtimeerror: cuda error: out of memory-优快云博客。

RuntimeError:CUDA out of memory.Tried to allocate 20.00MiB.

m0_61985580的博客

04-23

1万+

这是我遇到的问题，刚开始的时候怎么也解决不了。然后我去搜了一下解决方法，具体方法如下：方法一：仅需减小batchsize 改文件的配置cfg的batchsize=1，一般在cfg文件下的查找batch或batchsize，将batchsize调小后，再次运行，类似于改下面方法二：上述方法还没解决，不改batchsize，可以考虑下面的方法的链接不计算梯度： ps: 在报错的哪一行代码的上面，加上下面一行代码，不计算梯度 withtorch.no_grad() 不..

RuntimeError: CUDA out of memory. Tried to allocate ... MiB & Pytorch模型测试时显存一直上升导致爆显存

qq_44660426的博客

03-15

2886

RuntimeError: CUDA out of memory. Tried to allocate ... MiB & Pytorch模型测试时显存一直上升导致爆显存

RuntimeError: CUDA out of memory. Tried to allocate 64.00 MiB (GPU 0； 10.76 GiB total capacity； 7.64

qq_45128278的博客

02-27

2705

错误原因：使用了CUDA_VISIBLE_DEVICES指定了空闲的3090显卡，但仍报错，原因是batchsize设置得太高，设置了128. 解决方案：降低到64即可。或者使用两张及以上的卡。

bug记录：RuntimeError: CUDA out of memory. Tried to allocate ... MiB

MarsandOcean的博客

04-19

280

解决bug：RuntimeError: CUDA out of memory. Tried to allocate ... MiB

pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB

热门推荐

xiyou__的博客

07-06

20万+

Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法：法一：调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。法二：在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）：在测试阶段和验证阶段前插入代码 with torch.no_gr

错误合集1：RuntimeError: CUDA out of memory. Tried to allocate 196.00 MiB (GPU 0； 23.65 GiB total capacit

m0_53587476的博客

06-14

912

RuntimeError: CUDA out of memory. Tried to allocate 196.00 MiB (GPU 0; 23.65 GiB total capacity; 21.34 GiB already allocated; 48.06 MiB free; 21.35 GiB reserved in total by PyTorch) If reserved memory问题。

【纯干货级教程】解决RuntimeError:CUDA out of memory

2401_84870184的博客

05-13

4296

本文对于采用CPU/LAPTOP-GPU如何加快训练进程，会有较为明确的描述和解决方法，如果目前你存在设备算力差等类似情况的话，相信参考本文的步骤进行尝试是能够解决的。

【程序错误-显存不足】RuntimeError: CUDA out of memory. Tried to allocate 4.00 GiB

闪闪发光的博客

04-29

2650

使用更低精度的数据类型：将模型参数和激活值从32位浮点数（float32）转换为16位浮点数（float16），可以减少显存的使用。减少每次训练或推理时的批次大小，以降低显存的需求。较小的批次大小可能会增加训练时间，但可以减少显存压力。如果你使用的是大型模型，可以尝试减少模型的大小，以减少显存使用量。如果你有多个GPU可用，可以尝试使用多卡训练。这样可以将模型的不同部分分配到不同的GPU上，从而减少单个GPU上的显存需求。在报错的哪一行代码的上面，加上下面两行代码，释放无关的内存。

解决RuntimeError: CUDA out of memory. Tried to allocate 36.00 MiB (GPU 0； 14.76 GiB total capacity；

qq_51963778的博客

09-13

630

将batchsize成倍缩小，直到可以运行即可。

RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB

07-27

这个错误是由于CUDA内存不足导致的。根据引用\[1\]和引用\[2\]的信息，你的GPU总容量为4.00 GiB或10.76 GiB，但已经分配了2.34 GiB或1.82 GiB的内存，剩余的内存不足以分配14.00 MiB的内存。这可能是由于你的模型或数据的规模过大，导致内存不足。你可以尝试减小batch size或者使用更小的模型来减少内存的使用。另外，你还可以尝试设置max_split_size_mb参数来避免内存碎片化。关于内存管理和PYTORCH_CUDA_ALLOC_CONF的更多信息，请参考PyTorch的文档。此外，根据引用\[3\]的信息，你还可以通过手动杀死占用GPU内存的进程来释放内存。你可以使用kill命令加上进程的PID来终止该进程，例如kill -9 31272。综上所述，你可以通过减小batch size、使用更小的模型、设置max_split_size_mb参数或手动杀死占用内存的进程来解决CUDA内存不足的问题。 #### 引用[.reference_title] - *1* [已解决yolov5报错RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB](https://blog.csdn.net/Code_and516/article/details/129798540)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [解决RuntimeError: CUDA out of memory. Tried to allocate 14.00 MiB](https://blog.csdn.net/qq_43733107/article/details/126876755)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]