torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 12.00 MiB (GPU 0; 1.96 GiB total ...

最新推荐文章于 2025-06-28 18:54:53 发布
最新推荐文章于 2025-06-28 18:54:53 发布
阅读量1w 收藏 1
点赞数 2
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/weixin_35755823/article/details/129074631
文章讨论了CUDA内存错误问题，指出当GPU内存不足以分配指定内存时会出现此错误。建议通过调整max_split_size_mb参数来防止内存碎片，以释放更多内存。读者可参考PyTorch的内存管理文档和PYTORCH_CUDA_ALLOC_CONF配置来获取解决方案。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

这是一个CUDA内存错误，代表GPU内存不足，无法分配12.00 MiB的内存。您可以尝试设置max_split_size_mb以避免内存碎片，以获得更多的内存。请参考PyTorch的内存管理文档以获得更多信息和PYTORCH_CUDA_ALLOC_CONF的配置。

成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
06-02 1万+
​ 成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_s
报错记录torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0； 7.93 GiB to
gongkeguo的博客
11-03 2万+
python报错记录
（超全方法）尝试解决问题：torch.cuda.OutOfMemoryError: CUDA out of memory.
热门推荐
qq_56438555的博客
11-28 2万+
提供多种方法解决CUDA内存不足（Out of Memory）的问题。
CUDA：out of memory的解决方法（实测有效）
大摆王的博客
05-08 9997
CUDA out of memory问题通常发生在深度学习训练过程中，当GPU的显存不足以容纳模型、输入数据以及中间计算结果时就会触发。：深度学习模型尤其是大型模型，如Transformer或大型CNN，拥有大量的参数，这些参数在训练时需要被加载到GPU显存中。同时，如果批量大小（batch size）设置得过大，一次性处理的数据量也会增加，进一步加大显存的负担。
解决 PyTorch CUDA out of memory 错误
最新发布
weixin_48473161的博客
06-28 1001
PyTorch的CUDA显存不足错误常见于深度学习开发中。文章详细解析了错误信息各部分的含义，并提出了系统解决方案：1）快速排查包括减小批次大小、清理僵尸进程；2）代码优化建议禁用梯度计算、手动内存管理；3）高级技术涉及梯度累积、混合精度训练和分配器调整。最后给出了从诊断到实施的工作流程，帮助开发者有效解决显存问题。
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 6.00 GiB total
Dxy1239310216的博客
05-24 5129
PyTorch提供了自动混合精度（Automatic Mixed Precision, AMP）支持，这可以通过使用较小的数据类型（如半精度浮点数）来减少内存使用，同时保持模型训练的准确性。：如果你有多个GPU，你可以使用PyTorch的DataParallel或DistributedDataParallel来在多个GPU上并行训练你的模型。但是，请注意这通常是PyTorch内部用于管理内存分配的参数，并且可能需要深入了解PyTorch的内存管理机制才能正确使用。：这是最常见的解决方法。
torch.cuda.OutOfMemoryError: CUDA out of memory.
m0_72572822的博客
09-26 4142
CUDA out of memory
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 50.00 MiB (GPU 0； 23.69 GiB total
BetrayFree的博客
10-27 1万+
错误消息提供了一些有关当前GPU内存状态的信息，以及一些建议的解决方法。
torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.70 GiB. GPU 0 has a total capacity o
hello！
09-15 2778
这个报错信息表明的PyTorch代码在执行反向传播（）时遇到了CUDA内存不足的问题。具体来说，GPU 0的内存已经耗尽，无法分配额外的2.70 GiB内存。
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 400.00 MiB (GPU 0； 6.00 GiB total
mjmald的博客
07-25 1万+
5. **调整 PyTorch 内存管理设置**: 可以尝试调整 PyTorch 的内存管理设置，例如通过设置`max_split_size_mb` 来避免内存碎片化。3. **释放不需要的显存**: 在某些情况下，可能存在一些不需要的显存被占用，可以使用`torch.cuda.empty_cache()` 来释放不需要的显存。可以尝试减小`batch_size` 参数的值。1. **减少模型的大小**: 可以考虑减少模型的大小，例如通过选择更小的模型、减少模型的层数或通道数等方式，来降低内存需求。
【新手】复现NeRCo代码中出现的torch.cuda.OutOfMemoryError: CUDA out of memory. 问题解决办法。
qq_43612410的博客
09-13 2323
3、高版本pytorch可能在处理显存占用时有更多的优化，可以升级为更高版本的pytorch。特别是在相同型号GPU的情况下，可以考虑Python包版本的问题，通过“pip list”或者“conda list”可以参考版本信息。对于1，在尝试减少batchsize解决，发现原文中原本的batchsize已经是1，没有办法再减了。但是此方法只是应急用，至于怎么让他多个GPU一起用，我至今还没有弄明白，在参数前面加上。2、cached（缓存）过高的情况下，在报错的代码块之前先添加。也还是会报显存不够的错误.
torch.cuda.OutOfMemoryError
power的专栏
05-31 7623
遇到这个错误，按网上改小batch_size改的很小了，依然报错。错误原因是网络的输入输出shape不一致。后改小了网络结构，搞定。
OutOfMemoryError: CUDA out of memory.Tried to allocate 128.00 MiB.......却未占用显存，个人方法简单实用
xuanjiong的博客
03-03 3443
笔者的显存大小为6g,但没有占用gpu，猜测是显存过小导致的问题。笔者直接在命令行运行相关python文件，因此找到目标文件。在右下角添加quantize(4)，就保证代码的正常运行。
PytorchRuntimeError:CUDA out of memory.Tried to allocate 120.00 MiB (GPU 0； 22.38 GiB total capacity
凝眸伏笔的博客
11-06 3769
问题现场 环境：pytorch=1.+，python=3.6，1个GPU 当对预训练的bert模型进行fine-tuning，模型训练的batchsize设置为256时，报错。大概意思是GPU内存超了，总共22g(模型结构、参数等会占用5g内存)内存，16g的内存以及被分配出去了，剩下的78M，不够分配给120M了。 RuntimeError: CUDA out of memory. Tried to allocate 120.00 MiB (GPU 0; 22.38 GiB total capac
Pycharm报错torch.cuda.OutOfMemoryError: CUDA out of memory.
Lu0v0Lu的博客
05-29 4339
做深度学习相关的实验，可以看到我的显卡内存很小（哭了，不过我有时候是在别的电脑上做的，那个电脑比这个好用），网上搜到的说的 max_split_size_mb:128 这个方法我贴到我代码上之后没有效果。因为我在这个电脑上做的是主实验后面的一些对比实验，也就是代码中很多张量很多数据是不需要的。所以抖了个机灵，把不需要的数据全都注释掉，代码正常运行，对比实验数据跑出来了耶！
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值