windwos环境CUDA爆显存异常问题: torch.OutOfMemoryError: CUDA out of memory...

最新推荐文章于 2025-03-01 17:26:53 发布
最新推荐文章于 2025-03-01 17:26:53 发布
阅读量459 收藏
点赞数 4
文章标签： 人工智能 深度学习 python 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/kiumk/article/details/144492241
版权

我们看下这则报错：

明明还有15.8GB的显存为什么会爆显存呢？

根据报错信息并查询官方文档得出解决方案(Winodws)：

set PYTORCH_NO_CUDA_MEMORY_CACHING=1
set PYTORCH_CUDA_ALLOC_CONF=expandable_segments:True

执行上面两行命令即可，需确保CUDA和torch可用。
 

Vue_0w0
关注
成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
06-02 1万+
​ 成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_s
学习笔记40-Ubuntu下跑Aplaca报错：torch.cuda.0utofMemoryError: CUDA out of memory.解决办法（查看CUDA占用情况&清除GPU缓存）
LZL2020LZL的博客
04-21 6812
发现在执行程序时仅使用极少的内存（图片-1%），因此不是内存不足，考虑可能是缓存爆了！
torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.70 GiB. GPU 0 has a total capacity o
hello！
09-15 2506
这个报错信息表明的PyTorch代码在执行反向传播（）时遇到了CUDA内存不足的问题。具体来说，GPU 0的内存已经耗尽，无法分配额外的2.70 GiB内存。
CUDA out of memory
最新发布
Try的博客
03-01 486
获取当前GPU的内存使用情况。
torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 2.31 GiB. GPU 0 has a total capacity o
09-01 1098
这可以帮助你更好地理解内存使用模式，并确定最佳的优化策略。3. **使用更多的GPU**：如果你的机器有多个GPU，尝试使用`torch.nn.DataParallel`或`torch.nn.parallel.DistributedDataParallel`来分布模型和数据。1. **减小批量大小**：如果你的模型正在处理一个较大的数据批量，尝试减小批量大小，这样可以减少每次迭代所需的内存量。10. **升级硬件**：如果你的模型和数据集确实很大，可能需要更高性能的GPU或者更多的GPU。
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 50.00 MiB (GPU 0； 23.69 GiB total
BetrayFree的博客
10-27 1万+
错误消息提供了一些有关当前GPU内存状态的信息，以及一些建议的解决方法。
pytorch OutOfMemoryError
power的专栏
01-11 926
before:after:ok....看到这个提示，表示您的GPU内存不足。由于我们经常在PyTorch中处理大量数据，因此很小的错误可能会迅速导致程序耗尽所有GPU;好的事，这些情况下的修复通常很简单。
（超全方法）尝试解决问题：torch.cuda.OutOfMemoryError: CUDA out of memory.
qq_56438555的博客
11-28 2万+
提供多种方法解决CUDA内存不足（Out of Memory）的问题。
报错记录torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 90.00 MiB (GPU 0； 7.93 GiB to
gongkeguo的博客
11-03 2万+
python报错记录
解决出现CUDA error-out of memory的问题.pdf
11-16
然而，在训练深度学习模型时，我们经常遇到“CUDA error: out of memory”这样的错误，这表明GPU的显存不足以运行当前的任务。本文将详细介绍这个问题的原因、影响以及解决方法。 ### 问题原因 1. **模型复杂度过...
用Llama Factory单机多卡微调Qwen2.5时报torch.OutOfMemoryError: CUDA out of memory的解决办法
qysh123的专栏
02-08 1716
但是GitHub这里说得比较简略了，具体怎么解决呢，在yaml文件的method那一部分加入：deepspeed: examples/deepspeed/ds_z3_config.json。如果需要微调比较大的模型，例如Qwen2.5-32B，那么在两个3090上可能不够用，这里我用A6000×4的服务器。呵呵呵，这个bug还不知道有什么办法能解决，现在对32B的模型可以这样，72B的就无能为力了。哪怕不加上微调模块，模型输出也是胡说八道（输出乱码）。ps：从loss看似乎没训练好，但是总是可以跑了。
解决Pytorch 训练与测试时爆显存(out of memory)的问题
09-18
今天小编就为大家分享一篇解决Pytorch 训练与测试时爆显存(out of memory)的问题，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
运行几轮后报错：torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 62.00 MiB.
qq_59782617的博客
10-16 431
能运行十几个epoch之后就报错内存不足。我甚至将batchsize调到了1，能减小的超参数我全调小了，但是依然报这个错。我一度怀疑是梯度的问题，由于梯度一直累计才这样。但是看代码根本没有什么问题。将with torch.no_grad():使用在调用模型前。来确保不保留梯度计算图!于是，在预测时，使用。
【已解决】报错：torch.OutOfMemoryError: CUDA out of memory.
m0_62144370的博客
10-18 2483
torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 4.99 GiB. GPU 0 has a total capacity of 8.00 GiB of which 0 bytes is free. Of the allocated memory 10.39 GiB is allocated by PyTorch, and 175.03 MiB is reserved by PyTorch but unallocated.
Pytorch 训练与测试时爆显存(out of memory)的一个解决方案
热门推荐
xiaoxifei的专栏
11-23 6万+
Pytorch 训练时有时候会因为加载的东西过多而爆显存，有些时候这种情况还可以使用cuda的清理技术进行修整，当然如果模型实在太大，那也没办法。 使用torch.cuda.empty_cache()删除一些不需要的变量代码示例如下： try: output = model(input) except RuntimeError as exception: if "out of...
torch.cuda.OutOfMemoryError: CUDA out of memory.解决方案（亲测有效）
estxiyang的博客
04-12 6349
torch.cuda.OutOfMemoryError: CUDA out of memory.
【已解决】torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 250.00 MiB.
dont worry about it的博客
05-24 6万+
报错：torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 250.00 MiB.
CUDA out of memory（CUDA显存不足）
yangyalun的博客
07-21 1万+
1.查看CUDA使用情况。 在C:\Program Files\NVIDIA Corporation\NVSMI位置打开命令行，然后输入nvidia-smi.exe -l 1，可每秒更新CUDA使用情况，如图所示。 2.本机的CUDA显存为2048MiB，当前使用为67MiB，运行模型后，发现当前CUDA使用情况超过2048MiB，解决方法为减小batch_size的大小（减小后结果可能会变差），若减小batch_size后CUDA显存还是不足或者是结果很差，那么就放弃使用GPU，使用CPU就行了。
RuntimeError: CUDA out of memory并不是真的内存不够，而是由于代码中列表存储张量才爆显存
失眠的树的博客
03-15 896
我以为是服务器平台的硬件配置问题，但是因为这个代码原来是能够复现出来的，所以应该还是代码的问题。
torch.cuda.OutOfMemoryError: CUDA out of memory.
09-11
torch.cuda.OutOfMemoryError: CUDA out of memory是指在使用CUDA时，显存不足的错误。主要原因是试图分配超过GPU可用容量的内存。解决这个问题的方法有几种。 首先，可以尝试调小batch_size来减少显存的占用。将batch_size设置为较小的值，比如4，通常可以解决这个问题。如果还是存在问题，可以尝试下面的方法。 其次，在代码关键节点插入以下代码进行定时清理内存操作： import torch, gc gc.collect() torch.cuda.empty_cache() 这段代码的作用是清理缓存并释放不再使用的内存。 另外，可以在测试阶段和验证阶段前插入with torch.no_grad()代码块，这样可以避免计算参数梯度，从而减少显存的占用。示例如下： def test(model, dataloader): model.eval() with torch.no_grad(): ###插在此处 for batch in tqdm(dataloader): ... 另一种常用的方法是修改数据加载的代码中的参数。将"pin_memory": True改为False。pin_memory是锁页内存，在生成的Tensor数据最开始是属于锁页内存，将锁页内存的Tensor转移到GPU的显存会更快一些。但是当主机内存不足时，数据会存放在虚拟内存中。将pin_memory设置为False可以减少显存的占用。 综上所述，调小batch_size、定时清理内存、使用torch.no_grad()以及修改pin_memory参数都是解决CUDA out of memory错误的方法。您可以根据具体情况选择适合的方法来解决该问题。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值