CUDA out of memory

原创 已于 2023-04-16 10:20:19 修改 · 529 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #深度学习 #pytorch

于 2023-04-16 10:13:48 首次发布
文章讨论了当原本能正常运行的代码突然出现显存不足的问题时，可能的原因和解决方案，包括不加载模型权重、关闭IDE重启、调整batch_size以及尝试重启电脑。有时即使将batch_size调至2仍无法避免爆显存问题，作者对此表示困扰。

网上关于这个问题的解决方法有很多，什么梯度，batch_size等等，大家可以去查看相应的文章，我这里主要解决的是明明之前还能跑的代码，某天再次运行的时候就突然爆显存了？？？

我是觉得有以下几种可能的情况：

1.加载模型，导致爆显存，可以试着从0自己训，不要加载权重

2.太久没关pycharm了，或者是别的IDE，可以试着关闭再打开，然后运行代码

3.重启电脑，我电脑基本上就不会关闭，每天都要用，但就是因为这个我会有原本能跑现在却不能跑的情况，还显示爆显存。

目前我解决这个问题主要就是通过这些方法，有时候batch_size调到2都还要爆显存，真是痛苦，要是有钱就好了T_T

破雾i
关注
怎么解决torch.OutOfMemoryError: CUDA out of memory？？
**My Coding Family**
05-23 1471
🏆 本文收录于《全栈Bug调优(实战版)》专栏，致力于分享我在项目实战过程中遇到的各类Bug及其原因，并提供切实有效的解决方案。无论你是初学者还是经验丰富的开发者，本文将为你指引出一条更高效的Bug修复之路，助你早日登顶，迈向财富自由的梦想🚀！同时，欢迎大家关注、收藏、订阅本专栏，更多精彩内容正在持续更新中。让我们一起进步，Up！Up！Up！    备注： 部分问题/难题源自互联网，经过精心筛选和整理，结合数位十多年大厂实战经验资深大佬经验总结所得，数条可行方案供所需之人参考。
报错torch.OutOfMemoryError: CUDA out of memory...CUDA 内存溢出如何解决？
最新发布
**My Coding Family**
05-24 1192
🏆 本文收录于《全栈Bug调优(实战版)》专栏，致力于分享我在项目实战过程中遇到的各类Bug及其原因，并提供切实有效的解决方案。无论你是初学者还是经验丰富的开发者，本文将为你指引出一条更高效的Bug修复之路，助你早日登顶，迈向财富自由的梦想🚀！同时，欢迎大家关注、收藏、订阅本专栏，更多精彩内容正在持续更新中。让我们一起进步，Up！Up！Up！    备注： 部分问题/难题源自互联网，经过精心筛选和整理，结合数位十多年大厂实战经验资深大佬经验总结所得，数条可行方案供所需之人参考。
【报错解决】RuntimeError: CUDA error: out of memory（已解决）
weixin_44502754的博客
03-29 3948
【报错解决】RuntimeError: CUDA error: out of memory（已解决）
pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
热门推荐
xiyou__的博客
07-06 20万+
Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr
解决：RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0； 2.00 GiB total capacity； 1
地中海の养成记
01-31 6万+
1. 问题2. 分析3. 解决 1. 问题 训练模型时报错： RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 2.00 GiB total capacity; 1.49 GiB already allocated; 57.03 MiB free; 6.95 MiB cached) 2. 分析 这种问题，是GPU内存不够引起的 3. 解决 方法一： 换高性能高显存的显卡 方法二：修改代码 报错的训练代码为.
（已解决）在本机跑得好好的，连上客户端之后，第二次运行报错：RuntimeError：CUDA out of memory……显存不够导致程序再次运行不成功的原因分析即解决办法
BetrayFree的博客
08-21 2005
在本机跑得好好的，连上客户端之后，第二次运行报错：RuntimeError：CUDA out of memory……显存不够导致程序再次运行不成功的原因分析即解决办法
RuntimeError: CUDA out of memory. 已解决
Mrsgflmx的博客
11-20 687
跑代码遇到了这个错误，很烦。问了下GPT这个问题是由于CUDA内存不足导致的。你可以尝试以下几种方法解决这个问题：1. 减小批次大小：减小每个训练批次的大小，可以减少对CUDA内存的需求量。可以尝试减小批次大小并重新运行代码。2. 减小模型参数：如果你的模型非常庞大，可以尝试减小模型的参数量。可以通过减少模型的宽度或深度来减小参数数量。3. 使用更小的模型：尝试使用更小的模型或者使用轻量级模型来减小对CUDA内存的需求。
cuda out of memory
AliceH1226的博客
08-28 771
推理时显存不足，可能是没有 with torch.no_grad()
Cuda out of memory
qq_42371462的博客
03-21 1747
前言 我一定要说下我这个心酸的历史啊！！！事情是这样的，我通过东拼西凑得到了一个模型，在一个数据集上一跑，哟，效果还不错，磨刀霍霍准备在其它数据集上试试效果啊。结果你猜怎么着，呵，out of memory。接下来就是我心酸的解决历史了。 问题 所有的前提都是基于这个out of memory的数据集哈。 我是训练过程中没有问题，一验证就out of memory.首先我当然是上网查询原因啦，很多人都说用下面的方法： 将模型改为eval()模式 并且使用with torch.no_grad(): model
CUDA out of memory（CUDA显存不足）
yangyalun的博客
07-21 1万+
1.查看CUDA使用情况。 在C:\Program Files\NVIDIA Corporation\NVSMI位置打开命令行，然后输入nvidia-smi.exe -l 1，可每秒更新CUDA使用情况，如图所示。 2.本机的CUDA显存为2048MiB，当前使用为67MiB，运行模型后，发现当前CUDA使用情况超过2048MiB，解决方法为减小batch_size的大小（减小后结果可能会变差），若减小batch_size后CUDA显存还是不足或者是结果很差，那么就放弃使用GPU，使用CPU就行了。
CUDA:Out Of Memory问题
qq290048663
02-09 3504
CUDA:Out Of Memor
GPU显存未占满但是提示torch.cuda.OutOfMemoryError: CUDA out of memory.
weixin_44656243的博客
09-07 828
且batchsize设置为1也仍然内存溢出。测试的时候送进去的每张图片大小都是一样，但是当送进去50张的时候不会出现内存报错，送进去1000张的时候会。发现是虚拟内存的原因，怀疑是数据读入时，物理内存太少了导致GPU的显存分配出问题了。将虚拟内存设置大点完美解决报错。在推理时发现GPU显存还有很多报错out of memory，在网上找了很多办法，什么调小batchsize，设置。
CUDA out of memory
12-19
当你在使用CUDA进行计算时，有时会遇到"CUDA out of memory"的错误。这意味着你的GPU内存不足以执行所需的操作。解决这个问题的方法有几种： 1. 减少批处理大小：减少每个批次中的样本数量，以减少GPU内存的使用量...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值