CUDA out of memory. Tried to allocate 230.00 MiB (GPU 0； 2.00 GiB total capacity； 1.12 GiB already a

最新推荐文章于 2025-06-01 11:48:55 发布
最新推荐文章于 2025-06-01 11:48:55 发布
阅读量3.9k 收藏
点赞数
CC 4.0 BY-SA版权
分类专栏： 深度学习 文章标签： pytorch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Hui_R_Q_XIONGDA/article/details/110477280

CUDA out of memory. Tried to allocate 230.00 MiB (GPU 0; 2.00 GiB total capacity; 1.12 GiB already allocated; 218.58 MiB free; 1.13 GiB reserved in total by PyTorch)
在这里插入图片描述
在使用深度学习验证测试的时候爆显卡了，使用了with torch.no_grad():也没有用。只能换显卡大一点的电脑跑了

成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0； 2.00 GiB to
头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀
06-02 1万+
​ 成功解决torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 86.00 MiB (GPU 0; 2.00 GiB total capacity; 1.67 GiB already allocated; 0 bytes free; 1.67 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_s
RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0； 2.00 GiB total capacity； 1.34
风口IT猪的成长录
08-04 6446
RuntimeError: CUDA out of memory.1. with torch.no_grad()2. os.environ["CUDA_VISIBLE_DEVICES"]3. torch.cuda.empty_cache()4. batch_size=1 1. with torch.no_grad() 注意pytorch在test时，一定要加上: with torch.no_grad(): outputs = Net_(inputs) ---错误代码的位置。 不计算梯度，否则会使显存加倍
Stable Diffusion CUDA out of memory. Tried to allocate 46.00 MiB. GPU 0 has a total capacty of 6.00
Drizzle_66213的博客
05-28 801
重新启动后依旧报错，将参数设置为提示数值最小偶数，参数设置为set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:44，保存后重新启动，完美解决爆显存。参考以上文章，根据报错提示在webui-user.bat文件添加set PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:46。
torch.OutOfMemoryError: CUDA out of memory. Tried to allocate 260.00 MiB. GPU 0 has a total capacity
weixin_45866058的博客
02-11 1807
三、修改：修改 AutoModelForCausalLM.from_pretrained()函数的内置参数，并使用命令加载模型参数、数据到多GPU上。运行命令：“1，2，3”为GPU序数。
解决问题|torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate xx MiB. GPU has a total ...
最新发布
巨坚强的啦啦啦啦
06-01 945
在每次跑代码出错暂停进程时，内存不一定释放(根本原因暂时没有搞清楚)，方法2没有用，就尝试了一下重启服务器，好用！结果：没有找到batch_size(好吧是我之前调过别的程序但是没有用，所以就没有尝试这种方法)设到4基本上能解决问题，如果还不行，该方法pass。将代码中的默认0，换成指定3。结果：有时候有用有时候没有用。windows系统输入。结束占用的进程，比如。结束占用的进程，比如。
pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
热门推荐
xiyou__的博客
07-06 20万+
Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr
CUDA out of memory. Tried to allocate 896.00 MiB. GPU 0 has a total capacity of 22.18 GiB of which 4
keyboard专栏
11-03 1472
错误表示 GPU 内存不足，无法为当前操作分配所需的内存。这通常是因为在加载模型或处理数据时，所需的 GPU 内存超过了可用的内存。
Pytorch 推理时内存溢出 CUDA out of memory
canyingfeixue的专栏
09-30 1726
在linux shell下执行。
RuntimeError: CUDA out of memory. Tried to allocate 2.00 GiB (GPU 0； 23.65 GiB total capacity； 15.63
weixin_44012667的博客
07-03 866
一文解决 RuntimeError: CUDA out of memory. 全网最全_runtimeerror: cuda error: out of memory-优快云博客。
torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0； 6.00 GiB total
Dxy1239310216的博客
05-24 5111
PyTorch提供了自动混合精度（Automatic Mixed Precision, AMP）支持，这可以通过使用较小的数据类型（如半精度浮点数）来减少内存使用，同时保持模型训练的准确性。：如果你有多个GPU，你可以使用PyTorch的DataParallel或DistributedDataParallel来在多个GPU上并行训练你的模型。但是，请注意这通常是PyTorch内部用于管理内存分配的参数，并且可能需要深入了解PyTorch的内存管理机制才能正确使用。：这是最常见的解决方法。
RuntimeError: CUDA out of memory.
好人一生快乐
04-05 888
矩池云出现 RuntimeError: CUDA out of memory. Tried to allocate 958.00 MiB解决办法
解决出现CUDA error:out of memory的问题
qq_46542320的博客
05-24 2万+
使用：CUDA_VISIBLE_DEVICES限制一下使用的GPU。CUDA_VISIBLE_DEVICES=0,1 则使用这两张GPU。CUDA_VISIBLE_DEVICES=0 则使用第一张GPU。CUDA_VISIBLE_DEVICES=1，则使用第二张GPU。如何设置CUDA_VISIBLE_DEVICES？例如：有两块GPU，即0,1号GPU，查阅资料，发现是显卡内存不足。
显存充足，pytorch却报错CUDA out of memory？(已解决)
weixin_45914748的博客
11-25 2万+
明明显存充足，但是train的时候总是提示“CUDA out of memory”。注意！这里的allocated是你自己程序所占用的，我之前理解错了，以为是被别人占用的（然而并没有其他进程）。
解决CUDA out of memory. Tried to allocate 11GiB (GPU 0； 32GiB total capacity； 18GiB already
justwaityou1314的博客
05-17 4057
凯哥英语视频 今天用浪潮服务器跑模型遇到一个报错 CUDA out of memory. Tried to allocate 11GiB (GPU 0; 32GiB total capacity; 18GiB already 说是显存不足 一般来说就是 batch_size 过大 最优解决方案, 直接先把batch_size改为1,然后慢慢放大 这样的话, 1可以迅速判断是否是显存问题报错, 2重拾信心啊啊啊 另外,记录一下查看显存的命令和调用运行的命令吧 别的也没啥说的 ok，那就这样吧~ 欢迎各位大.
RuntimeError: CUDA out of memory. Tried to allocate 320.00 MiB (GPU 0； 10.92 GiB total capacity； 9.9
weixin_42142509的博客
12-29 4815
RuntimeError: CUDA out of memory. Tried to allocate 320.00 MiB (GPU 0; 10.92 GiB total capacity; 9.95 GiB already allocated; 265.38 MiB free; 156.78 MiB cached) 记录一下pytorch中的运行错误以及解决办法，出现如下问题： 应该是GPU的大小问题，将代码中的batch_size设置小点，我设置的batch_size=128改为batch_size
解决：RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0； 2.00 GiB total capacity； 1
地中海の养成记
01-31 6万+
1. 问题2. 分析3. 解决 1. 问题 训练模型时报错： RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 2.00 GiB total capacity; 1.49 GiB already allocated; 57.03 MiB free; 6.95 MiB cached) 2. 分析 这种问题，是GPU内存不够引起的 3. 解决 方法一： 换高性能高显存的显卡 方法二：修改代码 报错的训练代码为.
解决“CUDA out of memory.”问题
SpadgerZ的博客
04-15 3209
问题描述 今天在跑实验的时候，将网络模型改得更加复杂了，出现内存不够的报错提示： RuntimeError: CUDA out of memory. Tried to allocate 1.22 GiB (GPU 1; 14.76 GiB total capacity; 2.65 GiB already allocated; 1.22 GiB free; 3.69 GiB reserved in total by PyTorch) 16GB的GPU都不够用了...... 解决方法 将batch
RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB解决办法
Anne332的博客
10-07 7740
RuntimeError: CUDA out of memory. Tried to allocate 20.00 MiB (GPU 0; 6.00 GiB total capacity; 768.50 MiB already allocated; 16.39 MiB free; 9.50 MiB cached)解决方法 使用GPU出现上述错误，尝试改小batch_size的大小 主要是记录一下自己平时遇到的问题，和大家分享一下 如有侵犯，请联系我 点个赞支持一下吧 ...
pytorch 使用GPU报错 ->RuntimeError: CUDA out of memory. Tried to allocate 1.50 GiB
左手coding，右手cooking
10-15 7291
参考网址 其实 #loss.backward()
CUDA out of memory. Tried to allocate 32.00 MiB (GPU 0; 2.00 GiB total capacity;
03-25
<think>嗯，用户遇到了CUDA内存不足的问题，需要找到解决方案。首先，我得回忆一下常见的CUDA内存错误的原因和解决办法。根据用户提供的引用内容，错误信息显示显存不足，比如尝试分配32MiB但总容量只有2GiB，可能已经分配了很多，剩余不足。 首先，应该检查代码中的批量大小。批量过大可能导致显存不足，减小batch size是一个直接的方法。比如从64降到32或16，看看是否有改善。然后，混合精度训练可以节省显存，使用torch.cuda.amp模块可能有效。 接下来，考虑释放不必要的缓存。PyTorch会缓存一些内存，手动用torch.cuda.empty_cache()可能释放一些空间。不过，这可能不是根本解决办法，但可以试试。 模型结构优化也很重要。比如检查是否有冗余层，或者使用更轻量的模型架构。比如替换某些层为更高效的版本，或者减少神经元数量。另外，梯度累积是一种变通方法，通过多次小批量累积梯度再更新，模拟大批量效果，同时减少显存占用。 数据加载部分也要检查，确保没有重复加载数据到GPU，或者数据预处理不当导致内存泄漏。使用pin_memory和num_workers优化数据加载，可能提高效率，减少显存压力。 如果上述方法都不行，可能需要调整PyTorch的内存分配策略。比如设置环境变量PYTORCH_CUDA_ALLOC_CONF，限制内存碎片，或者尝试max_split_size_mb参数。不过用户提供的引用2提到过这个，需要参考官方文档。 最后，硬件限制的话，可能需要升级GPU或者使用分布式训练，但用户的情况是2GiB的显存，可能设备较旧，升级硬件可能是个选择，但作为软件解决方案，前面的步骤更实际。 还要注意，用户提到在测试时出现错误，可能在测试阶段没有释放训练时的显存，需要确保测试时使用torch.no_grad()，并且及时清理中间变量。另外，检查是否有多个模型实例同时存在，比如训练和验证模型同时加载，导致显存翻倍。 总结下来，步骤应该是：调整批量大小，使用混合精度，优化模型结构，梯度累积，释放缓存，调整数据加载，最后考虑内存分配设置和硬件升级。同时，引用中提到的设置max_split_size_mb和PYTORCH_CUDA_ALLOC_CONF可能需要具体指导用户如何操作。</think>针对CUDA内存不足的问题，以下是分步解决方案： ### 1. **降低批量大小（Batch Size）** - **原理**：批量越大，显存占用越高。例如将Batch Size从32调整为16或8，可显著减少显存需求。公式表示为： $$ \text{显存占用} \propto \text{Batch Size} \times \text{单样本计算量} $$ - **操作**：在训练代码中修改`batch_size`参数： ```python train_loader = DataLoader(dataset, batch_size=8) # 修改此处数值 ``` ### 2. **启用混合精度训练** - **原理**：使用半精度（FP16）替代单精度（FP32），显存占用减少约50%[^1]。PyTorch通过`torch.cuda.amp`实现： ```python from torch.cuda.amp import autocast, GradScaler scaler = GradScaler() with autocast(): outputs = model(inputs) loss = criterion(outputs, labels) scaler.scale(loss).backward() scaler.step(optimizer) scaler.update() ``` ### 3. **释放缓存与无用变量** - **操作**：在关键代码段后手动释放GPU缓存： ```python torch.cuda.empty_cache() # 清除未使用的缓存 ``` - **注意**：及时释放中间变量： ```python del outputs, inputs # 强制解除引用 ``` ### 4. **优化模型结构** - **方法**： - 替换大参数层（如将全连接层替换为分组卷积） - 使用模型剪枝工具（如PyTorch的`torch.nn.utils.prune`） - 激活函数改用内存优化版本（如ReLU替代GELU） ### 5. **梯度累积技术** - **原理**：通过多次小批量计算累积梯度，等效于大批量训练： ```python accumulation_steps = 4 # 累积4次梯度 for i, (inputs, labels) in enumerate(train_loader): loss = model(inputs, labels) loss.backward() if (i+1) % accumulation_steps == 0: optimizer.step() optimizer.zero_grad() ``` ### 6. **调整PyTorch内存分配策略** - **环境变量配置**（针对显存碎片问题[^2]）： ```bash export PYTORCH_CUDA_ALLOC_CONF=max_split_size_mb:128 ``` ### 7. **硬件级解决方案** - **升级驱动**：确保CUDA版本与显卡驱动兼容 - **分布式训练**：使用多卡并行（如`DataParallel`或`DistributedDataParallel`） --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值