RunTime Error : cuda out of memory

最新推荐文章于 2025-05-20 08:25:13 发布
原创 最新推荐文章于 2025-05-20 08:25:13 发布 · 5.1w 阅读 · 53 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文详细解析了CUDAoutofmemory错误的两种常见场景及其解决办法。一种是在运行网络模型时因内存满载导致的中断，解决策略包括减小Batch-size或图片尺寸；另一种源于网络预训练模型与Pytorch版本不匹配，建议仅提取模型参数而非整个网络。
部署运行你感兴趣的模型镜像

cuda out of memory
分为两种情况

第一种 CUDA out of memory. Tried to allocate 16.00 MiB

在这里插入图片描述
错误信息：
CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 7.93 GiB total capacity; 6.68 GiB already allocated; 18.06 MiB free; 41.28 MiB cached)
原因：
运行网络模型过程，占满了内存，引发中断

解决方法
减小输入输入的Batch-size
或者减小图片的尺寸

第二种 RuntimeError: CUDA error: out of memory

在这里插入图片描述
只有错误提示 out of memory
楼主google答案，发现时因为网络预训练模型和Pytorch版本不匹配

解决方法
不直接提取整个网络，只提取模型参数，这种方法要求你有这个模型的参数文件

在这里插入图片描述

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch 2.5

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

RuntimeError: CUDA out of memory.
宁静致远
09-27 633
Win10运行环境，python编程语言，运行一个pytorch框架的程序报错 “RuntimeError: CUDA out of memory. Tried to allocate 98.00 MiB (GPU 0; 8.00 GiB total capacity; 4.39 GiB already allocated; 5.27 MiB free; 89.58 MiB cached)”，解决办法： bachsize的参数值减小就解决了，举个例子：这里的主机运行内存是16GB，程序ba...
RuntimeError: CUDA error: out of memory——torch死了？
NLP与推荐算法
12-25 2339
GPU太差了，两个1080Ti跑不起来resnet50？？？ 告诉我占满了，这真是大笑话了。 两个卡瞬间占满了，然后就死了，卧槽，真是人生艰难啊！！！ 我想要个好点的服务器啊！！！！ 卡多，盘大！！！ ...
RuntimeError: CUDA out of memory. 已解决
Sea__c的博客
01-11 3435
RuntimeError: CUDA out of memory. 已解决
pytorch: 四种方法解决RuntimeError: CUDA out of memory. Tried to allocate ... MiB
热门推荐
xiyou__的博客
07-06 20万+
Bug：RuntimeError: CUDA out of memory. Tried to allocate … MiB 解决方法： 法一： 调小batch_size，设到4基本上能解决问题，如果还不行，该方法pass。 法二： 在报错处、代码关键节点（一个epoch跑完…）插入以下代码（目的是定时清内存）： import torch, gc gc.collect() torch.cuda.empty_cache() 法三（常用方法）： 在测试阶段和验证阶段前插入代码 with torch.no_gr
深度学习CUDA Out of Memory原因总结和方法
PeterClerk的博客
06-30 2718
CUDA Out of Memory原因总结和方法
CUDA out of memory
qq_38335768的博客
12-28 7762
RuntimeError: CUDA out of memory. Tried to allocate 4.35 GiB (GPU 0; 7.80 GiB total capacity; 4.37 GiB already allocated; 1.93 GiB free; 4.63 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to
RuntimeError: CUDA out of memory
qq_46600553的博客
07-29 1万+
报错内容： RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 2.00 GiB total capacity; 1.34 GiB already allocated; 14.76 MiB free; 1.38 GiB reserved in total by PyTorch) 查资料的过程发现另一种报错： RuntimeError: CUDA out of memory. Tried to allocate 12.50
pytorch模型提示超出内存RuntimeError: CUDA out of memory.
01-20
跑模型时出现RuntimeError: CUDA out of memory.错误 查阅了许多相关内容，原因是：GPU显存内存不够 简单总结一下解决方法： 将batch_size改小。 取torch变量标量值时使用item()属性。 可以在测试阶段添加如下代码：...
PyTorch报错RuntimeError: CUDA out of memory的内存优化
shejizuopin的博客
05-20 772
在PyTorch模型训练中，RuntimeError: CUDA out of memory 是常见的显存不足错误，通常由模型规模过大、批量大小设置不当、数据类型选择不当等因素引起。本文提供了多种优化显存占用的方法，包括减小批量大小、简化模型结构、使用低精度数据类型、释放未使用的GPU资源、梯度累积、梯度检查点以及分布式训练。此外，PyTorch Profiler可用于深入分析内存使用情况，帮助开发者定位显存瓶颈。通过这些技巧，可以有效缓解显存不足问题，提升模型训练效率。
PVN3D训练出现RuntimeError: CUDA out of memory
最新发布
08-05
在使用NVIDIA Quadro P4000显卡（显存：8GB GDDR5）进行PVN3D模型训练时，可能会遇到“RuntimeError: CUDA out of memory”的问题，这通常是由于显存资源不足导致的。为解决这个问题，可以采用自动混合精度训练（AMP...
RuntimeError: CUDA error: out of memory
weixin_39450145的博客
07-06 1937
RuntimeError: CUDA error: out of memorycuda不够用，需要换用显存更大的显卡。。。换用显存更大的显卡问题应该就解决了。
RuntimeError: CUDA out of memory. Tried to allocate 144.00 MiB (GPU 0； 2.00 GiB total capacity； 1.29
weixin_43725886的博客
07-04 1万+
RuntimeError: CUDA out of memory. Tried to allocate 144.00 MiB (GPU 0; 2.00 GiB total capacity; 1.29 GiB already allocated; 79.00 MiB free; 1.30 GiB reserved in total by PyTorch) 解决方案
解决：RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0； 2.00 GiB total capacity； 1
地中海の养成记
01-31 6万+
1. 问题2. 分析3. 解决 1. 问题 训练模型时报错： RuntimeError: CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 2.00 GiB total capacity; 1.49 GiB already allocated; 57.03 MiB free; 6.95 MiB cached) 2. 分析 这种问题，是GPU内存不够引起的 3. 解决 方法一： 换高性能高显存的显卡 方法二：修改代码 报错的训练代码为.
RuntimeError: CUDA error: out of memoryCUDA
weixin_64064486的博客
03-03 1万+
就是当网络参数什么都没有问题了，而且batch_size已经是最小了，还是出现以了问题 但据我遇到的RuntimeError: CUDA error: out of memoryCUDA，其实有两种， 第一种就是如下 RuntimeError: CUDA out of memory. Tried to allocate 338.00 MiB (GPU 0; 2.00 GiB total capacity; 842.86 MiB already allocated; 215.67 MiB free;
评论 16
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值