RuntimeError: CUDA out of memory. Tried to allocate 22.00 MiB (GPU 0； 10.76 GiB total capacity； 9.61

CUDA内存溢出：排查与解决中间变量问题
原创 于 2021-04-04 13:30:29 发布 · 3.3k 阅读 · 10 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#python

本文探讨了在使用GPU时遇到CUDA Out of Memory问题，尤其是在GPU资源充足但仍然内存溢出的情况。重点提示了检查loss, acc, pred等中间计算数据中缺失`.item()`可能导致的内存占用过大，并提供了相应的解决方案。
部署运行你感兴趣的模型镜像

RuntimeError: CUDA out of memory. Tried to allocate 22.00 MiB (GPU 0; 10.76 GiB total capacity; 9.61 GiB already allocated; 4.50 MiB free; 332.12 MiB cached)

有时遇到这种情况，怎么改batchsize都还是会报内存溢出错误，nVidia-smi时发现gpu很多空闲，这时出现的原因极可能就是中间变量数据导致的，这时可以检查loss，acc，pred等中间计算数据后面是否加了.item(),如果没加，给加上，就会解决错误。
，

您可能感兴趣的与本文相关的镜像

PyTorch 2.5

PyTorch 2.5

PyTorch
Cuda

PyTorch 是一个开源的 Python 机器学习库，基于 Torch 库，底层由 C++ 实现，应用于人工智能领域，如计算机视觉和自然语言处理

评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值