CUDA out of memory

最新推荐文章于 2025-05-20 08:25:13 发布

木琦

最新推荐文章于 2025-05-20 08:25:13 发布

阅读量7.6k

点赞数 1

分类专栏： bug 文章标签：深度学习 pytorch python

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.youkuaiyun.com/qq_38335768/article/details/122191778

版权

在使用PyTorch进行深度学习时遇到了CUDA内存不足的问题，尝试了清空缓存、检查模型大小和数据量等方法，发现是数据处理在GPU上导致的负担过重。通过限制数据量可以暂时解决，但需要找到更有效的内存管理策略。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

RuntimeError: CUDA out of memory. Tried to allocate 4.35 GiB (GPU 0; 7.80 GiB total capacity; 4.37 GiB already allocated; 1.93 GiB free; 4.63 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation. See documentation for Memory Management and PYTORCH_CUDA_ALLOC_CONF
在这里插入图片描述
不知原因
且运行代码在cpu上可正常运行，只是慢了点，在gpu上报错：CUDA out of memory

试了几个方法
1、torch.cuda.empty_cache()
没用
2、是否模型太大
确定模型加载完成后，代码才开始崩溃

3、是否数据太大
先放30个图片，崩溃
10个，可正常运行
20个，正常运行

原因，数据以及数据的处理在gpu上负担不了

小tricks：

import time
t1

最低0.47元/天解锁文章

评论

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。