.cuda代码卡死解决办法——不报错，但无法运行

最新推荐文章于 2025-04-01 13:14:13 发布
最新推荐文章于 2025-04-01 13:14:13 发布
阅读量538 收藏
点赞数 1
文章标签： 1024程序员节
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/crabyanyan/article/details/143217004
版权

楼主因为要调一个五年前的深度学习的代码，但是发现代码无法运行，调试发现是model上GPU的时候卡死不动了，而且代码也不会报错

这是楼主的环境信息：

torch：1.3.1

CUDA ：10.1

GPU： NVIDIA GeForce RTX 4060 Laptop GPU

其实原因就是GPU版本太高了，楼主是4060，现在4060可能无法正常运行CUDA 10了

切换一个高的CUDA版本即可！！！

切换为CUDA11.6后 顺利运行！！！

crabyanyan
关注
汇总利用YOLO11训练遇到的报错和解决方案（包含训练过程中验证阶段报错、精度报错、损失为Nan、不打印GFLOPs）
Snu77的博客
11-05 2805
本文为专栏内读者和我个人在训练YOLOv11时遇到的各种错误解决方案你遇到的问题本文基本上都能够解决，同时本文的内容为持续更新，定期汇总大家遇到的问题已经一些常见的问题答案，目前包含的问题已经解决方法汇总如下图所示。YOLOv11改进系列专栏——本专栏持续复习各种顶会内容——科研必备目录一、本文介绍二、 报错问题(1)训练过程中loss出现Nan值.(2)多卡训练问题,修改模型以后不能支持多卡训练可以尝试下面的两行命令行操作，两个是不同的操作，是代表不同的版本现尝试第一个不行用第二个。
成功解决：RuntimeError: CUDA error: no kernel image is available for execution on the device
qq_23022733的博客
08-23 4344
安装的 PyTorch 版本和 CUDA 版本不兼容。可以重新安装与系统上 CUDA 版本匹配的 PyTorch 版本。CUDA 版本与 GPU 驱动程序或 PyTorch 安装的 CUDA 编译版本不兼容。安装完成后，就可以完美解决这个Bug！
CUDA与cuDNN在linux / Ubuntu22.04上的安装与卸载，包含CUDA的.run安装与.deb安装，cuDNN的.tar安装与.deb安装
weixin_47937828的博客
08-15 7422
主要关注CUDA与cuDNN在linux / Ubuntu22.04上的安装与卸载。 1. 整合了两种CUDA安装方式（.run与.deb）、两种cuDNN的安装方式（.tar.xz与.deb），网上好像没什么人做这个 2. 整合了CUDA与cuDNN的官方样例代码的测试方法 3. 整合了CUDA与cuDNN的版本切换方法，尤其是完善的使用脚本的一键切换版本方法（部分代码由GPT辅助生成） 4. 整合了CUDA与cuDNN的彻底卸载方法
5.gpu版本Pytorch执行.cuda()代码会卡死
weixin_42416791的博客
04-15 9991
下载好了gpu版本的pytorch后测试 发现torch.cuda.is_available() = True了，但是.cuda()命令运行时候一直卡死，没有反应： 使用pycharm远程连接也是这样，一直卡死在model.cuda()语句不动： 怀疑了好久是不是版本有问题，尝试了各种pytorch-conda-python版本都没有用，而且我下载的就是官网推荐的版本，所以应该是没问题的。后来甚至还怀疑是不是pycharm的问题，但是上面也试了脱离pycharm直接在python虚拟环境里面的pyth
解决：CUDA error: no kernel image is available for execution on the device CUDA kernel errors
最新发布
weixin_44295060的博客
04-01 2408
my结果：PyTorch 版本: 1.9.1+cu102 CUDA 是否可用: True CUDA 版本: 10.2 GPU 设备: NVIDIA GeForce RTX 4090。某些 GPU（如较新的 RTX 40 系列）需要 PyTorch 2.0+ 才能支持。（如 RTX 4090），需确保 PyTorch ≥ 2.0。（但不一定是实际安装的 CUDA Toolkit 版本）。如果仍有报错，请提供。，但 PyTorch 安装的是。（如 RTX 3060）或。选择以下任一命令安装（推荐。
【Python】【Pytorch】【CUDA】之程序卡在.cuda()不出来
醉逍遥的博客
11-11 5513
本人环境： cuda 11.4 由于之前安装pytorch版本没有匹配，在此环境，将模型通过.cuda()往GPU上部署的时候，发现程序一直出不来。 很多人都遇到过类似问题，参考：CUDA版本11.4，pytorch应该下哪个版本的？ - 知乎 python - Pytorch get stuck at .to(‘cuda’) or .cuda() - Stack Overflowhttps://stackoverflow.com/questions/57566057/pytorch-get-s
容器里 pytorch model.cuda()卡死
yimingfei的博客
11-26 8213
在容器里，模型运行到model.cuda()这一步很久不动，直到被kill。 解决方案： 查看容器里cuda为10.2版本，但是torch安装的是0.4.0版本，所以我重新安装为匹配的版本： pip3 install torch==1.6.0 torchvision==0.7.0 这样就解决了。 ...
3090显卡服务器使用torch中的.cuda()语句会卡死问题解决方法
qq_45215296的博客
10-18 2634
3090显卡服务器使用torch中的.cuda()语句会卡死问题解决方法
CUDA无法使用NVIDIA显卡
Burger_的博客
08-07 3005
解决CUDA只用Intel集显而无法使用NVIDIA显卡
pytorch之多GPU使用——#CUDA_VISIBLE_DEVICES使用 #torch.nn.DataParallel() #报错解决
热门推荐
夏普通
06-14 9万+
文章目录1. 使用所有存在的显卡2. 指定编号使用显卡3. os.environ["CUDA_VISIBLE_DEVICES"]详解3.1. ["CUDA_VISIBLE_DEVICES"]使用3.2. 关于设置["CUDA_VISIBLE_DEVICES"]无效的解决4. torch.cuda主要函数4.1. torch.cuda.is_available()判断GPU是否可用4.2. torch.cuda.device_count()查看可用GPU数量4.3. torch.cuda.current_de
DeBug Record——Pytorch设置默认CUDA不是0号
weixin_44844796的博客
10-27 3584
Pytorch设置默认CUDA不是0号 问题说明 实验室服务器有4个GPU，同学用了0号，0号显存基本占满，剩余3个GPU，在代码里只使用了CUDA:3，但是cuda总是说memory不足。 报错： cuda runtime error (77): an illegal memory access was encountered 原因 在进行一行一行地debug时，发现，在运行以下代码时是没有问题的 device = torch.device('cuda:3' if torch.cuda.is_avail
CUDA:out of memory；import torch 报错OSError；No module named ‘pywt‘
qq_41425646的博客
11-29 1185
CUDA:out of memory;import torch 报错OSError;No module named 'pywt'
PyTorch 中CUDA错误
qq_42362891的博客
01-01 5046
概述：错误提示 CUDA error: an illegal memory access was encountered unable to get repr for class 'torch.tensor RuntimeError: CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling `cublasCreate(handle)` 上述的三个错误提示可能由很多原因导致，这里只讨论我遇到的。简要代码如下： x = self.functors.
求解！！CUDA，pytorch都已安装，训练模型还是不使用GPU(已解决)
zxr55584的博客
11-11 3192
安装了CUDA,但是电脑还是不使用GPU训练模型
【ERROR】RuntimeError: CUDA error: no kernel image is available for execution on the device出现问题及解决方案
weixin_44493291的博客
05-18 8537
RuntimeError: CUDA error: no kernel image is available for execution on the device 一般为出现原因为GPU与CUDA以及Pytorch版本对应有误，先采用以下语句测试 torch.cuda.is_available() #True a=torch.Tensor([1,2]) a=a.cuda() a 若以上语句出现问题则需要查看，pytorch与cuda对应版本和GPU是否匹配 若以上语句测试均无问题则要考虑是否为其他框架导
(已解决)Ubuntu多显卡训练模型时程序卡死：torch torch 奈若何
行步至春深
09-26 3308
根因是cuda和pytorch的版本不匹配~经过这次最大的收获是理解了channel并学会了下载下安装包conda install --use-local 的安装方式
RuntimeError: CUDA error: no kernel image is available for execution on the device解决
weixin_45983731的博客
06-07 1181
【代码】RuntimeError: CUDA error: no kernel image is available for execution on the device解决。
报错:RuntimeError: CUDA error: no kernel image is available for execution on the device
zh515858237的专栏
12-28 8116
例如，假设你的cuda版本是12.2，那么你可以将就着用下面的cuda12.1的torch版本。一般报这样的错，主要原因是torch版本和cuda版本不匹配导致的。，找到适合自己cuda的torch版本。
【bug】RuntimeError: CUDA error: no kernel image is available for execution on the device 解决方案
Light.T的博客
06-10 1772
使用demo程序验证GPU是否正常，代码如下： import pytorch print(torch.__version__) t=torch.ones(1,1,2,2) t=torch.cuda() 发现报错： RuntimeError: CUDA error: no kernel image is available for execution on the device 查明是torch的版本和cuda的版本不匹配，升级torch可以解决这个问题。 升级命令可以使用如下网页查询： https:/
autogptq
03-11
### 使用 AutoGPTQ 库量化 Transformer 模型 为了使用 `AutoGPTQ` 对 Transformer 模型进行量化，可以遵循如下方法： 安装所需的依赖包是必要的操作。通过 pip 安装 `auto-gptq` 可以获取最新版本的库。 ```bash pip install auto-gptq ``` 加载预训练模型并应用 GPTQ (General-Purpose Tensor Quantization) 技术来减少模型大小和加速推理过程是一个常见的流程。下面展示了如何利用 `AutoGPTQForCausalLM` 类来进行这一工作[^1]。 ```python from transformers import AutoModelForCausalLM, AutoTokenizer from auto_gptq import AutoGPTQForCausalLM model_name_or_path = "facebook/opt-350m" quantized_model_dir = "./quantized_model" tokenizer = AutoTokenizer.from_pretrained(model_name_or_path) model = AutoModelForCausalLM.from_pretrained(model_name_or_path) # 加载已经量化的模型或者创建一个新的量化器对象用于量化未压缩过的模型 gptq_model = AutoGPTQForCausalLM.from_pretrained(quantized_model_dir, model=model, tokenizer=tokenizer) ``` 对于那些希望进一步优化其部署环境中的模型性能的人来说，`AutoGPTQ` 提供了多种配置选项来自定义量化参数，比如位宽(bit-width)，这有助于平衡精度损失与运行效率之间的关系。 #### 注意事项 当处理特定硬件平台上的部署时，建议查阅官方文档以获得最佳实践指导和支持信息。此外，在实际应用场景之前应该充分测试经过量化的模型以确保满足预期的质量标准。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值