RuntimeError: CUDA Error: no kernel image is available for execution on the device

最新推荐文章于 2024-07-20 18:13:13 发布
最新推荐文章于 2024-07-20 18:13:13 发布
阅读量294 收藏 2
点赞数 1
CC 4.0 BY-SA版权
文章标签： 人工智能 深度学习 神经网络 自然语言处理 gpt-3
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_42544924/article/details/130693676
在配置ChatGLM时遇到问题，ChatGLM-6b模型运行正常但6b-int4模型无法运行。问题出在ptuning阶段的quantization_bit4设置。通过删除train.sh文件中最后一行的quantization_bit4参数，成功解决了模型运行问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

配置ChatGLM过程中，出现如上问题。

解决过程如下：

配置好服务器与python环境后，发现 ChatGLM-6b 模型可运行，但是 ChatGLM-6b-int4 模型运行不了，因此，在进行ptuning 的时候，将 train.sh 中的最后一行 quantization_bit 4 删除之后，此问题解决。

孔雀竹鱼
关注
RuntimeError: CUDA error: no kernel image is available for execution on the device
猿小白的博客
06-21 256
RTX 5080显卡运行程序报错解决方案：该显卡采用最新的sm_120架构，当前稳定版PyTorch尚未支持。报错显示"no kernel image available"，建议更新至最新驱动和CUDA版本，并通过安装PyTorch的nightly版本解决。执行命令：pip install -U --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu128。该问题
成功解决：RuntimeError: CUDA error: no kernel image is available for execution on the device
最新发布
qq_23022733的博客
08-23 4737
安装的 PyTorch 版本和 CUDA 版本不兼容。可以重新安装与系统上 CUDA 版本匹配的 PyTorch 版本。CUDA 版本与 GPU 驱动程序或 PyTorch 安装的 CUDA 编译版本不兼容。安装完成后，就可以完美解决这个Bug！
解决RuntimeError: CUDA error: no kernel image is available for execution on the deviceCUDA
m0_54000677的博客
01-11 4180
解决RuntimeError: CUDA error: no kernel image is available for execution on the deviceCUDA kernel errors might be asynchronously reported at some other API call,so the stacktrace below might be incorrect.在服务器复现代码的时候，遇到了上述错误，解决办法如下。
[debug] RuntimeError: CUDA error: no kernel image is available for execution on the device
真理无穷，进一步有进一步的欢喜
07-08 1320
问题描述 运行程序时出现报错： RuntimeError: CUDA error: no kernel image is available for execution on the device (launch_kernel at /opt/conda/conda-bld/pytorch_1556653114079/work/aten/src/ATen/native/cuda/Loops.cuh:72) 问题原因 当前使用的硬件算力不支持相应的pytorch函数，需要更换pytorch到一个合适的版本。
【笔记】解决学习Chatglm2 时遇到的 CUDA Error: no kernel image is available for execution on the device 问题
miles2007的博客
09-11 402
【笔记】解决 CUDA Error: no kernel image is available for execution on the device 的问题
RuntimeError: CUDA error: no kernal image is available for execution on the device.
weixin_41596697的博客
05-20 1762
解决方法如下：应该是CUDA版本和GPU算力的冲突。
[Ubuntu Error] RuntimeError: CUDA error: no kernel image is available for execution on the device
挪威的深林的博客
07-07 1038
命令显示使用的是CUDA 11.8编译器。这种不一致可能导致运行时出现问题，因为库和编译器版本不匹配。提供的输出信息来看，系统上安装了CUDA 10.1相关的包，但。如果你不再需要CUDA 10.1，可以卸载它以避免冲突。
MMdetection模型运行错误RuntimeError: CUDA error: no kernel image is available for execution on the device
qq_41627642的博客
07-20 352
如何查找服务器的 cuda 环境变量 TORCH_CUDA_ARCH_LIST。
当出现RuntimeError:CUDA error:no kernel image is available for execution on the device 问题时候的pytorch安装方法
m0_65931988的博客
04-07 2373
本人由于需要学习深度学习，因此要用到pytorch.经过不断摸索终于成功安装好了pytorch,其中走过很多弯路，其中最大的原因就是没有意识到显卡算力的问题导致安装pytorch不匹配。
RuntimeError:CUDA error: no kernel image is available for execution on the device
欢迎订阅 -- 小源笔迹
09-08 743
根据网上所说，检查是否有cpuonly包，删除即可，但是我没有，网上说先下载后卸载就可以，可我这直接就无法安装，conda和pip都安装不了。我的conda默认还是安装的cpu版本的torch。用pip指定版本可以安装并且是支持gpu的版本，但是还是报之前不兼容的错误，不指定版本的话竟然安装的是1.0.2的版本，没有最新的软件包。发现我要的torch1.8.0还没有对应版本，1.8.1的版本只有cpu的对应版本。检索发现我的本机没有cuda10.1的版本，我的cuda是11.4的版本。
RunTimeError: CUDA error: no kernel image is available for execution on the device
BohnLee的博客
01-09 2500
首先贴上自己的配置ubuntu 18.04 + 3060+ driver 470 + CUDA 11.1 + cuDNN 8.1.1 + torch 1.8 python3 collect_env.py Collecting environment information... PyTorch version: 1.8.0+cu111 Is debug build: False CUDA used to build PyTorch: 11.1 ROCM used to build PyTorch..
RuntimeError: CuDA error: no kernel image is available for execution on the device
05-10
这个错误通常是由于缺少GPU驱动程序或CUDA库文件的问题导致的。可能的原因包括： 1. 没有正确安装GPU驱动程序。 2. CUDA库文件已损坏或缺失。 3. 您的GPU不支持CUDA。 您可以尝试重新安装GPU驱动程序和CUDA库文件来解决此问题。如果您确定您的GPU支持CUDA，但仍然遇到此错误，则可以尝试更新您的GPU驱动程序或尝试使用较新版本的CUDA库文件。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值