AssertionError: CUDA_HOME does not exist, unable to compile CUDA op(s)

最新推荐文章于 2025-04-29 20:42:34 发布
最新推荐文章于 2025-04-29 20:42:34 发布
阅读量7.8k 收藏 18
点赞数 13
CC 4.0 BY-SA版权
分类专栏： 工具 Linux 程序错误 文章标签： linux GPU 驱动
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/studyeboy/article/details/132036254
本文讲述了在安装deepspeed时遇到的问题，涉及CUDA环境检查、多GPU兼容性及显存占用问题，提供了解决方案，包括检查CUDA、安装步骤、检测和重新安装，针对A100单机多卡大模型训练的常见问题给出实用记录。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

解决：AssertionError: CUDA unavailable, invalid device gpu requested
qq_42709514的博客
11-05 2万+
因为是刚接触机器学习，搞cpu的已经搞定，换gpu却出问题了，环境搞了一天。各种百度查。看到这里的朋友不要百度查了，直接上官网，上不了官网的参考一下方式：按照官网给的依赖包版本安装，不然容易踩依赖包版本不合适导致问题 PyTorch官网 CUDA 10.2 官网下载 CUDA 11.3 官网下载 CUDA 10.2 CUDA 10.2 conda ：conda install pytorch torchvision torchaudio cudatoolkit=10.2 -c pytorch CUDA 1
AssertionError: CUDA unavailable, invalid device 0 requested
qq_49641239的博客
06-24 6万+
1、查看报错 Traceback (most recent call last): File "train.py", line 651, in <module> device = select_device(opt.device, batch_size=opt.batch_size) File "/home/camila/test/xxx/utils/torch_utils.py", line 71, in select_device assert torch.cuda.
安装deepspeed时出现了以下的错误，如何解决CUDA_HOME does not exist
最新发布
m0_72806612的博客
04-29 492
安装deepspeed时，主服务器装机时没有装cuda的编译器等一系列工具，导致pip时无法编译deepspeed包以及一系列依赖。很简单，nvidia-smi查看cuda版本号，使用conda install安装一个cuda-toolkit即可解决。之后，可以正常pip deepspeed。
安装deepspeed报错：raise MissingCUDAException(“CUDA_HOME does not exist, unable to compile CUDA op(s)“)
m0_52965867的博客
07-24 1510
【代码】安装deepspeed报错：raise MissingCUDAException(“CUDA_HOME does not exist, unable to compile CUDA op(s)“)
安装 deepspeed 报错 | 【CUDA_HOME does not exist, unable to compile CUDA op(s)】
u010442263的博客
11-08 1227
安装 deepspeed 报错 | 【CUDA_HOME does not exist, unable to compile CUDA op(s)】
CUDA HOME does not exist, unable to compile CUDA op(s)，已解决
读书郎
11-19 729
解决，应该是conda-forge会有一系列相关的包。应该是本地没有nvcc相关执行文件。
CUDA_HOME environment variable is not set：环境变量CUDA_HOME存在却找不到？解决方法记录
2301_81635296的博客
07-31 5321
若虚拟环境内无法检测到，继续尝试在环境内配置，如conda env config vars set CUDA_HOME=xxxx(变量值)检查cuda版本与所下载pytorch等包的版本！本人重新下载后报错消失。向环境变量添加CUDA_HOME变量，变量值等于CUDA_PATH。，若路径中存在空格则将变量值用双引号括起来，直至。虚拟环境内的检查结果显示正确路径。
AssertionError: CUDA unavailable, invalid device 0 requested问题
zwl613613613的博客
02-26 1万+
AssertionError: CUDA unavailable, invalid device 0 requested
成功解决：AssertionError: Torch not compiled with CUDA enabled
热门推荐
m0_74890428的博客
04-16 8万+
在运行pycharm项目的时候，出现了AssertionError: Torch not compiled with CUDA enabled，主要可以归结于以下两个个方面： 1、没有安装GPU版本的pytorch，只是使用清华的镜像地址下载了CPU版本的pytorch 2、安装的CUDA和安装的pytorch的版本不相互对应
解决AssertionError Torch not compiled with CUDA enabled.docx
08-05
在使用PyTorch进行深度学习计算时，可能会遇到一个常见的错误：“AssertionError: Torch not compiled with CUDA enabled”。这个错误提示意味着你的PyTorch库没有被编译为支持CUDA，也就是不能利用GPU进行加速运算...
No CUDA runtime is found, using CUDA_HOME=‘/usr/local/cuda:/usr/local/cuda‘
天天放羊的博客
12-15 9753
问题描述: 配置vedadet 环境时报错 OSError: CUDA is required to compile vedadet No CUDA runtime is found, using CUDA_HOME=’/usr/local/cuda:/usr/local/cuda’ Compiling nms_ext without CUDA 解决： export FORCE_CUDA="1"
已安装CUDA，报错AssertionError: Torch not compiled with CUDA enabled
qq_56618056的博客
08-29 1282
已安装CUDA，报错AssertionError: Torch not compiled with CUDA enabled
【软件安装】安装deepspeed 时 cuda 报错
Damu
09-06 6770
这种情况一般是由于cuda 重新安装或没有在默认路径。找到自己的cuda 安装路径后，使。下，因此没有找到系统环境变量。
解决OSError: CUDA_HOME environment variable is not set. Please set it to your CU
weixin_44001371的博客
11-30 1万+
在大多数情况下，上述 cudatoolkit 是可以满足 Pytorch 等框架的使用需求的。但对于一些特殊需求，如需要为 Pytorch 框架添加 CUDA 相关的拓展时( Custom C++ and CUDA Extensions )，需要对编写的 CUDA 相关的程序进行编译等操作，则需安装完整的 Nvidia 官方提供的 CUDA Toolkit.C++Extension有对CUDA的依赖，并且此cuda需要是电脑安装的而不是使用anaconda下载的cudatookit。重启计算机，即可解决。
解决AssertionError: Torch not compiled with CUDA enabled
咖乐部
04-28 2566
https://blog.youkuaiyun.com/m0_37690102/article/details/108364458
AssertionError(“Torch not compiled with CUDA enabled“)
ANNaScripter的博客
03-11 1447
​​​​​​如果是跑GPU，除了检查torch和cuda的对应版本是否一致以外，还要注意官网下载的torch版本开头是cuxxx而不是cpu pytorch各版本下载地址：https://download.pytorch.org/whl/torch_stable.html cpu版本： gpu版本： ...
关于报错AssertionError: CUDA unavailable, invalid device 0 requested的处理方式
pyxiaosheng的博客
03-29 2万+
从git上找了一个工程，按照其readme.md想运行试试，遇到报错： 这个报错是指：代码要运行CUDA，但是不能运行。 解决办法分两种情况：1.不运行CUDA；2.运行CUDA。 针对情况1： 点击蓝色 .\torch_utils.py 文件，传送到下图： 继续按照其readme.md运行试试，会遇到如下报错： 此时，点击报错中倒数第二个upsampling.py文件，传送到下图： 屏蔽后如下图： 到此，不运行CUDA的情况下可以正常运行程序了。 针对情...
服务器设置CUDA HOME环境变量
01-14
### 设置 CUDA_HOME 环境变量 为了确保 GPU 加速的应用程序能够正常工作，在 Linux 服务器环境中正确设置 `CUDA_HOME` 和其他相关环境变量至关重要。当遇到错误提示 `AssertionError: CUDA_HOME does not exist, unable to compile CUDA op(s)`[^1]，这通常意味着系统无法找到 CUDA 的安装路径。 #### 修改 `.bashrc` 文件添加环境变量 对于大多数基于 Debian/Ubuntu 的发行版来说，推荐通过编辑用户的 shell 配置文件（通常是 `~/.bashrc` 或者 `/etc/profile.d/cuda.sh`）来永久设定这些变量： ```bash export CUDA_HOME=/usr/local/cuda-11.4 # 根据实际安装位置调整此路径 export PATH=$PATH:$CUDA_HOME/bin export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$CUDA_HOME/lib64 ``` 上述命令假设已经完成了 NVIDIA 驱动以及特定版本的 CUDA 工具包 (如 CUDA 11.4)[^2] 安装过程，并且希望将其作为默认使用的 CUDA 版本。 完成编辑之后，可以通过执行以下命令使更改立即生效: ```bash source ~/.bashrc ``` 或者重启终端会话也可以达到相同的效果。 验证设置是否成功的方法之一就是尝试调用 nvcc 编译器并查看其版本号： ```bash nvcc --version ``` 如果一切顺利，则应该能看到所期望的 CUDA 版本信息被打印出来。 另外需要注意的是，如果有多个不同版本的 PyTorch 或者其他的依赖于特定 CUDA 版本的库存在时，可能还需要进一步确认各个软件包之间兼容性的关系[^4]。
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值