目录
各个历史版本下载:https://developer.nvidia.com/cuda-toolkit-archive
-
激活环境 A 并安装 CUDA 11.8:
bash
conda activate env_a conda install -c "nvidia/label/cuda-11.8.0" cuda-toolkit conda install -c "nvidia/label/cuda-11.8.0" cudnn nvcc --version # 显示 11.8
-
激活环境 B(未安装 CUDA 或安装了其他版本):
conda activate env_b nvcc --version # 若未安装则提示命令不存在,或显示其他版本(如 12.2)
conda 安装cuda-toolkit
conda install -c "nvidia/label/cuda-12.4.0" cuda-toolkit
conda install -c "nvidia/label/cuda-12.1.0" cuda-toolkit
配置清华源后,可以安装成功,速度比较慢,可能需要一个多小时。
如果在环境里面安装的,只对当前环境有效,其他环境不能共享使用,但是再安装速度可以加快。
参数说明
-c 是cache的意思,缓存目录,在别的conda环境安装,速度回快很多。
安装CUDA
下载CUDA,从https://developer.nvidia.com/cuda-downloads,下载对应版本的cuda安装包,我下载的是deb(local)版,
各个历史版本下载:
https://developer.nvidia.com/cuda-toolkit-archive
下载 runfile(local)
sudo sh cuda_11.8.0_520.61.05_linux.run
安装完成后,重启一下;
cudnn deb格式安装
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2004/x86_64/cuda-ubuntu2004.pinsudo mv cuda-ubuntu2004.pin /etc/apt/preferences.d/cuda-repository-pin-600wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda-repo-ubuntu2004-12-1-local_12.1.0-530.30.02-1_amd64.debsudo dpkg -i cuda-repo-ubuntu2004-12-1-local_12.1.0-530.30.02-1_amd64.debsudo cp /var/cuda-repo-ubuntu2004-12-1-local/cuda-*-keyring.gpg /usr/share/keyrings/sudo apt-get updatesudo apt-get -y install cuda
wget https://developer.download.nvidia.com/compute/cuda/12.1.0/local_installers/cuda_12.1.0_530.30.02_linux.runsudo sh cuda_12.1.0_530.30.02_linux.run
chmod +x ./cudnn-local-repo-ubuntu2004-8.9.7.29_1.0-1_amd64.deb
安装软件包:使用以下命令开始安装.deb文件:
sudo dpkg -i /path/to/your_file.deb
有时会有提示:
sudo cp /var/cudnn-local-repo-ubuntu2004-8.9.7.29/cudnn-local-CD2C2DD4-keyring.gpg /usr/share/keyrings/
执行一下,再执行:
sudo dpkg -i /runxxx.deb
设置环境变量
在打开的文件中加入如下两句话
vim /etc/profile
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
保存后,使环境变量立即生效,
source /etc/profile
cuda拷贝也可以?:
cp -R /home/model-server/cuda-12.1 /mnt/envs
export PATH=/mnt/envs//cuda-12.1/bin:$PATH