Ubuntu安装CUDA/cuDNN全指南

一、CUDA Toolkit安装

是由 NVIDIA 推出的软件开发工具包，专为利用 NVIDIA GPU 进行通用计算而设计。包括CUDA 编译器 (nvcc)、CUDA 库、CUDA 运行时和驱动程序 API等。

1.查看安装的显卡驱动版本：

nvidia-smi

比如是：Driver Version: 570.181

2.根据显卡驱动版本选择适配的CUDA Toolkit版本：

​ 打开 https://docs.nvidia.com/cuda/cuda-toolkit-release-notes/index.html，往下翻，找到不同显卡驱动版本匹配的CUDA Toolkit版本。类似如下图所示：

3. 选择合适的版本

打开 https://developer.nvidia.com/cuda-toolkit-archive，选择适合显卡驱动的版本，

比如CUDA Toolkit 12.9.1，则点击该链接。

在新打开的这个页面可以选择操作系统、架构、版本、安装类型等信息（如下图所示），从而选择合适的安装指令：

此时下面的文本框会出现对应的安装指令：

wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
wget https://developer.download.nvidia.com/compute/cuda/12.9.1/local_installers/cuda-repo-ubuntu2204-12-9-local_12.9.1-575.57.08-1_amd64.deb
sudo dpkg -i cuda-repo-ubuntu2204-12-9-local_12.9.1-575.57.08-1_amd64.deb
sudo cp /var/cuda-repo-ubuntu2204-12-9-local/cuda-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cuda-toolkit-12-9

依次执行上面的安装指令，进行安装。

4.修改 ~/.bashrc文件，增加以下内容：

export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64
​export PATH=$PATH:/usr/local/cuda/bin
export CUDA_HOME=/usr/local/cuda

5.切换CUDA Toolkit版本

​ 输入以下代码查看cuda的软链接：
​ ls -l /usr/local/

一台设备可以安装不同的CUDA Toolkit版本，想要切换版本，只需要改变这个软链接：
ln -snf /usr/local/cuda-*****/ /usr/local/cuda    

ls -l /etc/alternatives/cuda
/etc/alternatives/cuda -> /usr/local/cuda-12.9

readlink -f /usr/local/cuda
/usr/local/cuda-12.9

6.卸载CUDA Toolkit

​ sudo /usr/local/cuda-*****/bin/cuda-uninstaller
​ 将其中星号换为自己的版本即可。
​
​

二、cuDNN安装

cuDNN（CUDA Deep Neural Network library）是 NVIDIA 推出的深度神经网络加速库，优化了卷积、池化、归一化和激活层等操作。
下载地址: https://developer.nvidia.com/cudnn-downloads

根据系统版本选择然后执行以下命令就能安装了

不同的选项最后的安装指令可能不一样，按官网显示的命令安装即可：

wget https://developer.download.nvidia.com/compute/cudnn/9.17.0/local_installers/cudnn-local-repo-ubuntu2204-9.17.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2204-9.17.0_1.0-1_amd64.deb
sudo cp /var/cudnn-local-repo-ubuntu2204-9.17.0/cudnn-*-keyring.gpg /usr/share/keyrings/
sudo apt-get update
sudo apt-get -y install cudnn

若要安装适用于 CUDA 12 的版本，请执行上述配置，但安装 CUDA 12 特定软件包：

sudo apt-get -y install cudnn9-cuda-12

若要安装适用于 CUDA 13 的版本，请执行上述配置，但安装 CUDA 13 特定软件包：

sudo apt-get -y install cudnn9-cuda-13

cuDNN的安装，本质上就是将cuDNN的头文件和库文件，拷贝到对应cuda版本（比如/usr/local/cuda-12.9）的include和lib64目录下即可。