如何在Ubuntu 22.04系统上安装CUDA 12.9

以下是在 Ubuntu 22.04 系统上安装 CUDA 12.9 的精准分步指南，基于英伟达官方推荐流程简化，确保适配你的 575 驱动和 RTX A6000 显卡：

一、安装前准备（核心前提）

1. 确认驱动已就绪：你的 575 系列驱动（nvidia-smi 显示版本为 575.xx）已满足 CUDA 12.9 的最低要求，无需重新安装驱动，直接跳过驱动安装步骤。
2. 删除旧版 CUDA 残留（可选）：若之前装过其他 CUDA 版本，先执行以下命令清理，避免冲突：

   sudo apt-get --purge remove "cuda*" "nvidia-cuda*"
   sudo apt-get autoremove && sudo apt-get clean
   

3. 安装依赖库：执行命令安装必需依赖：

   sudo apt-get update
   sudo apt-get install build-essential gcc g++ freeglut3-dev libx11-dev libxmu-dev libxi-dev libglu1-mesa libglu1-mesa-dev
   

二、正式安装 CUDA 12.9（deb 包方式，最稳定）

步骤 1：添加英伟达官方软件源

依次在终端执行以下 4 条命令（复制粘贴即可，每执行完一条按回车）：

sudo wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-ubuntu2204.pin
sudo mv cuda-ubuntu2204.pin /etc/apt/preferences.d/cuda-repository-pin-600
sudo apt-key adv --fetch-keys https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/3bf863cc.pub
sudo add-apt-repository "deb https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/ /"

步骤 2：安装 CUDA 12.9

1. 先更新软件源缓存：

   sudo apt-get update
   

2. 执行安装命令（重点：仅安装 CUDA 工具包，不包含驱动）：

   sudo apt-get install cuda-toolkit-12-9
   

   安装过程约 5-10 分钟，需确认依赖时输入 y 并回车。

三、配置环境变量（必须步骤）

1. 打开环境变量配置文件：

   sudo nano ~/.bashrc
   

2. 在文件末尾添加以下 3 行内容（复制粘贴，注意路径正确性），使用ctrl+o进行保存，ctrl+x退出：

   export PATH=/usr/local/cuda-12.9/bin${PATH:+:${PATH}}
   export LD_LIBRARY_PATH=/usr/local/cuda-12.9/lib64${LD_LIBRARY_PATH:+:${LD_LIBRARY_PATH}}
   export CUDA_HOME=/usr/local/cuda-12.9
   

3. 保存文件并关闭编辑器，然后生效环境变量：

   source ~/.bashrc
   

四、验证安装是否成功

执行以下 2 条命令，输出对应信息即表示安装正常：

1. 查看 CUDA 编译器版本：

   nvcc -V
   

   成功会显示：release 12.9, V12.9.147（版本号匹配 12.9 即可）。
2. 查看驱动与 CUDA 匹配状态：

   nvidia-smi
   

   右上角会显示：CUDA Version: 12.9（与安装版本一致，且无报错）。

常见问题解决

• 执行 nvcc -V 提示 “命令未找到”：检查环境变量路径是否正确，或重新执行 source ~/.bashrc 生效。
• 安装时提示 “依赖冲突”：优先执行 sudo apt-get -f install 修复依赖，再重新安装 CUDA。
• 多卡场景无需额外配置：SGLang 引擎会自动识别双 RTX A6000，部署模型时通过参数（如 --tensor-parallel-size 2）启用多卡并行即可。