linux Cetnos离线安装Nvidia显卡驱动、Cuda、Cudnn、nvidia-container-runtime

摘要：

1、linux Cetnos离线安装Nvidia显卡驱动、Cuda、Cudnn、nvidia-container-runtime
2、服务器离线安装

安装NVIDIA 显卡驱动：

1、检查是否正确识别显卡，我这里有一块1080

lspci | grep -i nvidia
// 13:00.0 VGA compatible controller: NVIDIA Corporation GP104 [GeForce RTX 1080] (rev a1)

2、安装必要组件

sudo yum install gcc make -y
sudo yum install kernel-devel kernel-headers -y
sudo yum update

（非必须）如果更新了内核，需要重启，否则需要手动指定内核版本安装驱动

reboot

3、禁用Nouveau

默认的显示使用的是开源的Nouveau驱动程序，需要禁用才能安装显卡驱动，

vi /usr/lib/modprobe.d/dist-blacklist.conf

在文件结尾加入两行加入

blacklist nouveau
options nouveau modeset=0

4、停止可视化桌面服务

systemctl stop gdm

5、下载Nvidia显卡驱动

https://www.nvidia.com/drivers


检查信息后点击Download

6、安装NVIDIA驱动

sudo chmod +x NVIDIA-Linux-x86_64-xxx.xx.run
sudo ./NVIDIA-Linux-x86_64-xxx.xx.run

 # 虚拟机执行上面一行后可以尝试执行这行
sudo ./NVIDIA-Linux-x86_64-xxx.xx.run -m=kernel-open

说明：进入可视化安装页面，没有额外需求的话，一切按OK安装
错误：
1、部分错误为内核版本和驱动版本不对应，最好下载最新驱动，更新最新内核向对应。否则找到内核对应的驱动版本去安装。
2、需要关闭可视化桌面，否则无法安装。
3、有时候更新内核后依旧无法安装，需要 yum update 一下，更新其他软件包就可以安装成功。

7.完成

安装完成后，使用命令测试。

nvidia-smi

错误：
提示命令未找到说明安装失败
提示Unable to determine the device handle for GPU 0000:13:00.0: Unknown Error
可能是驱动的版本和内核的版本不对应，需要卸载驱动更换驱动版本重新安装

执行nvidmi-smi提示：No devices were found，如果是虚拟机的系统，加入命令 -m=kernel-open 重新编译

安装Cuda：

1、下载Cuda

https://developer.nvidia.com/cuda-downloads

使用有网的电脑直接下载URL后拷贝到服务器

2、安装Cuda

sudo chmod +x cuda_xxx.xx.xx_linux.run
sudo ./cuda_xxx.xx.xx_linux.run

1、填入accept
2、仅保留第二项CUDA Toolkit 其他去除
3、选择Install

等待安装完成

3、设置环境变量

vi ~/.bashrc

在文件最后加入

export PATH=$PATH:/usr/local/cuda-12.4/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.4/lib64

应用环境变量

source ~/.bashrc

4、完成

输入测试命令

nvcc -V

安装Cudnn：

1、下载

https://developer.nvidia.com/rdp/cudnn-archive

要选择与CUDA对应的11.x和12.x，选择tar包下载

2、安装

xz -d cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar.xz
tar -xvf cudnn-linux-x86_64-8.9.7.29_cuda12-archive.tar
cd cudnn-linux-x86_64-8.9.7.29_cuda12-archive
cp include/* /usr/local/cuda-12.4/include/
cp lib/* /usr/local/cuda-12.4/lib64/
chmod a+r /usr/local/cuda12.4/include/cudnn*  /usr/local/cuda12.4/lib64/libcudnn* 

3、完成

验证是否安装成功

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

安装nvidia-container-runtime（在线）：

官方在线安装说明

说明：可能因为外网访问问题，curl请求的连接会有问题导致无法安装

安装nvidia-container-runtime（离线）：

1、下载

libnvidia-container（软件包下载地址）

nvidia容器工具包的相关软件包目前已由https://nvidia.github.io/libnvidia-container存储库提供服务。在GitHub libnvidia-container仓库的gh-pages分支下，可以看到相关的软件包（建议选择stable文件夹下稳定版本的软件包来进行离线下载）

选择符合的系统，查看内部repo文件的值，按照路径返回到stable下查找需要的rpm下载

libnvidia-container核心包包括：

libnvidia-container-tools
libnvidia-container1
nvidia-container-runtime
nvidia-container-toolkit
nvidia-container-toolkit-base
nvidia-docker2

下载到服务器手动执行

rpm -Uvh *.rpm --nodeps --force

(Ubuntu)执行

dpkg -i --force-overwrite *.deb

2、修改配置文件

vi /etc/docker/daemon.json

{
	"default-runtime": "nvidia",
	"runtimes": {
		"nvidia": {
			"path": "nvidia-container-runtime",
			"runtimeArgs": []
		}	
	}
}

3、完成

检查命令

nvidia-container-runtime -v

重启docker生效

systemctl restart docker

运行docker检查

docker run --rm --runtime=nvidia nvidia/cuda nvidia-smi

进docker后 使用 nvidia-smi 检查是否正常