Docker容器使用GPU

最新推荐文章于 2025-10-29 09:13:52 发布

原创最新推荐文章于 2025-10-29 09:13:52 发布 · 792 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#docker #容器 #运维 #GPU

云相关专栏收录该内容

3 篇文章

订阅专栏

文章详细描述了如何在宿主机上安装NVIDIA驱动和CUDAToolkit，并确保版本对应。然后以特权模式启动容器，检查NVIDIA设备。接着在容器内部安装相同版本的NVIDIA驱动，通过特定参数执行安装脚本。此外，提到了使用宿主机CUDA库映射到容器内的方法，以及未尝试过的使用cuda-installer安装CUDAToolkit的选项。

部署运行你感兴趣的模型镜像

方法一

宿主机安装NVIDIA驱动和CUDA Toolkit（两者版本要对应）
cuda_10.2.89_440.33.01_linux.run：二合一版本包，包括NVIDIA驱动和CUDA
容器以特权模式启动：启动时加–privileged，查看容器中/dev目录下是否有nvidia设备
在容器内安装NVIDIA驱动（宿主机和容器驱动要一样）
sh **.run --noexec --target nvidia，可以解压二合一版本包得到NVIDIA-Linux-x86_64-440.33.01.run，将驱动拷贝进容器。在容器内执行如下命令安装驱动：

./NVIDIA-Linux-x86_64-440.33.01.run --silent --no-kernel-module --install-compat32-libs --no-nouveau-check --no-nvidia-modprobe --no-rpms --no-backup --no-check-for-alternate-installs --no-libglx-indirect --no-install-libglvnd --x-prefix=/tmp/null --x-module-path=/tmp/null --x-library-path=/tmp/null --x-sysconfig-path=/tmp/null