docker部署人工智能项目(pytorch-yolo版)

最新推荐文章于 2025-01-16 13:48:35 发布
最新推荐文章于 2025-01-16 13:48:35 发布
阅读量2.1k 收藏 47
点赞数 54
文章标签： docker 人工智能 YOLO
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/m0_59419706/article/details/144857173
版权

引言

起因

最近准备打算在docker上部署人工智能项目。大致的场景就是在矿区内部署一些个监控设备，监控一些特定的场景，主要是去识别一些危险区域，危险行为，设备异常之类。传统的人工智能项目多采用服务器直接部署，但是这样就一个不方便的地方，不能把人工智能算法的主动权交给客户。人工智能项目往往是使用特定模型，特定算法去针对一些特定场景去识别的。这就导致如果用户提出需求说想要更换算法模型或者，更换摄像头识别的设备，或者更换模型参数等，都需要程序员直接介入，首先必须要做的一步就是先把程序停止，然后再重启。

解决办法

那我们能不能直接把模型启停和参数设置以及更换设备的主动权交给客户来做呢？那就是我这次博客中想要带来的内容。使用docker部署人工智能项目可以大大的减轻程序员的工作量，同时满足客户频繁需要更换设备的需求！

docker守护进程配置

前提说明

在您看到这一章的时候，默认您已经了解了docker如何安装，docker的安装教程，在我前面的一篇文章中已经提到。当然这里也都默认使用linux-centos7进行部署安装。如果您使用的是ubuntu系统或者其他linux系统，建议您参考对应的docker安装教程。

什么是docker守护进程

那么什么是docker守护进程呢？Docker 守护进程（Docker Daemon）是 Docker 的核心组成部分，负责管理和执行 Docker 容器相关的操作。它通常以后台进程的形式运行，并且与 Docker 客户端（CLI）进行交互，处理来自客户端的请求。

Docker 守护进程的主要功能包括：

  1. 管理容器：它创建、启动、停止、删除容器，并确保容器的生命周期得到管理。
  2. 管理镜像：Docker 守护进程会从 Docker 仓库拉取镜像，或者构建新镜像，并确保它们能正确地存储和管理。
  3. 管理网络：它负责容器间的网络管理，包括创建和管理 Docker 网络，以支持容器之间的通信。
  4. 管理存储：它负责管理 Docker 容器使用的存储卷（volumes），确保数据持久化。
  5. 处理客户端请求：Docker 守护进程通过监听 Unix 套接字或 TCP/IP 套接字来接收来自客户端的命令。客户端通过 Docker CLI 或其他 API 发出请求，守护进程会解析请求并执行相应的操作。

由此我们不得不提出如何使用客户端连接docker守护进程，进行docker的直接操作了。

Docker 守护进程的远程访问：端口 2375 和 2376

Docker 守护进程（dockerd）默认情况下通过 Unix 套接字（/var/run/docker.sock）与 Docker 客户端通信。但是，如果希望远程管理 Docker 主机或服务器上的容器，可以通过 TCP 端口进行通信。通常，Docker 守护进程会监听以下两个端口：

  • 2375 端口：用于未加密的 HTTP 通信。
  • 2376 端口：用于加密的 HTTPS 通信。

端口 2375（不安全-不推荐）

  • 默认情况下，端口 2375 是 Docker 守护进程的开放端口，它允许 Docker 客户端通过网络与 Docker 守护进程进行通信。但是，这个端口不加密通信，因此它不安全。

  • 使用端口 2375 时，不会进行任何加密或身份验证，这使得它容易受到中间人攻击，因此不建议在生产环境中使用该端口。

    启用 Docker 通过端口 2375 监听： 要允许 Docker 守护进程通过 2375 端口进行连接，你需要修改 Docker 配置文件或启动时指定相关参数。

建议大家直接跳过不使用这个端口操作docker守护进程，因为我之前试过，服务器容器产生安全漏洞，被人挖矿了。强烈推荐使用2376端口去操作docker守护进程。

端口 2376（安全-推荐）

  • 端口 2376 是 Docker 的 HTTPS 安全通信端口，通常用于加密和验证连接。使用该端口时，Docker 会加密客户端和守护进程之间的通信，确保数据传输的安全性。

  • 端口 2376 使用 SSL/TLS 协议进行加密，需要配置证书和密钥来进行身份验证。

    启用 Docker 通过端口 2376 监听： 要让 Docker 守护进程通过端口 2376 进行加密通信，需要配置 SSL/TLS 证书：

配置步骤

1.编辑文件:vim /usr/lib/systemd/system/docker.service

修改前：

ExecStart=/usr/bin/dockerd -H f:// --containerd=/run/containerd/containerd.sock

修改后(即去掉-H f://):

ExecStart=/usr/bin/dockerd --containerd=/run/containerd/containerd.sock

2.创建 SSL 证书和密钥（server-cert.pem、server-key.pem 和 ca-cert.pem）。

如果你还没有证书，可以按照以下步骤生成它们：注意事项:这些证书文件一会儿会默认生成在您运行命令的当前目录，如果您不想保存在当前目录可以切换到一个专门存放这些证书文件的目录。防止证书文件被您意外删除--后续要用到。

  • 创建CA证书(请依次执行，一行一行复制)
openssl genrsa -aes256 -out ca-key.pem 2048
openssl req -x509 -new -nodes -key ca-key.pem -sha256 -days 1024 -out ca.pem
  • 创建服务器证书(请依次执行，一行一行复制)
openssl genrsa -out server-key.pem 2048
openssl req -new -key server-key.pem -out server.csr
openssl x509 -req -in server.csr -CA ca.pem -CAkey ca-key.pem -CAcreateserial -out server-cert.pem -days 500 -sha256
  • 创建客户端证书（可选）：
openssl genrsa -out key.pem 2048
openssl req -new -key key.pem -out client.csr
openssl x509 -req -in client.csr -CA ca.pem -CAkey ca-key.pem -CAcreateserial -out cert.pem

3.配置 Docker 守护进程： vim /etc/docker/daemon.json 配置文件，将生成的证书放置在 Docker 配置中指定的位置，如下所示： 修改deamon.json配置文件，加入如下配置(附送docker镜像加速地址-国内速度加快！)：

其中tlscacert、tlscert、tlskey的配置文件改成步骤2中您在本地生成的证书文件所在目录。

{
  "hosts": ["tcp://0.0.0.0:2376", "unix:///var/run/docker.sock"],
  "tlscacert": "/hhk/ca.pem",
  "tlscert": "/hhk/server-cert.pem",
  "tlskey": "/hhk/server-key.pem",
  "registry-mirrors": [
    "http://hub.xdark.top",
    "http://dockerpull.com",
    "http://dockerproxy.cn/",
    "https://registry.dockermirror.com/",
    "https://docker.1panel.live/",
    "https://hub.rat.dev/",
    "https://dhub.kubesre.xyz/"
  ]
}

4.重启docker守护进程，让上述这些配置生效。

systemctl daemon-reload

systemctl restart docker

systemctl enable docker

docker使用服务器中的gpu配置

本地gpu以及CUDA驱动版本

很多人在纳闷自己的服务器上有nvidia GPU可是在docker内部却无法正常调用nvidia-gpu，这是一个令人头大的问题。如果您的机器上支持gpu。则使用nvidia-smi命令应该能够查看到本地的GPU信息以及支持的的最高版本的CUDA，如下图所示。我的是12.4版本。

而且如果您已经安装了相关的CUDA驱动包，则可以使用如下命令nvcc -V进行查看您安装的CUDA的版本信息。

接下来您可以开始在docker中验证是否能够正常使用机器中自带的gpu了，默认肯定是不行的。下面我就如何在docker中验证是否启用gpu，以及如何进行人工智能算法部署进行介绍。

docker构建yolo镜像

我们以yolo为例开始讲解如何拉取yolo镜像，构建yolo镜像使用yolo完成一个AI项目的构建，在docker中启用GPU进行预测。

1.安装兼容版本的pytorch/pytorch镜像去构建。首先要先查看您本地的CUDA版本信息(nvcc -V)去查看。拉取对应版本的的pytorch镜像才可以。

官方地址:https://hub.docker.com/r/pytorch/pytorch/tags?name=11.1。国内用户可以使用科学上网工具进行访问哦！如果不行可以留下邮箱找我进行获取~。

而我这边的CUDA版本是12.4，进入官网直接搜12.4即可。

选用后缀-runtime的进行下载。我这里直接拉取最新的镜像。

docker pull pytorch/pytorch:2.5.1-cuda12.4-cudnn9-runtime 

然后就是漫长的拉取过程，如果大家拉的太慢的话，一定要给docker配置阿里云镜像仓库哦。还有就是设置镜像加速地址。前面已经介绍过了。下载下来大概有几个G。还是挺大的这个镜像。

下载完成之后可以使用docker images命令进行查看：

下载完毕之后大家需要使用上述pytorch镜像构建一个新的Dockerfile镜像。因为上面的pytorch只拥有了一些基础的pytorch环境并不具备，yolo的依赖环境。

Dockerfile大家自取。记得第一行改成您下载的镜像。

# 使用与CUDA 11.2兼容的PyTorch官方镜像作为基础镜像
# 使用nvidia-smi查看服务器CUDA 版本，然后参考PyTorch官方说明来选择合适的镜像，否则会出错！
FROM pytorch/pytorch:2.5.1-cuda12.4-cudnn9-runtime
 
# 所需要的包
RUN pip install scipy -i https://mirrors.aliyun.com/pypi/simple
RUN pip install numpy -i https://mirrors.aliyun.com/pypi/simple
RUN pip install matplotlib -i https://mirrors.aliyun.com/pypi/simple
RUN pip install tqdm -i https://mirrors.aliyun.com/pypi/simple
RUN pip install PyYAML -i https://mirrors.aliyun.com/pypi/simple
RUN pip install Pillow -i https://mirrors.aliyun.com/pypi/simple
RUN pip install opencv_python -i https://mirrors.aliyun.com/pypi/simple
RUN pip install tensorboard -i https://mirrors.aliyun.com/pypi/simple
RUN pip install h5py -i https://mirrors.aliyun.com/pypi/simple
RUN pip install Seaborn -i https://mirrors.aliyun.com/pypi/simple
RUN pip install ultralytics -i https://mirrors.aliyun.com/pypi/simple
RUN pip install yolo -i https://mirrors.aliyun.com/pypi/simple

#这个错误提示 ImportError: libGL.so.1: cannot open shared object file: No such file or #directory 通常是由于缺少 OpenGL 库，libGL.so.1 是 OpenGL 库的一个文件，它是 opencv-# # #python（cv2）库的依赖项。之后就支持导出tensorRT模型了。
# 上述构建了一个基础的镜像。此时还需要图像处理器。
RUN apt update
RUN apt install -y libgl1-mesa-glx
RUN apt install -y libglib2.0-0
RUN pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
# 再次导出。可以导出tensorRT模型了。

又是一段时间的构建镜像和安装新的python依赖环境。上面构建完毕的镜像就拥有了必要的环境了。当然还要注意一般情况下构建之后的镜像在之后进入目标检测等相关任务的时候可能会发生报错，找不到机器上的图像处理器等，大家可以参考我上面的后面几行配置进行添加。最后是使用国内的清华源镜像对pip安装进行加速。

这样安装好后的镜像，除了拥有python的环境还具备了conda的环境，我搜了一下，官方的pytorch镜像是基于anaconda进行构建的。这样就省事多了。

如果后续使用avc1编码器进行视频编码，默认的opencv-python环境编码视频的时候经常报错。说找不到ffmpeg等h264编码错误。所以需要的可以不根据上面那个配置使用更完整的Dockerfile文件。

# 使用与CUDA 11.2兼容的PyTorch官方镜像作为基础镜像
# 使用nvidia-smi查看服务器CUDA 版本，然后参考PyTorch官方说明来选择合适的镜像，否则会出错！
FROM pytorch/pytorch:2.5.1-cuda12.4-cudnn9-runtime
 
# 所需要的包
RUN pip install scipy -i https://mirrors.aliyun.com/pypi/simple
RUN pip install numpy -i https://mirrors.aliyun.com/pypi/simple
RUN pip install matplotlib -i https://mirrors.aliyun.com/pypi/simple
RUN pip install tqdm -i https://mirrors.aliyun.com/pypi/simple
RUN pip install PyYAML -i https://mirrors.aliyun.com/pypi/simple
RUN pip install Pillow -i https://mirrors.aliyun.com/pypi/simple
RUN pip install opencv_python -i https://mirrors.aliyun.com/pypi/simple
RUN pip install tensorboard -i https://mirrors.aliyun.com/pypi/simple
RUN pip install h5py -i https://mirrors.aliyun.com/pypi/simple
RUN pip install Seaborn -i https://mirrors.aliyun.com/pypi/simple
RUN pip install ultralytics -i https://mirrors.aliyun.com/pypi/simple
RUN pip install yolo -i https://mirrors.aliyun.com/pypi/simple

#这个错误提示 ImportError: libGL.so.1: cannot open shared object file: No such file or #directory 通常是由于缺少 OpenGL 库，libGL.so.1 是 OpenGL 库的一个文件，它是 opencv-# # #python（cv2）库的依赖项。之后就支持导出tensorRT模型了。
# 上述构建了一个基础的镜像。此时还需要图像处理器。
RUN apt update
RUN apt install -y libgl1-mesa-glx
RUN apt install -y libglib2.0-0
RUN pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple
# 再次导出。可以导出tensorRT模型了。


# 更完整的配置--卸载掉默认的opencv库，使用conda安装可以编码视频的opencv
RUN pip uninstall opencv-python opencv-contrib-python -y
RUN conda install -c conda-forge opencv -y

经过上面的Dockerfile构建yolo镜像。

docker build -t yolo .

构建完毕后查看镜像信息：docker images，如下图所示。

使用交互式命令从yolo镜像构建为容器

docker run -it --gpus all --ipc=host yolo /bin/bash
  1. 创建并启动一个新的容器。
  2. 使用名为 yolo 的镜像。
  3. 启用交互式终端（-it），让用户可以直接操作容器。
  4. 允许容器访问宿主机的所有 GPU（--gpus all），用于运行需要 GPU 加速的程序。
  5. 配置容器共享宿主机的 IPC 命名空间（--ipc=host），提高共享内存使用效率。
  6. 启动后进入容器的 Bash Shell（/bin/bash）。

应用场景

  • 在容器中运行需要 GPU 加速的深度学习任务，例如训练或推理 YOLO 模型。
  • 提供一个调试和交互式环境，以便在容器中配置和测试代码。

之后可以在出现的控制台中验证是否能够访问到本机的gpu。如下所示。

为什么在docker内无法查看gpu信息

解决办法

. NVIDIA Container Toolkit 未安装

  • 问题：Docker 默认不支持直接访问 GPU，需要安装 NVIDIA Container Toolkit（以前叫 nvidia-docker2）。

  • 安装 NVIDIA Container Toolkit：

# 安装nvidia-docker
sudo yum install -y nvidia-docker2 nvidia-container-runtime

上述安装Nvidia-docker遇到报错:

[root@localhost docker]# yum install -y nvidia-docker2 nvidia-container-runtime
Loaded plugins: fastestmirror, langpacks
Loading mirror speeds from cached hostfile
 * base: mirrors.aliyun.com
 * epel: repo.jing.rocks
 * extras: mirrors.aliyun.com
 * updates: mirrors.aliyun.com
No package nvidia-docker2 available.
No package nvidia-container-runtime available.
Error: Nothing to do

出现上面的原因。 需要下载这两个文件:nvidia-docker.repo 以及nvidia-container-runtime.repo。并配置到指定目录/etc/yum.repos.d/下。这是一个目录，在基于 YUM（Yellowdog Updater, Modified） 的 Linux 发行版（如 CentOS、RHEL、Fedora 等）中用于存放 YUM 软件仓库配置文件。这些配置文件定义了系统从哪些仓库（repository）中获取软件包以及如何更新这些软件包。

下载方式：通过网盘分享的文件：nvidia-docker
链接: https://pan.baidu.com/s/11CYYumoHirRer_mny1Ewgg?pwd=c87g 提取码: c87g

上述俩个为念下载之后上传至服务器的/etc/yum.repos.d/目录下面即可。

接下来我们重新安装：

# 安装nvidia-docker
sudo yum install -y nvidia-docker2 nvidia-container-runtime

安装完成之后，我们查看一下daemon.json文件看看是否多了一个配置。cat /etc/docker/daemon.json。runtimes环境有了即可。

{
   "runtimes": {
        "nvidia": {
            "path": "nvidia-container-runtime",
            "runtimeArgs": []
        }
    },
    "registry-mirrors": [
    "http://hub.xdark.top",
    "http://dockerpull.com",
    "http://dockerproxy.cn/",
    "https://registry.dockermirror.com/",
    "https://docker.1panel.live/",
    "https://hub.rat.dev/",
    "https://dhub.kubesre.xyz/"
  ]
}

重启docker守护进程：

systemctl daemon-reload
systemctl restart docker
systemctl enable docker

使用gpu可访问模式启动yolo镜像操作。

docker run -it --gpus all --ipc=host yolo /bin/bash

重新输入nvidia-smi命令查看。即可发现如下：说明我们已经成功了！

总结

基于上述的整个环境配置我们即可拥有一套基于docker的人工智能项目部署方案。后期可以使用python或者java客户端等去操作docker守护进程。对部署的yolo项目进行启动，以及设备绑定。这样就可以把主动权交给客户来操作了！

Docker+AI 整合：私有部署系统构建全流程揭秘
Sapphire521的博客
03-29 77
在现代软件开发中，Docker与人工智能（AI）的结合，正成为企业解决高效应用部署与智能化服务的重要手段。无论是云计算、大数据分析，还是深度学习的加速应用，Docker和AI的深度整合能够为企业提供快速、稳定、高效的系统部署。本文将从Docker技术与AI模型集成的多个层面出发，详细揭秘私有部署系统的构建过程，探索这一技术整合如何推动智能化应用的实现，并带来超前思维的技术创新。
pytorch-YOLOv3移植到寒武纪
椰子奶糖的博客
07-16 2326
pytorch-YOLOv3移植到寒武纪 文章目录pytorch-YOLOv3移植到寒武纪参考新建dockermake caffecaffe扩展pip install torch转换结果修改 参考 1、Darknet2Caffe 大概步骤 2、ChenYingpeng/darknet2caffe 3、基于Docker的Caffe编译（CUDA11的makefile版） caffe的编译是用我的这个博客，只用到caffe编译部分： 4、官方镜像园 5、ImportError:No module nam
使用docker搭建yolov8环境（从头到尾完整流程，小白也能行！）
m0_58700887的博客
12-03 2103
Linux服务器，CentOS 7系统，CUDA版本11.4，确保显卡可以正常使用。
在docker容器中部署yolov5(基于ncnn神经网络推理框架）
weixin_44545838的博客
08-05 2624
使用Docker部署NCNN推理框架神经网络能够简化环境配置、提供环境隔离和一致性、实现可移植性、提高资源利用率并具备良好的可扩展性。这些好处可以加速开发和部署过程，提升系统的可靠性和稳定性。简化环境配置：NCNN是一个基于C++的轻量级神经网络推理框架，具有高效、快速和低内存占用等特点。使用Docker可以将NCNN及其依赖项打包成一个独立的容器，避免了手动安装和配置各种依赖项的繁琐过程，减少了环境配置的难度。环境隔离和一致性：Docker提供隔离的容器环境，每个容器都拥有独立的文件系统和运行环境。
Docker部署Yolo v5 / v7项目
qq_42168462的博客
05-01 2629
Docker中部署Yolo v5/v7项目，Cuda12.2 PyTorch 2.2.2 Python3.9.18
ubuntu20.04利用docker部署yolov8检测算法（保姆级教程）
givxd的博客
08-13 2902
在ubuntu20.04系统上利用docker部署yolov8检测算法，使用系统基础镜像，同样可以部署其他深度学习算法。
用Docker搭建yolov5开发环境
Fan0920的专栏
03-03 4985
用Docker搭建yolov5开发环境,小白可以上手。
AI项目部署：难度、目标及基本原则
beilizhang的博客
03-09 489
AI项目部署：难度、目标及基本原则 参考链接 https://time.geekbang.org/course/detail/100046401-206515 AI项目部署
yolov5-pytorch-Ultralytics教程，涵盖 训练+预测+报错处理
weixin_42179685的博客
05-03 2614
本篇使用的yolo5模型大小为yolov5l由于需要识别一图片些细小的物体，我在Ultralytics的yolov5添加了一些注意力机制，但本次不会展开说，因为添加注意力前后对我们训练和预测的操作流程都没有任何影响。训练+预测至此结束咯~~
yolo_world_pytorch实时开放词汇目标检测模型
qq_27815483的博客
11-11 1639
YOLO-World是一种实时开放词汇目标检测系统，它通过视觉-语言建模和大规模数据集上的预训练，增强了YOLO（You Only Look Once）系列检测器的开放词汇检测能力。该模型没有使用在线词汇表，而是提供了一个提示-检测范式，其中用户根据需要生成一系列提示，提示将被编码到离线词汇表中。然后可以将其重新参数化为模型权重，用于部署和进一步加速。
YOLOv5(PyTorch)目标检测实战：Flask Web部署
06-30
PyTorch版的YOLOv5是轻量而高性能的实时目标检测方法。利用YOLOv5训练完自己的数据集后，如何向大众展示并提供落地的服务呢？  本课程将提供相应的解决方案，具体讲述如何使用Web应用程序框架Flask进行YOLOv5的Web...
yolov5_torchserve:使用在Docker上运行的YoloV5模型的Torchserve服务器，具有GPU和静态批处理推理功能以执行生产就绪的推理
05-28
在TorchServe上运行的Yolov5（与GPU兼容）！ 这是一个用于为Yolo v5对象检测模型运行TorchServe的dockerfile。 （TorchServe（PyTorch库）是一种灵活且易于使用的工具，用于服务从PyTorch导出的深度学习模型）。 您只需要在ressources文件夹中传递一个yolov5权重文件（.pt），它将部署一个http服务器，准备进行预测。 设置Docker映像 如果使用GPU，则在本地构建Torchserve映像（dockerhub一个错误）： Build the image torchserve locally for GPU before running this (cf github torchserve) https://github.com/pytorch/serve/tree/master/docker 注意：仅对于CPU
华为Ascend芯片显卡docker环境搭建并完成YOLO8推理
qq_42681787的博客
05-25 4212
本文介绍了如何在华为Ascend芯片上实现YOLO8推理，包含驱动安装、Docker环境配置、模型转化、模型推理等流程
YOLOv8 测试 4：在 Linux 中使用 Docker 部署 YOLOv8 模型，并使用简单的命令行脚本测试模型
积累，沉淀，温故而知新
04-09 5827
在 Linux 中使用 Docker 部署 YOLOv8 模型，并使用简单的命令行脚本 CLI 测试模型，对图片内容进行识别。
Docker搭建yolov8并训练、验证、推理化学仪器数据集
m0_58700887的博客
06-21 3065
本文通过docker的方式搭建yolov8运行环境，并成功训练了化学仪器数据集，其中训练数据215张，验证数据65张，类别14。
AI 算法加密与Docker 镜像部署
EncodingLee的博客
08-21 1192
Docker 是一种容器化平台，允许开发人员将应用程序及其所有依赖项打包到一个独立的容器中。这个容器可以在任何支持 Docker 的环境中运行，确保了应用程序在不同环境中具有相同的行为。
在linux中使用Docker部署yolov8（cpu版）
Mjy的博客
09-24 1234
查看下载信息可知，ultralytics下载在 /usr/local/envs/yolov8/lib/python3.9/site-packages目录中，进入该目录。进入官网，在里面找合适的版本，文中使用的是 Windows 下的 CPU only 版本。下载 YOLOv8 模型，检查下 Python 环境是否正确，我们下载的是 3.9 版本。如图，在宿主机 home 目录下找到 bus.jpg，选择下载即可在本机桌面查看图片。-it是交互式方式，运行命令后，我们能直接进入 yolo 容器。
一张图看懂AI技术架构！开发、训练、部署全链路深度解析！
2401_85373691的博客
01-16 6393
本文基于AI技术架构全景图，详细解析了AI开发工具、AI平台、AI算力与框架、智能运维等四大部分。只有构建一个完善的AI架构，企业才能确保AI系统高效运行，实现真正的商业价值。希望本文的解析能帮助您更好地理解AI技术架构，为AI项目提供有力支持！
人工智能项目的准备工作
weixin_44754927的博客
06-02 175
你好！ 这一篇需要基础才能看懂的人工智能程序编写博客。人工智能的开发环境配置，因人而异，最简单的一种如下：
cuda12.4 ubuntu 镜像
最新发布
02-18
### 寻找并下载包含CUDA 12.4的Ubuntu镜像 对于希望在容器环境中快速部署带有特定版本CUDA的操作系统的用户来说，Docker提供了一种便捷的方式。NVIDIA官方维护了一系列预配置好的Docker镜像，这些镜像包含了不同版本的CUDA以及必要的驱动程序和支持库。 为了获取包含CUDA 12.4的Ubuntu镜像，可以访问[NVIDIA Docker Hub页面](https://hub.docker.com/r/nvidia/cuda/tags)，这里列出了所有可用的标签及其对应的环境详情。针对需求，应该查找形如`nvidia/cuda:12.4.0-cudnn8-runtime-ubuntu20.04`这样的镜像名称，这表示该镜像是基于Ubuntu 20.04构建，并集成了CUDA 12.4和cuDNN 8运行时支持[^3]。 #### 使用命令拉取指定版本的CUDA镜像 通过下面这条简单的docker pull指令就可以完成所需镜像的下载： ```bash docker pull nvidia/cuda:12.4.0-base-ubuntu20.04 ``` 此操作会自动从远程仓库下载适用于Ubuntu 20.04且内置了CUDA 12.4基础组件的镜像文件到本地机器上。 #### 启动含有CUDA 12.4的容器实例 一旦镜像被成功下载至本地之后，可以通过如下方式启动一个新的交互式shell来测试新安装的CUDA工具链是否工作正常： ```bash docker run --gpus all -it --rm nvidia/cuda:12.4.0-base-ubuntu20.04 /bin/bash ``` 进入容器内部后，可通过执行`nvcc -V`验证CUDA编译器的存在及版本号，以此确认安装无误[^4]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值