NUCEMLS的博客

GPU硬件分片 → 虚拟GPU（vGPU） → 虚拟机Profile配置表（以NVIDIA A100 40GB为例）Profile名称显存CUDA核心最大实例数A100-1B1GB1/77A100-2B2GB1/77A100-3B3GB1/74A100-4B4GB1/73A100-7B7GB1/71许可证机制：需连接nvidia-licence-server（默认端口7070）许可证类型：vWS（图形工作站）、vCS（计算加速）、vPC（基础办公）

深入理解创建使用GPU容器时nvidia container toolkit核心组件的作用与工作流程

NVIDIA Container Toolkit是NVIDIA官方推出的工具链，旨在解决容器环境中GPU资源访问的复杂性问题。它通过标准化、自动化的方式，将GPU设备、驱动库和计算框架无缝集成到容器生态中，是构建GPU加速应用的基石。核心目标允许容器直接访问宿主机的GPU硬件资源（如物理GPU设备、显存、计算核心）；自动注入容器所需的 NVIDIA 驱动库（如 CUDA Runtime、cuDNN、NCCL），无需手动挂载或预装。

在一文中，我们从源码层面了解了kubelet侧关于device plugin逻辑的实现逻辑，本文以nvidia管理GPU的开源github项目为例，来看看设备插件侧的实现示例。

深入理解kubernetes device plugin原理

CUDA错误检查

CUDA计时与nvprof

CUDA线程模型

CUDA GPU hello world

通过前面的文章，我们对GPU和cuda有了初步的了解，并且说到可以用nvidia-smi命令来验证cuda和查看GPU信息，本文我们对该命令做个简单介绍。

GPU简介

CUDA是“Compute Unified Device Architecture”的缩写，意为统一计算设备架构，它是由NVIDIA公司2006年创建的一种并行计算平台和应用程序编程接口，允许开发者通过CUDA利用GPU的强大处理能力进行高性能的并行计算。CUDA支持C和C++等标准编程语言，以及OpenCL和DirectCompute等用于GPU计算的API。此外NVIDIA还提供了全套工具包，包括编译器、调试器、分析器、库等，以支持开发人员将CUDA架构应用于生产质量的产品。