nvidia-smi命令详解

nvidia-smi全称: NVIDIA System Management Interface, 它是一个基于NVIDIA Management Library(NVML)构建的命令行实用工具，旨在帮助管理和监控NVIDIA GPU设备。

NVIDIA-SMI 537.53 # nvidia-smi 工具的版本

Driver Version: 537.53 # 安装的 NVIDIA 驱动程序版本

CUDA Version # 支持的 CUDA 版本

GPU	GPU的编号，0代表第一张显卡，1代表第二张，依次类推
Fan	风扇转速（0%–100%），N/A表示没有风扇
Name	GPU的型号，以此处为例是NVIDIA GeForce RTX 4060
Temp	GPU温度（GPU温度过高会导致GPU频率下降）
Perf	性能状态，从P0（最大性能）到P12（最小性能）
Pwr	GPU功耗
TCC/WDDM	NVIDIA GPU驱动程序模式，TCC（Tesla Compute Cluster）模式。WDDM（Windows Display Driver Model）模式
Bus-Id	GPU总线，格式 domain:bus:device.function
Disp.A	Display Active，用于指示 GPU 是否用于驱动显示器。
Memory-Usage	显存使用率（显示显存占用情况）
Volatile GPU-Util	浮动的GPU利用率
Uncorr. ECC	是否开启错误检查和纠正技术，0/DISABLED, 1/ENABLED
Compute M.	计算模式，0/DEFAULT, 1/EXCLUSIVE_PROCESS, 2/PROHIBITED
MIG M.	是否允许将单个物理 GPU 分割成多个更小的独立 GPU 实例，On, Off
Processes	显示每个进程占用的显存使用率、进程号、占用哪个GPU
Type	正在使用GPU的进程类型，C技术进程，G图形进程，V视频进程

nvcc的CUDA版本和nvidia-smi的CUDA版本可能不同。

nvidia-smi命令显示的是驱动程序支持的 CUDA 版本，驱动程序支持的版本与编译和链接程序的版本无关。nvcc是CUDA编译驱动程序，其CUDA版本是用于编译CUDA程序的。

也就是说nvidia-smi显示的CUDA是驱动支持的CUDA，nvcc显示的CUDA是运行时的CUDA。 nvidia-smi 的CUDA版本在数值上应当不低于 nvcc 显示的CUDA版本。如若低于应当更新驱动程序版本。

参考链接：

1. https://matpool.com/learn/article/nvidia-smi-command

2. https://www.jianshu.com/p/ceb3c020e06b

3. https://stackoverflow.com/questions/53422407/different-cuda-versions-shown-by-nvcc-and-nvidia-smi

4. https://chatgpt.com