nvidia-smi GPU卡信息获取

原创 已于 2024-01-10 09:29:19 修改 · 2.6k 阅读 · 22 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#开发语言 #gpu算力 #linux

于 2024-01-09 14:56:58 首次发布
本文介绍了如何使用nvidia-smi命令行工具来获取、监控和管理NVIDIAGPU的详细信息，包括初始化状态、性能指标、GPU使用情况、时钟速度、功耗、NVLink状态以及性能调整等内容。

nvidia-smi GPU卡信息获取

1.GPU Initialization & Info

# nvidia-smi

Tue Jan  9 14:39:59 2024       

+---------------------------------------------------------------------------------------+

| NVIDIA-SMI 535.146.02             Driver Version: 535.146.02   CUDA Version: 12.2     |

|-----------------------------------------+----------------------+----------------------+

| GPU  Name                 Persistence-M | Bus-Id        Disp.A | Volatile Uncorr. ECC |

| Fan  Temp   Perf          Pwr:Usage/Cap |         Memory-Usage | GPU-Util  Compute M. |

|                                         |                      |               MIG M. |

|=========================================+======================+======================|

|   0  NVIDIA GeForce RTX 3060        Off | 00000000:01:00.0 Off |                  N/A |

|  0%   53C    P8              18W / 170W |   2785MiB / 12288MiB |      0%      Default |

|                                         |                      |                  N/A |

+-----------------------------------------+----------------------+----------------------+

                                                                                         

+---------------------------------------------------------------------------------------+

| Processes:                                                                            |

|  GPU   GI   CI        PID   Type   Process name                            GPU Memory |

|        ID   ID                                                             Usage      |

|=======================================================================================|

|    0   N/A  N/A     40200      C   python3                                    2780MiB |

+---------------------------------------------------------------------------------------+

2.GPU Status Query

# nvidia-smi -L

GPU 0: NVIDIA GeForce RTX 3060 (UUID: GPU-543d8aa8-ce2f-5b19-a98a-6a1e7f111dee)

3.GPU Details

# nvidia-smi --query-gpu=index,name,uuid,serial --format=csv

index, name, uuid, serial

0, NVIDIA GeForce RTX 3060, GPU-543d8aa8-ce2f-5b19-a98a-6a1e7f111dee, [N/A]

4.Monitor GPU Usage

# nvidia-smi dmon

# gpu    pwr  gtemp  mtemp     sm    mem    enc    dec    jpg    ofa   mclk   pclk

# Idx      W      C      C      %      %      %      %      %      %    MHz    MHz

    0     19     56      -      0      0      0      0      0      0    405    210

    0     19     56      -      0      0      0      0      0      0    405    210

    0     19     56      -      0      0      0      0      0      0    405    210

^C    0     19     56      -      0      0      0      0      0      0    405    210

5.Monitor GPU Processes

# nvidia-smi pmon
最低0.47元/天 解锁文章
获取GPU显卡信息 - C++ 编程
DevProPlus的博客
09-07 1205
CUDA是由NVIDIA开发的用于并行计算的平台和编程模型，它提供了一组用于管理和操作GPU的API函数。在C++编程中，我们经常需要获取计算机系统中安装的GPU显卡的信息，例如显卡型号、驱动版本、内存大小等等。请注意，此代码假设你已经正确安装了NVIDIA显卡驱动和CUDA工具包，并且你的系统上至少有一个GPU设备。通过上述步骤，你可以轻松获取GPU显卡的信息，并在C++编程中使用这些信息进行各种操作，例如根据显卡型号选择合适的算法实现或者根据显存大小进行内存管理等。函数获取设备属性，然后使用。
实时检测GPU使用率nvidia-smi
weixin_42831564的博客
05-24 1112
为了判断所有 GPU 的利用率都小于阈值，可以循环检查每一个 GPU 的利用率。如果所有 GPU 的利用率都低于阈值，则增加空闲时间计数；否则，重置空闲时间计数。$((60))
获取GPU详细信息
11-20
struct cudaDeviceProp { char name [256]; //用于标识设备的ASCII字符串； size_t totalGlobalMem; //设备上可用的全局存储器的总量，以字节为单位； size_t sharedMemPerBlock; //线程块可以使用的共享存储器的最大值，以字节为单位；多处理器上的所有线程块可以同时共享这些存储器； int regsPerBlock; //线程块可以使用的32位寄存器的最大值；多处理器上的所有线程块可以同时共享这些寄存器； int warpSize; //按线程计算的warp块大小； ...
查看空闲gpu
霜叶的博客
07-28 1191
这个命令将输出你的 NVIDIA GPU 的当前状态，包括每个 GPU 的使用率、总内存、正在使用的内存、GPU 温度等信息。如果你希望检查 Unix 或 Linux 系统上的 GPU 使用情况（特别是查找空闲的 NVIDIA GPU），可以使用 NVIDIA 提供的命令行工具。另外，如果你在使用像 Kubernetes 这类容器编排系统，你可能需要查看集群的 GPU 使用情况，这通常需要集群级的监视和管理工具来获得概览。对于其他类型的 GPU，你可能需要查找特定于供应商的工具或命令来获取使用情况信息。
GPU监控入门：从nvidia-smi到nvtop
最新发布
weixin_43227193的博客
10-07 1392
本文介绍了NVIDIA GPU监控的实用指南，重点讲解了nvidia-smi和nvtop工具的使用方法。文章将GPU监控与CPU监控进行类比，帮助用户快速理解核心概念。内容包括：1）驱动安装和工具配置；2）nvidia-smi输出解读；3）交互式工具nvtop的使用技巧；4）常见故障排查场景；5）高级功能如持久化模式设置和功耗限制调整。文章还提供了Windows系统下的使用方法，强调通过命令行访问nvidia-smi工具。该指南适合从新手到高级用户的不同需求，帮助用户有效监控和管理GPU资源。
nvidia-smi命令解读 & windows查看当前cuda版本
jwen_的博客
04-08 3397
以下 nvidia-smi 常用命令行是个人推荐了解的： 这是服务器上特斯拉 K80 的信息。 上面的表格中： 第一栏的 Fan：N/A 是风扇转速，从 0 到 100% 之间变动，这个速度是计算机期望的风扇转速，实际情况下如果风扇堵转，可能打不到显示的转速。有的设备不会返回转速，因为它不依赖风扇冷却而是通过其他外设保持低温（比如我们实验室的服务器是常年放在空调房间里的）。 第二栏的 Temp：是温度，单位摄氏度。 第三栏的 Perf：是性能状态，从 P0 到 P12，P0 表示最大性能，P12 表示状态最
查询GPU信息
qq_45001063的博客
04-24 544
Maximum amount of shared memory per block: 每个线程块最大共享内存数量；Maximum number of registers per block: 每个线程块最大寄存器内存数量；Maximum number of registers per SM: 每个流多处理器最大寄存器内存数量；Maximum number of threads per block: 每个线程块最大的线程数量；Amount of global memory: 显卡显存大小，我的是4G的显存；
nvidia-smi
qq_41081716的博客
10-26 1697
NVIDIA 显卡的驱动程序版本。计算统一设备架构（CUDA）的版本。显示在系统中的 GPU 设备的名称。显示 GPU 是否处于持久性模式。在这里，"Off" 表示不在持久性模式。显卡的总线 ID，可以用于唯一标识系统中的每个 GPU。显示适配器信息，包括显卡是否处于激活状态（On）或关闭状态（Off）。显存的错误纠正码（ECC）状态。显卡风扇的当前运行情况，包括百分比和温度。显卡的当前温度。显卡的性能状态。显卡的功耗使用情况，包括当前功耗和最大功耗。显卡当前正在使用的显存量。
CUDA编程【5】获取GPU设备信息
qq_42681630的博客
01-03 1410
CUDA 提供了一系列 API 来查询设备的硬件信息、性能特性和限制。可以获取设备的共享内存配置（4 字节或 8 字节 bank 大小）。可以获取设备的详细属性信息，包括硬件特性、计算能力、内存大小等。可以获取设备的资源限制，例如栈大小、堆大小等。可以获取设备的 L1 缓存和共享内存的配置。可以获取系统中可用的 CUDA 设备数量。可以获取当前正在使用的设备 ID。可以查询设备的最大线程块数。可以查询设备的内存时钟频率。可以查询设备的总显存大小。可以设置当前使用的设备。可以查询设备的时钟频率。
精选资源
nvidia-gpu-monitor:使用nvidia-smi帮助监控Nvidia GPU利用率
04-30
Nvidia GPU监视器 使用nvidia-smi帮助监视Nvidia GPU利用率。 请检查下面的完整文档。 目录 安装及使用 使用npm： $ npm install --save nvidia-gpu-monitor 使用纱： $ yarn add nvidia-gpu-monitor
精选资源
cluster-smi：nvidia-smi，但用于整个GPU集群
02-02
集群SMI 与nvidia-smi相同，但用于多台计算机。... cluster-smi-local与nvidia-smi相同，但通过-p标志提供更多详细的过程信息： user@host $ cluster-smi-local -p Thu Jan 18 21:44:51 2018 +-------------
精选资源
一个Python模块，用于在Python中使用nvidia-smi从NVIDA GPU获取GPU状态-Python开发
05-25
GPUtil GPUtil是一个Python模块，用于使用nvidia-smi从NVIDA GPU获取GPU状态。 GPUtil查找计算机上的所有GPU，确定其可用性并返回可用GPU的有序列表。 可用性是GPUtil的基础GPUtil是一个Python模块，用于使用nvidia-...
通过nvidia-smi 实现gpu可用卡自动选择
陈锐的技术笔记
11-10 890
由于现代计算环境通常配置了多个GPU，合理地选择和管理这些资源变得至关重要。：在共享计算环境中，其他用户的任务可能会占用GPU资源。该代码可以动态查询GPU状态，确保选择的GPU在实际使用时是最优的。：通过检查GPU的可用性和状态，该代码可以防止由于选择了不可用或性能较差的GPU而导致的运行时错误。：用户可以通过参数调整选择策略，如优先考虑内存大小或功耗，从而灵活适应不同的计算需求和环境。：多个GPU可用时，选择最空闲的GPU可以有效利用计算资源，避免因资源竞争导致的性能下降。在gpu机器上运下下代码。
nvidia-smi命令显示GPU实时运行状态
hb_learing的博客
02-26 1万+
在跑深度学习时，需要了解GPU的资源利用情况，就要用到nvidia-smi命令。 nvidia-smi 配合watch命令可实时显示GPU运行状态（以1秒的间隔刷新）。 watch -n 1 nvidia-smi 参数描述： 第一栏的Fan：N/A是风扇转速，从0到100%之间变动，这个速度是计算机期望的风扇转速，实际情况下如果风扇堵转，可能打不到显示的转速。有的设备不会返回转速，因为它不依赖风扇冷却而是通过其他外设保持低温（比如我们实验室的服务器是常年放在空调房间里的）。 第二栏的Temp：是温度，
查看GPU使用情况、信息
diudiumama的博客
10-17 2131
2、lspci | grep -i nvidia 使用nvidia Gpu时查看。4、nvidia-smi 查看显存状况(nvidia Gpu)1、lspci | grep -i vga 查看显卡信息。3、lspci -v -s GPU显卡代号。
GPU（三）nvidia-smi
NUCEMLS的博客
03-06 1万+
通过前面的文章，我们对GPU和cuda有了初步的了解，并且说到可以用nvidia-smi命令来验证cuda和查看GPU信息，本文我们对该命令做个简单介绍。
【linux】Ubuntu 查询CPU、GPU、硬盘、内存等硬件信息
热门推荐
Adimecoin的博客
03-30 2万+
硬件：通用PC /Jetson Xavier NX 套件系统：Ubuntu 20.04。
[技术杂谈]nvidia-smi参数和显示信息解释
FL1623863129的博客
01-31 3686
Persistence-M：持续模式状态，持续模式耗能大，但在新的GPU应用启动时花费时间更少，上图均为On。-l 指定动态刷新时间，默认5秒刷新一次，通过Ctrl+C停止：nvidia-smi -l 5。-i只列出某一GPU的详细信息，可使用 -i 选项指定：nvidia-smi -q -i 0。-n动态地观察 GPU 的状态：watch -n 0.5 nvidia-smi。GPU：本机中的GPU编号，从0开始，上图为0，一块GPU。-i 查看指定GPU：nvidia-smi -i 0。
Nvidia GPU信息nvidia-smi（Persistence-M持久性内存、Volatile Uncorr. ECC显存错误校正、GPU-Util显卡利用率、Compute M.显卡计算模式）
Dontla的博客
01-17 8130
C:\Users\SIQI>cd C:\Program Files\NVIDIA Corporation\NVSMI C:\Program Files\NVIDIA Corporation\NVSMI>nvidia-smi -persistenced --user foo Invalid combination of input arguments. Please run 'nvi...
nvidia-smi获取卡温度信息
07-27
### 回答1： nvidia-smi是一种用于NVIDIA显卡的...总而言之，nvidia-smi是一款方便实用的命令行工具，可以帮助我们获取GPU卡的温度信息，以及其他与GPU卡相关的信息。这些信息对于GPU性能监测和故障排除非常有帮助。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

daolongzhang

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值