实时查看GPU运行状况

最新推荐文章于 2025-06-09 17:47:19 发布
最新推荐文章于 2025-06-09 17:47:19 发布
阅读量929 收藏
点赞数 1
CC 4.0 BY-SA版权
文章标签： 深度学习 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/LNSTOP/article/details/129460628
文章介绍了两种监控NVIDIAGPU使用情况的工具，分别是通过命令nvidia-smi配合watch-n1进行实时更新，以及使用gpustat工具，可以通过pipinstall安装。这两种方法都能帮助用户有效监控GPU的状态和性能。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

方法1: nvidia-smi

watch -n 1 nvidia-smi    #带更新

方法2: gpustat

pip install gpustat
watch -n 1 gpustat

电脑GPU/CPU资源查看及使用
wqy1837154675的博客
08-28 2829
电脑GPU/CPU资源查看及使用 import torch ''' 1. 服务器GPU状态查询 1） lspci | grep -i nvidia 可以查询所有nvidia显卡 2） lspci -v -s [显卡编号] 可以查看显卡具体属性 3） nvidia-smi 可以查看显卡的显存利用率 2. torch.cuda主要函数 1) 查看是否有可用GPU、可用GPU数量： torch.cuda.is_available(), torch.cuda.device_
【深度学习基础】Windows实时查看GPU显存占用、功耗、进程状态
weixin_41838721的博客
12-18 1671
python环境下，实时查看GPU显存占用、功耗、进程状态。
Windows系统查询CPU、GPU、CUDA
balabalajnm的博客
03-10 1万+
其中，NumberOfCores表示CPU核心数，NumberOfLogicalProcessors表示CPU线程数。检查该计算机适配的CUDA版本。点击🔍→搜索输入“设备管理器。
如何查看GPU是否可用，CPU、GPU、NPU、APU运行状态，是否可用，大小指令大全（Windows、Mac、Linux）
最新发布
猫头虎技术团队：授渔优于赠鱼，兴趣引领智慧，探索之乐尤显珍贵。商务合作+：Libin9iOak ，万粉变现+：优快云WF，猫头虎承诺每年免费为100名C站创作者做账号流量诊断服务！全网搜：猫头虎技术团队，点击文章底部名片或直接私信我一切皆可谈，快找虎哥！
06-09 5840
本文提供了一份跨平台的CPU、GPU、NPU、APU硬件检测指南，涵盖Windows、Mac和Linux三大操作系统。文章首先解释了CPU（通用计算）、GPU（图形处理）、NPU（AI专用）和APU（AMD集成芯片）的核心概念，随后按系统分类给出详细查询指令：Windows用户可通过任务管理器或WMIC/PowerShell命令检测；Mac用户推荐使用系统报告或终端命令；Linux用户则可借助nvidia-smi、lscpu等工具。针对新兴的NPU/APU芯片，文章特别说明检测方法，并附上一键查询脚本和常见
实时查看GPU显存占用、功耗、进程状态
热门推荐
百年孤独百年的博客
10-16 2万+
当运行深度学习命令时，我们总想查看GPU占用了多少显存，以便及时调整模型的参数。我之前总是’nvidia-smi’，然后一直↑+enter，一直盯着屏幕看显存占用情况。后来感觉太麻烦了，还要一直手动点击，真是费劲。现在我推荐使用以下两种方法查看显存占用情况。
【技巧】实时监控GPU运行状态
xfxuezhang.cn
11-26 6348
非常好用的GPU监控工具
Ubuntu16.04下实时显示GPU使用情况
Felaim的博客
09-29 1705
在做工程时，通常需要开启不同的任务，有时又会关闭旧任务，来开辟新任务，所以需要实时检测GPU的使用情况。 1输出当前GPU使用情况 nvidia-smi 上面那条指令肯定都熟悉了，一旦输出不些啥，心就有点凉了/(ㄒoㄒ)/~~ 2.周期性输出GPU的使用情况 可以通过watch来进行检测，首先看下watch是个啥？ 然后我们可以通过下面的语句，对GPU的使用进行实时的检测 watch -n 0...
如何查看GPU显卡实时运行情况
Ven%的博客
11-19 1670
nvitop是一个用于监控 NVIDIA GPU 使用情况的命令行工具，类似于 Linux 上的top命令，但专门用于展示 GPU 相关的性能数据。它提供了有关 GPU 资源利用率、内存使用、温度等信息，非常适合开发者和数据科学家在深度学习训练时实时监控 GPU 状态。
GPU性能实时监控的几种软件
★ James Liu @ 优快云
05-13 7486
四款GPU性能监控工具软件
2021-04-18：怎么实时查看GPU状态
weixin_44465329的博客
04-18 755
跑深度学习模型的时候怎么实时查看GPU状态 windows中 在CMD中，输入nvidia-smi -l 2 #每2秒刷新一次 Linux中 在终端中，输入watch -n 2 nvidia-smi #每2秒刷新一次
nvidia-smi命令实时查看GPU使用、显存占用情况
qq_34124456的博客
07-18 2741
每1秒刷新一次。
Python-gpustat一个简单的命令行工具用于查询和监视GPU状态
08-10
Python-gpustat一个简单的命令行工具用于查询和监视GPU状态
【nvidia-smi命令实时查看GPU使用和显存占用情况】
Mr_K_night的博客
05-08 988
【代码】【nvidia-smi命令实时查看GPU使用和显存占用情况】
GPU实时利用率输出
weixin_41329098的博客
05-07 271
GPU实时利用率输出 watch -n 1 nvidia-smi
Linux实时查看GPU (NVIDIA)，CPU及内存使用情况
m0_63614137的博客
08-30 2709
换成你想刷新的时间间隔。上述两个命令都可以，要把。
推荐：GPU监控利器——gmonitor
gitblog_00080的博客
05-31 657
推荐：GPU监控利器——gmonitor 1、项目介绍 gmonitor 是一款专为GPU性能监控而设计的程序，特别是在GNU/Linux系统上运行CUDA程序时非常有用。它实时监测GPU的核心利用率、显存占用、PCI-E和内存总线使用情况以及温度，让你对系统的GPU状态一目了然。由于作者在开发CUDA程序时的个人需求，这个简洁的工具应运而生，并且已经稳定使用了一段时间。 2、项目技术分析 gm...
Ubuntu系统进行深度学习时查看GPU、CPU实时使用情况等
qq_44722189的博客
04-05 5443
纳入内核管理的内存不见得都在使用中，还包括过去使用过的现在可以被重复利用的内存，内核并不把这些可被重新使用的内存交还到free中去，因此在linux上free内存会越来越少，但不用为此担心。对于内存监控，在top里我们要时刻监控第五行swap交换分区的used，如果这个数值在不断的变化，说明内核在不断进行内存和swap的数据交换，这是真正的内存不够用了。，显卡是由GPU和显存等组成的，显存和GPU的关系有点类似于内存和CPU的关系。第四行中使用中的内存总量（used）指的是现在系统内核控制的内存数，
查看GPU使用率
Cream_Cicilian的博客
01-06 8878
一.NVIDIA GPU查看使用率 ①win+R写入cmd调出命令行 ②cd C:\Program Files\NVIDIA Corporation\NVSMI ③dir ④nvidia-smi.exe ⑤可以看到N卡的gpu使用率了 二.英特尔GPU查看使用率 ①ctrl+alt+delete任务管理器 ②查看I卡GPU使用率 ...
实时查看gpu运行情况
03-26
### 实时监控 GPU 使用率和运行状态的方法 为了实时监控 NVIDIA GPU 的使用率和运行状态，有多种方法可供选择。以下是几种常见的解决方案及其特点： #### 方法一：使用 `nvidia-smi` 命令 `nvidia-smi` 是 NVIDIA 提供的一个命令行工具，可以直接查询 GPU 的各项性能指标，包括显存使用量、GPU 利用率、温度等[^3]。 可以通过以下命令获取基本信息： ```bash nvidia-smi ``` 该命令会返回当前系统的 GPU 数量、每张卡的显存使用情况、GPU 占用率以及其他硬件信息。 如果需要定期刷新数据，可以加上 `-l` 参数设置轮询间隔时间（秒），例如每隔 2 秒更新一次： ```bash nvidia-smi -l 2 ``` --- #### 方法二：使用第三方工具 `nvtop` `nvtop` 是一个类似于 `htop` 的可视化工具，能够以动态图形化界面的形式展示 GPU 的多项性能指标，如温度、显存使用、GPU 使用率等[^2]。 安装方式如下（以 Ubuntu 系统为例）： ```bash sudo apt install nvtop ``` 启动后即可进入交互式的 GPU 监控界面。 --- #### 方法三：利用 PyNVML 库编写自定义脚本 PyNVML 是 NVIDIA Management Library (NVML) 的 Python 封装库，允许开发者通过编程的方式访问 GPU 的各种状态信息。下面是一个简单的示例代码，用于打印 GPU 的利用率和显存使用情况： ```python import pynvml def get_gpu_info(): try: pynvml.nvmlInit() device_count = pynvml.nvmlDeviceGetCount() # 获取 GPU 数量 gpu_infos = [] for i in range(device_count): handle = pynvml.nvmlDeviceGetHandleByIndex(i) name = pynvml.nvmlDeviceGetName(handle).decode('utf-8') # 获取 GPU 名称 mem_info = pynvml.nvmlDeviceGetMemoryInfo(handle) # 显存信息 total_mem = mem_info.total / (1024 ** 2) # 转换为 MB used_mem = mem_info.used / (1024 ** 2) util_rate = pynvml.nvmlDeviceGetUtilizationRates(handle) # GPU 利用率 gpu_util = util_rate.gpu info = { 'name': name, 'total_memory_mb': round(total_mem, 2), 'used_memory_mb': round(used_mem, 2), 'utilization_percentage': gpu_util } gpu_infos.append(info) return gpu_infos except Exception as e: print(f"Error occurred: {e}") finally: pynvml.nvmlShutdown() if __name__ == "__main__": gpus = get_gpu_info() for idx, gpu in enumerate(gpus): print(f"GPU {idx}: Name={gpu['name']}, Used Mem={gpu['used_memory_mb']}MB/{gpu['total_memory_mb']}MB, Util Rate={gpu['utilization_percentage']}%") ``` 上述代码展示了如何通过 PyNVML 查询多个 GPU 的名称、显存使用量以及 GPU 利用率。 --- #### 方法四：部署 Web 可视化平台 对于希望在网页端实时查看 GPU 运行状态的需求，可以选择搭建基于浏览器的监控系统。一种推荐方案是使用 `nvidia-gpu-exporter` 工具[^4]。此工具配合 Prometheus 和 Grafana，可以实现 GPU 数据的采集与图表化展示。具体步骤包括： 1. 安装并配置 `nvidia-gpu-exporter`； 2. 配置 Prometheus 抓取 exporter 的数据； 3. 在 Grafana 中创建仪表盘，绘制 GPU 使用率曲线图和其他关键指标。 这种方法适合团队协作环境，便于多人远程监控 GPU 状态。 --- ### 结论 综上所述，可以根据实际需求选择合适的监控手段。如果是本地开发调试场景，建议优先尝试 `nvidia-smi` 或 `nvtop`；而对于生产环境中多用户共享 GPU 资源的情况，则更适合采用基于 Web 的可视化监控方案。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值