GPU使用进程的查看和管理

最新推荐文章于 2025-06-18 10:09:38 发布
最新推荐文章于 2025-06-18 10:09:38 发布
阅读量1.5w 收藏 6
点赞数
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Kaige_Zhao/article/details/79748079
当修改batch_size问题未解决时，发现GPU被多个进程占用。通过查看GPU使用情况，发现6个进程占用资源。执行特定命令，依据PID强制关闭相关进程，从而解决GPU资源占用问题。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

在跑深度学习的时候出现问题 
Check failed: error == cudaSuccess (2 vs. 0)  out of memory

修改batch_size的大小错误依旧存在，最后发现是一些进程在占用GPU所导致。关闭这些进程，错误消失。

查看GPU使用情况
nvidia-smi

显示如下：

aicrobo@ubuntu:~$ nvidia-smi
Thu Mar 29 19:52:48 2018       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 367.48                 Driver Version: 367.48                    |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce GTX 106...  Off  | 0000:01:00.0      On |                  N/A |
| 32%   41C    P2    27W / 120W |   1705MiB /  3012MiB |      0%
最低0.47元/天 解锁文章

200万优质内容无限畅学
Kaige_Zhao
关注
CUDA：使用每个GPU一个进程进行计算的进程间通信的实例
希望我的博客，能帮上你解决学习中工作中所遇到的问题
12-21 324
CUDA：使用每个GPU一个进程进行计算的进程间通信的实例
linux docker位置查找,linux – 如何在Docker中获取依赖子图像列表？(1)
2301_77118221的博客
04-26 606
本书是获得了很多读者好评的Linux经典畅销书**《Linux从入门到精通》的第2版**。您应该能够查找父ID以f50f9524513f开头的图像,然后查找这些图像的子图像等.但是.Parent isn’t what you think.,所以在大多数情况下,您需要指定docker图像 – 以上所有才能使其工作,那么你也将获得所有中间层的图像ID.需要《Linux入门到精通》、《linux系统移植》、《Linux驱动开发入门实战》、《Linux开源网络全栈》电子书籍及教程的工程师朋友们劳烦您转发+评论。
【个人笔记】如何终止GPU里面的运行的程序
flysky_jay的博客
08-28 1万+
1.首先查看GPU中正在运行的程序： 记录PID号 2.执行kill -9 40705(PID)就可以杀死进程了。
怎么知道自己的电脑中有没有GPU
还在活水泥的未来包工头
06-18 1710
要确定电脑中是否有GPU（图形处理器），可以通过系统自带工具或第三方软件进行检测。通过以上方法，即可快速确认电脑是否配备GPU，以及具体的型号和类型。如果需要进一步了解GPU性能，可通过跑分软件（如3DMark）进行测试。
如何查看GPU运行的情况
weixin_49380422的博客
12-03 267
【代码】如何查看GPU运行的情况。
学习笔记：终止正在运行的GPU进程
hutianle的博客
05-14 1789
问题描述： 终止正在运行的GPU进程： C:\Users\Tianle Hu>nvidia-smi Fri May 14 16:04:55 2021 +-----------------------------------------------------------------------------+ | NVIDIA-SMI 452.69 Driver Version: 452.69 CUDA Version: 11.0 | |-----------------
如何指定GPU显卡运行程序
SimpleLearning
01-18 5552
如何指定GPU显卡运行程序
Nvidia GPU进程查看器nvitop交互式功能介绍
最新发布
07-10
这个环保的交互式Nvidia-GPU进程查看器项目，灵感来源于一种用于丰富nvidia-smi输出的工具。然而，该工具通过正则表达式从子进程中读取nvidia-smi的输出，效率较低。此外，虽然存在一个功能强大的交互式GPU监控工具...
【Ubuntu】GPU显存被占用，但显示没有使用GPU的进程
weixin_45800258的博客
02-20 1507
今天使用服务器的时候发现gpu被占了很多内存，但是使用 `nvidia-smi` 命令并没有发现占这么多显存的进程。通过将gpu视为文件，查看访问该文件的进程来找到问题进程，然后尝试杀死相关进程，最后将该用户下的进程一键杀死来解决问题。
nvitop：交互式Nvidia-GPU进程查看器
02-10
交互式Nvidia-GPU进程查看器。 该项目的灵感来自 ，这是一种丰富nvidia-smi输出的工具。 使用正则表达式从子中读取nvidia-smi的输出，效率不高。 同时，有一个功能强大的交互式GPU监控工具 。 但是用C编写，这使其...
Android内存优化总汇：进程与线程内存管理及工具使用详解
05-11
本文档全面介绍了Android内存优化的技术细节和工具使用，涵盖了操作系统内存管理机制、进程与线程内存分配、ION内存管理、DMA-BUF、内存访问错误检测工具（如Top、ps、cat、smaps、pmap、showmap、dumpsys meminfo等...
查看GPU的占用进程
qq_42327424的博客
02-03 864
可以查看执行的命令和pid。
windows下查看GPU使用率的小程序
09-29
用于查看GPU使用情况的小工具，查看CPU占用率，温度，风扇转速等。
如何查看哪些程序正在使用 NVIDIA 显卡
Darker的博客
06-16 2241
在本文中，我们将介绍如何通过NVIDIA控制面板查看哪些程序正在使用NVIDIA显卡。
系统查看GPU的占用情况
keyboard专栏
04-30 7008
要查看 GPU 的占用情况，可以使用几种不同的命令和工具，取决于你的操作系统和你安装的软件。这里将列出一些在 Linux 和 Windows 上常用的方法。
查看占用GPU资源的 进程所属docker容器，并杀死 docker 中的僵尸进程！
weixin_43412762的博客
08-30 5031
一台服务器，每个人在上面run一个容器，跑各自的代码，虽然通过nvidia-smi可以看到每个进程占用的GPU，但是不好找进程对应的容器id，就没法确认到底是谁占用了较多GPU。
实时查看GPU显存占用、功耗、进程状态
百年孤独百年的博客
10-16 2万+
当运行深度学习命令时，我们总想查看GPU占用了多少显存，以便及时调整模型的参数。我之前总是’nvidia-smi’，然后一直↑+enter，一直盯着屏幕看显存占用情况。后来感觉太麻烦了，还要一直手动点击，真是费劲。现在我推荐使用以下两种方法查看显存占用情况。
如何查看并准确找到占用GPU的程序
热门推荐
XCCCCZ的博客
03-08 3万+
有时多人都在一段时间内同时使用公司共用的服务器上的GPU训练，有的网络的代码写得不好，虽然是按需获取GPU内存但停止训练了却仍然占用GPU没放，有的则采取的是预分配机制，一开始运行加载训练好了的模型时就占用大量内存(比如9-10G)，没有进行识别推理也占用内存不放，多人共用的环境如果有人用完不及时停掉相关程序，很多GPU就被占了但空闲在那里，但又不好随便乱杀进程来释放，首先得确认一下...
怎样结束所有使用GPU的进程
02-28
<think>嗯，用户问的是如何结束所有使用GPU的进程。我需要先理解用户的具体需求和背景。可能他们在安装或卸载CUDA时遇到了问题，需要停止GPU进程才能继续操作。之前的对话中提到过在安装CUDA时卡住，可能用户现在遇到了类似的问题，所以需要结束占用GPU的进程。 首先，我需要考虑不同操作系统的解决方案，因为用户可能使用Windows或Linux。对于Windows用户，任务管理器是一个直观的工具，但可能需要详细步骤指导。而Linux用户可能需要使用终端命令，比如nvidia-smi配合kill命令。另外，用户可能不太熟悉命令行操作，需要给出具体的命令示例。 还要注意，用户可能需要彻底终止所有相关进程，包括后台服务。比如在Linux下，除了通过nvidia-smi找到的进程，可能还有一些守护进程或服务在运行，需要进一步处理。此外，可能需要建议用户进入文本模式安装，避免图形界面占用GPU。 另外，用户可能不知道如何验证是否所有进程都已终止，可以建议使用nvidia-smi再次检查。同时，提醒用户谨慎使用kill命令，避免误杀系统关键进程。对于Windows用户，可能需要提到第三方工具如Process Explorer，但主要使用系统自带的任务管理器即可。 最后，需要确保回答结构清晰，分步骤说明，便于用户跟随操作。同时语言要简洁，避免技术术语过多，让不同技术水平的用户都能理解。可能还需要强调在结束进程前保存工作，防止数据丢失。</think>以下是结束所有使用GPU进程的操作方法，适用于 **Windows** 和 **Linux** 系统： --- ### **Windows 系统** #### **方法1：通过任务管理器** 1. **打开任务管理器** 右键点击任务栏 → 选择“任务管理器”，或按 `Ctrl+Shift+Esc`。 2. **结束GPU相关进程** - 在“进程”选项卡中，查找使用GPU资源的程序（如游戏、浏览器、深度学习框架等）。 - 右键点击目标进程 → 选择“结束任务”。 3. **重点检查程序** - **浏览器**：Chrome/Firefox 可能因硬件加速占用GPU。 - **深度学习工具**：PyTorch、TensorFlow 的训练脚本或IDE（如Jupyter Notebook）。 - **图形软件**：Blender、Adobe系列等。 #### **方法2：通过命令行** ```cmd # 列出所有GPU进程（需安装NVIDIA驱动） nvidia-smi # 根据列出的PID结束进程（将1234替换为实际PID） taskkill /PID 1234 /F ``` --- ### **Linux 系统** #### **方法1：使用nvidia-smi + kill** ```bash # 1. 查看GPU占用进程 nvidia-smi # 2. 根据PID结束进程（例如PID为1234） kill -9 1234 # 或批量结束所有CUDA相关进程 sudo kill -9 $(ps aux | grep 'cuda\|python\|jupyter' | awk '{print $2}') ``` #### **方法2：系统级清理（彻底释放GPU）** ```bash # 重启图形界面（适用于Ubuntu/CentOS） sudo systemctl restart display-manager # 或进入文本模式（彻底脱离GPU占用） sudo systemctl isolate multi-user.target ``` --- ### **通用建议** 1. **验证是否释放成功** 再次运行 `nvidia-smi`（Linux/Windows）或任务管理器，确认无进程占用GPU。 2. **防止进程自动重启** - 关闭可能自动启动GPU的程序（如Steam、云游戏平台）。 - 禁用浏览器的“硬件加速”功能（Chrome：设置 → 系统 → 关闭硬件加速）。 3. **高危操作提示** - 不要强制结束系统关键进程（如`Xorg`、`桌面环境`）。 - 保存工作后再操作，避免数据丢失。 --- ### **扩展工具** - **Windows**：使用 `Process Explorer`（微软官方工具）更详细分析进程。 - **Linux**：`gpustat` 工具（`pip install gpustat`）可更清晰查看GPU占用。 执行完毕后，即可安全进行CUDA安装/卸载或其他需要独占GPU的操作！
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值