怎样指定GPU运行程序

最新推荐文章于 2025-07-03 15:39:46 发布
最新推荐文章于 2025-07-03 15:39:46 发布
阅读量5.9k 收藏 2
点赞数
本文介绍如何使用nvidia-smi工具监测GPU使用情况，包括查看GPU列表、详细信息及内存状态。并指导如何通过设置环境变量CUDA_VISIBLE_DEVICES来指定tensorflow等程序使用的GPU，有效避免outofmemory错误。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

连服务器有时候会出现out of memory

解决方法：

换用空闲的gpu

1. 查看GPU


nvidia-smi -L
2. 查看7号GPU


nvidia-smi -q -i 7
如果只看memory情况。可以用：


nvidia-smi -q -i 7 -d MEMORY

3.设置GPUid

CUDA_VISIBLE_DEVICES=6(或CUDA_VISIBLE_DEVICES=6,7）command

这条命令适用于命令行运行tensorflow程序的时候，指定gpu.

只需要在命令之前设置环境变量，简单来说比如原本程序是命令行运行pythontrain.py

假定这里gpu总共有八块，通过nvidia-smi查看发现5,6,7是空闲的（从0开始编号）

则运行命令修改为：


CUDA_VISIBLE_DEVICES=5,6,7 python train.py
 

2020-canyang
关注
指定GPU运行python程序
猫敷雪
04-23 4465
Persistence-M：持续模式的状态开关，该模式耗能大，但是启动新GPU应用时比较快，这里是off。1、首先查看哪些GPU空闲，nvidia-smi显示当前GPU使用情况。Perf：性能状态，从P0到P12，P0性能最大，P12最小。GPU-Util：GPU利用率，第一个是74%，第二个未用。Fan：风扇转速，在0到100%之间变动，第一个是29%Name：显卡名，这里两块都是GeForce。Temp：显卡温度，第一个是60摄氏度。GPU：编号，这里是0和1。Bus-Id：GPU总线。
如何在pycharm中指定GPU
安静到无声
08-17 3052
添加名称：CUDA_VISIBLE_DEVICES和对应值即可。
解决Python使用GPU
m0_72958694的博客
06-09 3826
本文简单介绍了使用Python解决使用GPU的方法，并给出了TensorFlow和PyTorch示例；本文还介绍了TensorFlow GPU的安装版本介绍，以及介绍了安装CUDA的详细教程。
如何指定GPU显卡运行程序
SimpleLearning
01-18 5599
如何指定GPU显卡运行程序
使用GPU运行python项目
最新发布
m0_75043991的博客
07-03 518
复制指令，放到Anaconda promot对应环境终端，我想在yolo环境调用显卡，就先激活yolo环境，在输入指令。1.在安装python环境时，会使用pip install -r requirements.txt 来安装项目需求，这种方式默认安装CPU版本的torch,不会调用GPU,调用GPU要大家手动安装。(3)在设置的系统信息中，选择高级系统设置，可以看到CUDA12.1变量在系统环境中，即为安装成功。,选择合适版本的CUDA,（如本电脑最高支持12.6，我选择12.1版本的）。
指定GPU运行程序&设置cmd运行的程序后台运行
cash_cp的博客
05-28 935
在train文件中设置环境变量，让程序在指定GPU运行；使用tmux设置会话，保证远程连接断开，会话中的程序也会继续运行
基于CCSDS标准的LDPC译码的GPU运行程序设计。c++开发
03-31
基于 GPU 的 LDPC 码（Low-Density Parity-Check codes，低密度 奇偶校验码）软件译码器优化设计方法。选用了适用于 GPU 架构的基于最小和算 法的分层迭代译码方法开展译码器的设计工作。在并行译码方式上分别给出了...
基于tensorflow指定GPU运行及GPU资源分配的几种方式小结
09-18
### 基于TensorFlow指定GPU运行及GPU资源分配的几种方式详解 #### 一、引言 随着深度学习技术的飞速发展，GPU已成为加速训练模型不可或缺的一部分。TensorFlow作为目前最流行的深度学习框架之一，提供了丰富的API...
在GPU上运行pytorch程序（指定单/多显卡)
qq_43307074的博客
11-04 2万+
在GPU上运行pytorch程序（指定单/多显卡)
指定程序在哪个GPU上运行
傲笑风的博客
09-24 5807
当本地（或服务器）有个多个GPU时，需要指定程序在指定GPU上运行，需要做以下设置。
Python指定使用gpu
qq_40734883的博客
08-05 1万+
单/多卡GPU使用设置
深度学习之python使用指定gpu运行代码
zero_ling
06-11 1万+
运行python文件时，在前面加上 CUDA_VISIBLE_DEVICES=xxx，xxx是你要指定的gpu序号。如`CUDA_VISIBLE_DEVICES=0,2 python extract_masks.py`表示指定了0、2号两个gpu。注意，序号是从0开始排的，所以如果你只有一个gpu，那么就是`CUDA_VISIBLE_DEVICES=0 python extract_masks.py`
【自用】python代码指定gpu显卡运行
言辰寸心博客
02-24 2497
查看占用（1秒刷新一次，也可以将1换成其它数字）
python指定Gpu
qimo601的专栏
03-29 2万+
PyTorch默认使用从0开始的GPU，如果GPU0正在运行程序，需要指定其他GPU。 有如下两种方法来指定需要使用的GPU。 1. 类似tensorflow指定GPU的方式，使用CUDA_VISIBLE_DEVICES。 1.1 直接终端中设定： CUDA_VISIBLE_DEVICES=1 python my_script.py 1.2 python代码中设定： import os os.environ["CUDA_VISIBLE_DEVICES"] = "2" 见网址：（原）
【深度学习】服务器炼丹代码配置、Python使用指定gpu显卡运行代码
定期分享我的发现和想法，感谢你的陪伴和支持
06-28 2075
在大型机构分配的服务器集群中，需要使用GPU的程序默认都会在第一张卡上进行，如果第一张卡倍别人占用或者显存不够的情况下，程序就会报错说没有显存容量，所以能够合理地利用GPU资源能帮助你更快更好地跑出实验效果。 本篇博客将介绍在服务器上进行深度学习炼丹（即训练模型）时如何配置代码，以及如何在Python中指定特定的GPU显卡来运行代码。
【个人笔记】如何终止GPU里面的运行的程序
flysky_jay的博客
08-28 1万+
1.首先查看GPU中正在运行的程序： 记录PID号 2.执行kill -9 40705(PID)就可以杀死进程了。
如何查看并准确找到占用GPU的程序
热门推荐
XCCCCZ的博客
03-08 3万+
有时多人都在一段时间内同时使用公司共用的服务器上的GPU训练，有的网络的代码写得不好，虽然是按需获取GPU内存但停止训练了却仍然占用GPU没放，有的则采取的是预分配机制，一开始运行加载训练好了的模型时就占用大量内存(比如9-10G)，没有进行识别推理也占用内存不放，多人共用的环境如果有人用完不及时停掉相关程序，很多GPU就被占了但空闲在那里，但又不好随便乱杀进程来释放，首先得确认一下...
解决通过CUDA调用GPU运行机器学习代码
有朋自远方来，不亦乐乎。
05-11 2万+
前言： 有一群志同道合的伙伴真是人生中的一大幸事。 一、准备环境 1、下载anaconda Anaconda | The World's Most Popular Data Science Platformhttps://www.anaconda.com/ Ananconda安装教程： (1条消息) 史上最全最详细的Anaconda安装教程_OSurer的博客-优快云博客_anaconda 安装https://blog.youkuaiyun.com/wq_o...
pythongpu运行程序内存不足
06-08
如果在使用Python GPU运行程序的时候出现了内存不足的问题，可以考虑以下几个方面： 1. 减少GPU显存的使用：可以通过在代码中减少每个batch的大小、减小模型参数规模、使用更小的模型等方式减少GPU显存的使用。 2....
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值