Tensorflow设置gpu显存使用比例

最新推荐文章于 2022-10-05 16:26:36 发布
最新推荐文章于 2022-10-05 16:26:36 发布
阅读量1.3k 收藏 3
点赞数
CC 4.0 BY-SA版权
文章标签： tensorflow 显存
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/libing101007/article/details/83274277
本文介绍如何在TensorFlow程序中限制GPU显存使用，通过配置会话参数，可以指定GPU显存使用的具体比例，避免程序占用全部显存资源。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

一般情况下，tf程序运行时会占用gpu所有显存。可以通过会话设置，使得代码只是用gpu一定比例的显存：
config = tf.ConfigProto()
congfig.gpu_options.per_process_gpu_memory_fraction = 0.4
sess = tf.Session(config =config )

[tensorflow]查看GPU利用率
weixin_44560088的博客
06-02 897
新装了T4的显卡，在任务管理器里看不到GPU占用率。只能cd到NVSMI文件夹下，用nvidia-smi.exe查看GPU利用率。吐槽一下T4卡，又贵又没有风扇，功率虽然75W但是散热一点不低，服务器风扇一下嗡到16000r。因此只能在管理口，限制风扇负载来降噪了。
tensorflow设置gpu及gpu显存使用
m0_37987687的博客
05-08 6247
由于tensorflow默认抢占服务器所有GPU显存，只允许一个小内存的程序也会占用所有GPU资源。设置方法如下：1.在运行之前先查看GPU的使用情况：$ nvidia-smi2.设置使用固定的gpu目前有0，1，2，3四个GPU，找到空闲的GPU号，可以使用环境变量CUDA_VISIBLE_DEVICES：环境变量的定义格式： CUDA_VISIBLE_DEVICES=1 Only device...
tensorflow中指定GPU及GPU显存设置
热门推荐
妙猪的专栏
08-14 10万+
查看机器上GPU情况 命令： nvidia-smi 功能：显示机器上gpu的情况 命令： nvidia-smi -l 功能：定时更新显示机器上gpu的情况 其中左上侧有0、1、2、3的编号，表示GPU的编号，在后面指定GPU时需要使用这个编号。 在终端执行程序时指定GPU   CUDA_VISIBLE_DEVICES=1   python  your_
tensorflow设定程序运行时gpu使用率
lidichengfo0412的博客
12-04 340
import tensorflow as tf from keras.backend.tensorflow_backend import set_session config = tf.ConfigProto() config.gpu_options.per_process_gpu_memory_fraction=0.1 set_session(tf.Session(config=config)...
tensorflow 设置gpu_tensorflow设置最大GPU显存占比
weixin_35724999的博客
02-03 630
前言最近跑模型用服务器用的十分频繁，没注意把GPU显存全占完了，结果师兄的项目跑不起来了。愧对师兄，于是刚刚调整了一下tensorflow GPU训练显存的占比。贴一下方法，以后能用上。方法使用GPU加速训练时，tensorflow会默认申请分配所有的GPU资源，这就会导致同样使用显存的项目互相冲突跑不起来，所以可以做如下配置。其实我发现跑模型GPU占用70%的速度和100% emmmmm貌似真的...
解决Tensorflow占用GPU显存问题
12-20
在使用TensorFlow进行深度学习模型训练时，遇到GPU显存管理问题是非常常见的。尤其是在将PyTorch模型转换为TensorFlow模型后，可能会发现TensorFlow会默认占用所有可用的GPU显存，即使模型本身并未完全利用这些资源...
Tensorflow设置显存自适应,显存比例的操作
09-18
例如，将这一比例设置为 0.4，意味着最多使用 40% 的 GPU 显存： ```python config = tf.ConfigProto() config.gpu_options.per_process_gpu_memory_fraction = 0.4 session = tf.Session(config=config) ``` 在多...
Tensorflow 2.0 GPU显存爆炸打问题及释放内存打方法
楠木大哥技术博客
08-16 9131
GPU 显存爆炸问题 训练过程中及其容易将显存占满，需要限制显存打使用。 import tensorflow as tf gpus = tf.config.experimental.list_physical_devices('GPU') if gpus: tf.config.experimental.set_virtual_device_configuration(gpus[0],[tf.config.experimental.VirtualDeviceConfiguration(memory_l
tensorflow gpu使用情况
xxiaozr的博客
06-26 4441
tensorflow 默认使用所有gpu的所有显存，只是运行一个小程序，也会占用所有的gpu资源。nvidia-smi -l #实时返回gpu的使用情况四个gpu分别为0,1,2,3 可以使用cuda命令进行gpu的选择： CUDA_VISIBLE_DEVICES=1 ,只使用gpu 1 CUDA_VISIBLE_DEVICES=0，1 使用gpu 0 和 1 在使用tensorflow的时候
TensorFlow训练时合理安排GPU利用率
宇哥科研之路小记录
04-06 1441
gpus = tf.config.experimental.list_physical_devices(device_type='GPU') for gpu in gpus: tf.config.experimental.set_memory_growth(gpu, True) 将其插入训练文件中，例如下图
Tensorflow模型GPU使用率低的问题
YEnh的唐伯虎的博客
10-05 4110
Tensorflow模型GPU使用率低的问题和分析
TensorFlow 设置GPU使用量
Looollipop的博客
03-18 1746
在默认条件下，tensorflow会一次占满左右显存！这对于我们想在同一台机器上跑多个程序不利（后面的程序会报显存不足的错误），可以通过以下方式，设置tensorflow中显存的使用方式 在Python代码中指定GPU import os os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID" os.environ["CUDA_VISIBLE_DEVICES"...
TensorFlow指定特定GPU以及占用显存的比例
m0_37041325的博客
08-22 3万+
因为LZ是使用GPU服务器跑TensorFlow，而TensorFlow默认的是占用所有GPU，于是为了不影响其他同学使用GPU，于是就试验和总结了一下TensorFlow指定GPU的方法。。 环境 系统：Ubuntu14.04 TensorFlow：v1.3 GPU 8个GTX1080，第一列的0~7的数是GPU的序号 一.设置指定GPU 1.一劳永逸的方法，直接在~/.
Keras和TensorFlow设置GPU及其使用率
sunmingyang1987的博客
06-11 3072
目录Keras和TensorFlow设置GPU及其使用率1、TensorFlow1.1指定GPU Keras和TensorFlow设置GPU及其使用率 本文讲一下深度学习框架Keras和Tensorflow如何指定GPU训练，及如何设置训练任务占用的GPU内存。 本文分两部分讲，先讲TensorFlow，再讲Keras。 1、TensorFlow 1.1指定GPU Keras import tensorflow as tf from keras.backend.tensorflow_backend impo
tensorflow使用GPU训练时的显存占用问题
sunwuhuang1的博客
12-30 6万+
最近用GoogleNet （inception-v3）做fine-tune训练时，遇到了一个问题。当我选择单个GPU训练时候，服务器中所有的GPU显存都会被占满，如下图所示：     出现以上问题的原因是tensorflow在训练时默认占用所有GPU的显存。     可以通过以下方式解决该问题： 1、在构造tf.Session()时候通过传递tf.GPUOptions作为可选配置参数
【解决方案】tensorflow显存占比高但是GPU利用率低的问题
十二月未央未眠
04-09 1万+
背景 在跑代码的时候，运行cmd，输入nvidia-smi，发现这样一个问题，显存的占比高特别低但是GPU利用率特别低。 解决方法 这个跟自己写的代码有关系，我的主要问题在于，读取磁盘中数据的时候，是依靠CPU在读取数据（此时磁盘读写会非常高，打开任务管理器就知道），同时，tensorflow在运行模型训练的时候，会从内存中读取数据，GPU训练会比较快，而CPU一直在从磁盘中读数据到内存中，而跟...
TensorFlow如何提高GPU训练效率和利用率
Color Space的博客
11-10 1666
TensorFlow如何提高GPU训练效率和利用率 9前言 首先，如果你现在已经很熟悉tf.data+estimator了，可以把文章x掉了╮(￣▽￣””)╭ 但是！如果现在还是在进行session.run(..)的话！尤其是苦恼于GPU显存都塞满了利用率却上不去的童鞋，这篇文章或许可以给你打开新世界的大门噢(￣∇￣) 如果发现经过一系列改良后训练效率大大提高了，记得回来给小夕发小红包(￣...
设置占用GPU的比例
JUST CODE IT
11-04 1773
一、定量设置显存 gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.40) # 占用40%显存 sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options)) 二、按需设置显存 gpu_options = tf.GPUOptions(allow_...
tensorflow-gpu训练报错
最新发布
03-08
综合这些信息，我应该分步骤给出解决方案：首先确认GPU可用性，检查安装版本是否正确，配置虚拟环境，调整GPU内存设置，处理常见错误如CUDA库缺失，以及使用工具验证安装。同时，需要生成相关问题，帮助用户进一步...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值