tensorflow中内存挤爆，训练慢，可能时sess.run了图中没有构建的新节点！

最新推荐文章于 2021-03-08 11:04:51 发布
最新推荐文章于 2021-03-08 11:04:51 发布
阅读量372 收藏
点赞数
文章标签： tensorflow 深度学习 神经网络 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/qq_32689925/article/details/104792073
版权


tensorflow训练FPN+Faster-rcnn，每次训练到1000步左右就会cpu杀死进程，每一步训练的时间在10-15s之间，比较慢。
原因：之前在debug时，输出了图中所示的信息，这在训练中不断创建了新节点，导致graph不断增大以至于内存挤爆。在sess run中，特别是有循环的情况，要保证run的节点是图中创建好的。

qq_32689925
关注
笔记 - tensorflow：sess.run机制
chen_holy的博客
06-10 846
import tensorflow as tf def read_data(): print("read data ...") return tf.constant(value=[1.0, 2.0, 3.0], dtype=tf.float32) X = read_data() X_train = tf.placeholder(dtype=tf.float32) with tf...
session.run运行速度过慢的问题
m0_53702444的博客
12-28 1458
最近在运行数据增强算法，跑着跑着就跑不动了。代码本身也没有错误，就是运行速度太慢，现在对代码进行优化。 1.考虑是图节点持续增多 在运行session.run的过程中，会持续增加节点，这样就会让整张图越来越大，速度也会越来越慢。 考虑 每次运行都会重置这张图，这样节点就不会增加了。 tensorflow.compat.v1.reset_default_graph() # 用于清除默认图形堆栈并重置全局默认图形` 上述代码放在建图之前，就是在用占位符建立图之前使用。 tensorflow.compat.v
sess.run()内存溢出
weixin_44472627的博客
03-08 387
我跑深度学习时，发现每一个epoch之间的时间间隔在加长，又看了下资源管理，发现内存占比不断增大，网上说是变量没有清除，也有说是图结构没有刷新，由于我只改动了验证部分，所以以上原因应该不是，后来在验证部分检查到是由于for循环中增加了op操作，导致增加图节点，我使用了两个for循环，for内使用了sess.run，for外也使用了sess.run，我把for外部的sess.run修改掉，发现问题解决，发文记录一下。 ...
坑 之 tensorflow使用sess.run处理图片时越来越慢，占用内存越来越大的问题
qq_41368074的博客
12-24 778
最近在项目中需要使用tensorflow来对图片进行预处理，但是使用sess.run时代码越来越慢，知道最后几分钟才能处理一张图片，这可怎么能行，我的数据集有数万张图片...... 原始代码 def process(img, .. , .. ,): ....... return img def main(): ....... with tf.Session() as sess: for i in range(len(dataset)):
tensorflow 运行时内存持续增长（溢出）
永远飞翔的鸟
11-29 1877
tensorflow 训练部分代码几乎都采用循环，如果在循环中用到tf的op操作，就会导致节点越来越多，图的大小也不停的增大，故而内存会持续增长 常见情况有几种 1、sess.run(a+b) 写成sess.run(add_a_b)最好 2、tf.train.Saver() 3.不要使用额外的图 原因是在对每一张图片正向传播结束后，都会在留下中间信息。具体地说是在我将正向传播的代...
解决TensorFlow训练内存不断增长,进程被杀死问题
09-18
在使用TensorFlow进行深度学习训练时，可能会遇到一个棘手的问题，即训练过程中内存不断增长，最终导致系统杀死进程。这种情况通常与TensorFlow的工作机制有关，特别是如何构建和执行计算图。本文将深入探讨这个问题...
tensorflow中的sess.run和model.fit之间有什么联系，分别在什么场景下使用
最新发布
09-20
在TensorFlow中，sess.run()是用于执行计算图中的操作的方法，而model.fit()是用于训练模型的方法。 sess.run()用于执行计算图中的操作。计算图是由TensorFlow的各种操作和张量组成的一种数据结构。sess.run()接受...
浅谈tensorflow之内存暴涨问题
09-18
在使用TensorFlow构建和训练深度学习模型时，可能会遇到内存暴涨的问题，这可能导致程序崩溃或者运行效率极低。本文将深入探讨这个问题，并提供相应的解决方案。 首先，我们要理解TensorFlow的工作原理。TensorFlow...
tensorflow学习笔记：sess.run()
van的博客
09-25 1786
session.run([fetch1, fetch2]) 关于 session.run([fetch1, fetch2])，请看http://stackoverflow.com/questions/42407611/how-tensorflow-handle-the-computional-graph-when-executing-sess-run/42408368?noredirect=1#c...
scores[i] = sess.run([score_func], feed_dict={image_placeholder: img_resize})[0] ValueError: set
qq_41134990的博客
09-28 244
TypeError: only size-1 arrays can be converted to Python scalars The above exception was the direct cause of the following exception: Traceback (most recent call last): File "/data/code_ytw/photo-composition-master/vfn_eval.py", line 163, in <module.
tensorflow中sess.run()越来越慢的问题解决
weixin_43321683的博客
06-24 1982
tensorflow中sess.run()越来越慢的问题解决 在我们运行tf.Session.run()的次数越多，会发现程序的输出越来越慢，这是因为直接用run去读取数据是很慢的，所以run越多，就越多的数据被缓存，导致速度越来越慢。 先上一个运行很慢的例子： #上很慢的例子 import matplotlib.pyplot as plt import tensorflow as tf y = [] z = [] N = 200 #global_step = tf.Variable(0, name=‘g
session.run()是非常耗时的,千万不要用session.run的方式去取数据
oHongHong的博客
05-27 3101
1、修改某一程序的时候,使用了session去取数据,导致时间效率非常低。后来,对session.run()进行了测试,发现使用session读取数据的效率是非常低下的. [python] view plain copy # -*- coding: utf-8 -*-  import tensorflow as tf  import time    t1 = time.t
[tf]sess.run机制
骐骥一跃，不能十步；驽马十驾，功在不舍。
03-19 914
在一个sess.run()环境中，一个大图里面的节点只会计算一次，哪怕有c->a->b这种依赖关系，运行sess.run([a,b])这种时候，a也只会被执行一次。其内部的机制是：先查看图中的依赖关系，得到本次sess.run()需要计算图中那些节点，然后进行一次计算，返回计算的a,b的值。 如果是多次调用sess.run()那么就会计算多次。 一个生动的例子：和addop有依赖关...
tensorflow的sess读取数据卡住了
weixin_40458561的博客
08-28 4235
欢迎使用Markdown编辑器写博客 就是在这一步image_batch, label_batch = sess.run([images_test, labels_test])卡住了，有人知道为什么吗？
sess.run的错误
ningyanggege的博客
10-17 1252
居然把函数传给了sess.,run； 正确如下：
QueueRunner解决tensorflow框架下sess.run()读取数据卡住
Evan Programming
02-05 1034
with tf.Session() as sess: summary_writer = tf.summary.FileWriter("../test_dir/") sess.run(tf.global_variables_initializer()) sess.run(tf.local_variables_initializer()) coord...
tensorflow越跑越慢_tensorflow sess.run()越来越慢的原因分析及其解决方法
weixin_39827850的博客
12-19 1070
最近在训练一个检测器，由于训练数据不足因此需要做数据增强，那么我这边写了代码去做数据增强(这部分将会在下一篇进行介绍)，其中使用到了tensorflow会话获取数据，可是问题出现了！gtx 1080ti显卡11G的内存，总共才处理六万张图像，但是运行速度越来越慢，眼看吃完晚饭散步回来几个小时了还没见有处理到一半，这就让我不得不探索个究竟并期待解决这类问题了！此篇文章，我们只谈思路不谈代码，但会给一...
tensorflow学习笔记（1）：sess.run()
热门推荐
站在巨人的肩膀上coding
04-19 3万+
session.run()session.run([fetch1, fetch2])1234567891011import tensorflow as tfstate = tf.Variable(0.0,dtype=tf.float32)one = tf.constant(1.0,dtype=tf.float32)new_val = tf.add(state, one)update = tf.as...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值