TensorFlow训练MNIST报错ResourceExhaustedError

最新推荐文章于 2025-09-07 15:38:58 发布

weixin_30670965

最新推荐文章于 2025-09-07 15:38:58 发布

阅读量117

点赞数

CC 4.0 BY-SA版权

文章标签：人工智能

原文链接：http://www.cnblogs.com/zmj97/p/10180629.html

本文解决在使用TensorFlow训练MNIST数据集时遇到的ResourceExhaustedError错误，通过将测试集分割成小批次进行预测，有效避免了GPU显存不足的问题。

title: TensorFlow训练MNIST报错ResourceExhaustedError
date: 2018-04-01 12:35:44
categories:

deep learning

tags:

MNIST
TensorFlow

在最后测试的一步报错：

ResourceExhaustedError (see above for traceback): OOM when allocating tensor

搜索了一下才知道是GPU显存不足（emmmm....）造成的，可以把最后测试的那行代码改为将测试集分成几个小部分分别测试最后再求精度的平均值：

accuracy_sum = tf.reduce_sum(tf.cast(correct_prediction, tf.float32))
good = 0
total = 0
for i in range(10):
    testSet = mnist.test.next_batch(50)
    good += accuracy_sum.eval(feed_dict={ x: testSet[0], y_: testSet[1], keep_prob: 1.0})
    total += testSet[0].shape[0]
print ("test accuracy %g"%(good/total))

转载于:https://www.cnblogs.com/zmj97/p/10180629.html