Flask部署keras/tensorflow训练好模型进行预测：ValueError: Tensor Tensor is not an element of this graph.

xxyAI

已于 2022-09-22 17:10:02 修改

阅读量798

点赞数 1

分类专栏：问题解决文章标签： tensorflow keras flask

于 2022-06-27 10:19:04 首次发布

本文链接：https://blog.youkuaiyun.com/XP1990/article/details/125478581

版权

问题解决专栏收录该内容

23 篇文章

订阅专栏

这篇博客讲述了在使用Flask部署基于Keras和TensorFlow的机器学习服务时，遇到的两个错误：1）Tensor不在当前图中；2）无法找到资源变量。为了解决这些问题，作者提出了两种方法：1）创建全局的`graph`和`session`；2）确保在预测操作中使用正确的`graph`和`session`。博客提供了具体的Python代码示例，展示了如何在Flask应用中正确设置和使用这些全局变量。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

flask接口部署keras、tensorflow服务，报如下错误：

1，ValueError: Tensor Tensor("dense_7/Softmax:0", shape=(?, 3), dtype=float32) is not an element of this graph.

2，tensorflow.python.framework.errors_impl.FailedPreconditionError: Error while reading resource variable Embedding-Norm/beta from Container: localhost. This could mean that the variable was uninitialized. Not found: Container localhost does not exist. (Could not find resource: localhost/Embedding-Norm/beta)
[[{{node Embedding-Norm/add_1/ReadVariableOp}}]]

解决办法：

1，创建全局的graph、session

sess = tf.Session()
graph = tf.get_default_graph()
# tf2： graph = tf.compat.v1.get_default_graph()
set_session(sess)

2，在全局graph、Session中，model加载前添加set_session，进行model的预测

（全局变量最好放在函数体外）

global sess
global graph
with graph.as_default():
set_session(sess)

具体代码如下：

import tensorflow as tf
from keras.backend import set_session
app = Flask(__name__)

#global全局变量，最好放在函数外，避免出错
global sess
global graph
sess = tf.Session()
graph = tf.get_default_graph()
set_session(sess)
model.load_weights('best_model.weights')

@app.route('/judge', methods=['GET'])
def handler():
    keyword = request.args.get('keyword')
    sentence = request.args.get('sentence')
    judge = {}

    with graph.as_default():
        set_session(sess)
        if keyword in sentence:
            judge['result'] = str(evaluate(test_generator))
        else:
            judge['result'] = '0'
    return json.dumps(judge)


if __name__ == '__main__':
    app.run(host='0.0.0.0', port=65534, threaded=True)