Docker Tensorflow-Serving Predictions too large

最新推荐文章于 2023-08-01 17:28:19 发布

原创最新推荐文章于 2023-08-01 17:28:19 发布 · 345 阅读

0 ·

CC 4.0 BY-SA版权

python 同时被 2 个专栏收录

74 篇文章

订阅专栏

tensorflow

31 篇文章

订阅专栏

使用TensorFlow Serving时，若图片较大，会出现grpc接收消息大小超阈值的报错。经查询，是因grpc默认只能传输4M文件，超过阈值就会报错，需设置该阈值来解决问题。

部署运行你感兴趣的模型镜像

最近在使用TensorFlow Serving的时候，如果图片较大，会出现如下的报错
“grpc_message”:“Received message larger than max (14830491 vs. 4194304)”

经过查询，是因为grpc 默认只能传输4M的文件，而我们超过的这个阈值，所以要设置这个阈值

MAX_MESSAGE_LENGTH = 429496729   #传输最大设置

class Grpc_Reco():
    '通过GRPC的方式调用方向检测服务'
    def __init__(self):
        channel = grpc.insecure_channel("172.1.0.1:8000",
options=[('grpc.max_send_message_length', MAX_MESSAGE_LENGTH),  #加入options参数
('grpc.max_receive_message_length', MAX_MESSAGE_LENGTH)])        
        # print(channel)
        self.stub = prediction_service_pb2_grpc.PredictionServiceStub(channel)
        self.request = predict_pb2.PredictRequest()
        self.request.model_spec.name = "mymodel"  # 模型名称
        self.request.model_spec.signature_name = "predict_images"  # 签名名称
        print ('grpc is inited')