TensorFlow serving远程访问引擎的容器部署

最新推荐文章于 2020-06-29 21:19:10 发布

转载最新推荐文章于 2020-06-29 21:19:10 发布 · 158 阅读

0 ·

CC 4.0 BY-SA版权

原文链接：https://my.oschina.net/u/2306127/blog/829734

本文介绍了如何使用TensorFlow Serving部署模型并提供RPC接口服务。包括通过Docker启动TensorFlow Serving的方法及其配置参数说明，同时提供了分布式环境中运行TensorFlow的指南。

2019独角兽企业重金招聘Python工程师标准>>>

TensorFlow Serving是通过rpc接口远程访问tensorflow引擎的服务器。

TensorFlow Serving文档 https://tensorflow.github.io/serving/architecture_overview

TensorFlow Serving可以通过容器启动，方法如下：

docker run --name tfserver --restart always tensorflow/tf_grpc_server:0.8.0 \
    --cluster_spec="worker|localhost:2220;localhost:2221,ps|localhost:3220;localhost:3221" \
    --job_name=worker --task_id=0

详细的TensorFlow Serving容器构建方法参考： https://github.com/openthings/serving/blob/master/tensorflow_serving/g3doc/setup.md
在分布式环境中运行TensorFlow的详细指南： https://www.tensorflow.org/how_tos/distributed/#distributed-tensorflow

转载于:https://my.oschina.net/u/2306127/blog/829734