TensorFlow2.0 模型部署

一、拉取TensorFlow Serving镜像

docker pull tensorflow/serving
docker pull pfeiwang/violence_detection_models:m1
如果需要gpu版本或者其他版本可以去Docker Hub自行选择。

二、模型打入TFServing镜像内部

1.保存模型为pb格式

首先需要将tensorflow 模型保存为pb格式，通过如下代码

tf.saved_model.save("path")

如果有的同学将模型保存为了其他结构有两种方式解决

• 将其他格式的模型形式转化为pb格式，网上有代码可以搜
• 将原有的格式的模型加载出来然后保存为pb格式的模型即可

<