参考:
https://blog.youkuaiyun.com/u011734144/article/details/82107610
docker pull tensorflow/serving
$cd /root/software/
$git clone https://github.com/tensorflow/serving
docker run -p 8501:8501
–mount type=bind,\source=${pwd}/serving/tensorflow_serving/servables/tensorflow/testdata/saved_model_half_plus_two_cpu,
target=/models/half_plus_two
-e MODEL_NAME=half_plus_two -t tensorflow/serving &
bind,\source 一定不要出现空格
–mount: 表示要进行挂载
source: 指定要运行部署的模型地址, 也就是挂载的源,这个是在宿主机上的模型目录
target: 这个是要挂载的目标位置,也就是挂载到docker容器中的哪个位置,这是docker容器中的目录
-t: 指定的是挂载到哪个容器
-p: 指定主机到docker容器的端口映射
docker run: 启动这个容器并启动模型服务(这里是如何同时启动容器中的模型服务的还不太清楚)
$curl -d ‘{“instances”: [1.0, 2.0, 5.0]}’
-X POST
验证
http://localhost:8501/v1/models/half_plus_two:predict
结果
{ “predictions”: [2.5, 3.0, 4.5] }
出现权限问题
setenforce 0 设置宽容模式