本文主要使用docker的方法部署tensorflow serving,并提供python实现client代码实例。
一、Docker安装:https://docs.docker.com/install/linux/docker-ce/centos/#install-docker-ce-1
1.移除旧的版本(要谨慎呀,看看这台机器是否已经有docker了,我就不小心把别人的环境弄没了,尴尬~~~)
sudo yum remove docker docker-client docker-client-latest docker-common docker-latest docker-latest-logrotate docker-logrotate docker-selinux docker-engine-selinux docker-engine
2.安装依赖项:
sudo yum install -y yum-utils device-mapper-persistent-data lvm2
3.添加源信息:
sudo yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
4.安装 Docker-ce:
sudo yum install docker-ce
.
5.启动 Docker 后台服务:
sudo systemctl start docker
6.查看镜像是否安装成功 docker images
7.测试运行 hello-world:
sudo docker run hello-world
二、TensorFlow服务安装:https://www.tensorflow.org/serving/docker#running_a_gpu_serving_image
1.yum install git