运用Docker在云服务器上部署tensorflow模型（ubuntu+docker+tensoflow serving+grpc）

最新推荐文章于 2025-02-18 03:18:57 发布

seazouhp

最新推荐文章于 2025-02-18 03:18:57 发布

阅读量761

点赞数 2

分类专栏：深度学习文章标签： tensorflow-serving grpc docker tensorflow模型 pb模型

本文链接：https://blog.youkuaiyun.com/zouhaipeng/article/details/89455688

版权

运用Docker在云服务器（Ubuntu）上部署tensorflow模型

安装Docker
tensorflow-serving服务部署
模型的保存和部署
grpc远程连接

安装Docker

前提条件

docker需要运行的Linux系统内核版本高于3.10，可以通过uname -r命令查看系统内核版本

使用存储库进行安装Docker-ce

更全更新的安装方式请看官网

设置存储库

更新apt包索引：

    $ sudo apt-get update

安装包以允许apt通过HTTPS使用存储库：

	$ sudo apt-get install \
		apt-transport-https \
		ca-certificates \
		curl \
		gnupg-agent \
		software-properties-common

添加Docker的官方GPG密钥：

	$ curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add -

9DC8 5822 9FC7 DD38 854A E2D8 8D81 803C 0EBF CD88通过搜索指纹的最后8个字符，验证您现在拥有带指纹的密钥。


	$ sudo apt-key fingerprint 0EBFCD88

	pub   rsa4096 2017-02-22 [SCEA]
	     	 9DC8 5822 9FC7 DD38 854A  E2D8 8D81 803C 0EBF CD88
	uid           [ unknown] Docker Release (CE deb) <docker@docker.com>
	sub   rsa4096 2017-02-22 [S]

安装Docker-ce

更新apt包索引
```
	$ sudo apt-get update
```
安装最新版docker-ce和containerd
```
	$ sudo apt-get install docker-ce docker-ce-cli containerd.io
```
通过运行hello-world 映像验证是否正确安装了Docker CE
```
	$ sudo docker run hello-world
```
如果有正确显示helloworld，证明安装成功

tensorflow-serving服务部署

拉取官方的TensorFlow serving 仓库，可以直接拉取最新版的，也可以自己选择版本

安装最新

	$ sudo docker pull tensorflow/serving:latest-devel

启动容器，选择连接端口
```
	$ sudo docker run -p 8500:8500 --n
```

最低0.47元/天解锁文章