tensorflow 服务上线小记

最新推荐文章于 2025-07-03 10:08:53 发布

yib0y

最新推荐文章于 2025-07-03 10:08:53 发布

阅读量378

点赞数

CC 4.0 BY-SA版权

分类专栏：机器学习

本文链接：https://blog.youkuaiyun.com/qq_25834767/article/details/88067970

机器学习专栏收录该内容

10 篇文章

订阅专栏

本文介绍如何使用两个Docker容器分别进行模型训练和线上服务部署，实现模型的持续更新与快速应用。通过挂载相同目录，确保模型文件无缝对接，同时提供serving容器的启动与远程调用指南。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

2个docker 容器一个用来训练网络生成model,一个用来部署线上
服务分为线上与线下两层。线上实时服务要求毫秒级判断文本是否属于垃圾文本，线下离线计算需要根据新进的样本不断更新模型，并及时推送到线上。
2个容器启动时挂载相同的宿主机目录，这样tf 容器生成的model 文件方便serving 服务器直接使用
各种版本的tensorflow下载：https://tensorflow.google.cn/install/docker
第一版本的容器容器及时保存：
docker commit 7f0dbfc50d4f contentsoc/1
docker run -it tensorflow/tensorflow:latest-py3 /bin/bash
然后启动serving 容器：
docker run -it -v /opt/dockerftp/:/ftp -p 8500:8500 tensorflow/serving:latest-devel /bin/bash
tensorflow_model_server --port=8500 --model_name=contentsoc --model_base_path=/ftp/text-antispam/serving/
启动成功：
在这里插入图片描述
参考：https://www.jianshu.com/p/bd67b40e6b85
接下来开始远程服务调用：
测试端口：
telnet:ip 8500 通
docker 中文问题：

cat << EOF > /root/.vimrc

:set encoding=utf-8

:set fileencodings=ucs-bom,utf-8,cp936

:set fileencoding=gb2312

:set termencoding=utf-8

EOF

解决问题：No module named _tkinter
参考：No module named _tkinter