
模型部署
MeteorMan99
一万年太久,只争朝夕
与君共勉之!
展开
-
ubuntu18.04安装GPU版本的docker,并开启tf-serving(gpu)
1.docker安装 首先安装docker-ce,这部分教程很多,不难。 2.nvidia-docker安装 2.1卸载nvidia-docker及其它GPU容器 1. docker volume ls -q -f driver=nvidia-docker | xargs -r -I{} -n1 docker ps -q -a -f volume={} | xargs -r docker rm -f 2. sudo apt-get purge -y nvidia-docker 2.2添加仓库..原创 2021-05-18 15:45:12 · 703 阅读 · 0 评论 -
docker tf-serving启动相关问题梳理
1.docker container启动(单个模型) sudo docker run --name tfs_ner \ -p 8500:8500 \ --mount type=bind,source=/mnt/NerAdapter/exported_model,target=/models/ner_model \ -e MODEL_NAME=ner_model -t tensorflow/serving Note: (1)mount中的ta原创 2021-04-26 09:19:31 · 827 阅读 · 0 评论 -
使用flask和keras部署深度学习模型bug解决之ValueError: Tensor Tensor("dense/Softmax:0", shape=(?, 3), dtype=float32)
在利用keras+flask构建一个简单的深度学习后台服务器,遇到了如下的问题: ValueError: Tensor Tensor("fc1000/Softmax:0", shape=(?, 1000), dtype=float32) is not an element of this graph。 解决方案如下: 在初始化的时候,加载模型文件和生成graph。 示例代码如下: de...原创 2019-09-24 12:42:12 · 2745 阅读 · 0 评论