- 博客(5)
- 收藏
- 关注
RSS订阅原创 TensorFlow Serving部署文本分类模型（LSTM+CNN）
项目来源于：https://github.com/NLPxiaoxu/Easy_Lstm_Cnn使用LSTM的文本分类项目，非常感谢项目贡献者一、模型序列化由于有之前项目的经验，这里模型序列化就比较简单了，最主要就是注意GPU的问题，如果GPU部署过TensorFlow Serving模型了，这块GPU就不要再运行TensorFlow项目了，否则会报错。这里我对原始项目进行了改造，主要就是...
2020-04-08 13:48:21
1462
6
原创 TensorFlow Serving部署Bert-BiLSTM+CRF（NER）模型并提供服务
命名实体识别项目参考：https://github.com/macanv/BERT-BiLSTM-CRF-NER和https://github.com/yumath/bertNER特此感谢上述两个项目的贡献者！项目上只说了如何去训练的，但是使用TensorFlow Serving进行部署，翻遍全网没有找到合适的资料，遂自己分析模型，按照模型的架构分析输入输出然后导出。此模型的导出比较耗时，...
2020-04-08 10:22:54
4735
12
原创 Tensorflow Serving部署deeplab v3+模型并提供服务
Tensorflow Serving部署deeplab v3+模型并提供服务从实验到生产，简单快速部署机器学习模型一直是一个挑战。这个过程要做的就是讲训练好的模型对外提供预测服务。在生产中，这个过程需要可重现，隔离和安全。这里，我们使用基于docker的TensorFlow Serving来简单的完成这个过程。TensorFlow从1.8版本开始支持docker部署，包括CPU和GPU，非常方便...
2020-04-08 09:44:08
467
原创 Centos7.7安装Nvidia GPU驱动及CUDA以及tensorflow-GPU
英伟达驱动安装整体系统信息如下：操作系统：Centos7.X显卡：两块GeForce RTX 2080Ti一、安装准备1、机器上必须有支持CUDA的Nvidia GPU，查看支持CUDA的GPU列表查看自己的机器的GPUlspci | grep -i nvidia我这边服务器使用的是两块GeForce RTX 2080Ti2、验证系统是否是受支持的Linux版本uname...
2020-03-24 16:52:38
6509
1
原创 Centos7上使用docker nvidia-docker部署tensorflow/serving项目流程
系统环境：centos7.7两块GeForce RTX 2080 TI流程来源（ https://www.tensorflow.org/install/docker）1、安装docker（19.03.8）（1）、Docker 要求 CentOS 系统的内核版本高于 3.10 ，查看本页面的前提条件来验证你的CentOS 版本是否支持 Docker 。通过 uname -r 命令查看你...
2020-03-24 15:57:56
3340
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人