m0_44982764的博客

tensorflow模型服务化部署框架tfserving，该框架支持模型部署和热切换更新，本文介绍该框架多个模型部署，利用grpc进行模型的增删改查。

最近调研目标检测算法，主要看了两种类型的模型，一个是one-state的FairMOT，一个是two-state的yolov5+deepsort。但是在ubuntu跑FairMOT时，需要编译安装dcnv2，这里遇到了一个很大的坑，最后成功解决。我电脑安装的是cuda 10.2。可以直接跳到第4步，解决方案GitHub - lbin/DCNv2: Deformable Convolutional Networks v2 with Pytorch错误：正常情况下进入文件夹下执行sh make.sh

我们训练好一个目标检测模型，想要部署在生产环境中，查了很多资料，最终选择使用TorchServe来部署。TorchServe是AWS和Facebook联合开发的，所以没有多想，选择大厂的东西应该没有错，部署模型过程中踩了很多坑，最终成功在windows10上成功部署，后面会在linux服务器上部署。1.安装我电脑上安装的cuda版本为10.1，TorchServe对cuda10.1只支持到pytorch1.8.1或者更高版本。首先安装依赖：下载serve（https://github.com/p

我的环境是,cuda10.1，python3.7,pytorch1.7.1，为了跑FairMOT模型，需要编译DCNv2，在windows上编译报错，最后成功解决。错误：RuntimeError: Error compiling objects for extension1.下载DCNv2模型https://github.com/CharlesShang/DCNv22.下载安装vs2017，测试了2015,2019都不行打开命令行工具3.进入到dcnv2-master目录，m