看的b站up主的视频记的笔记
视频链接:使用pytorch配合flask搭建简易web服务_哔哩哔哩_bilibili
使用文件:
本届代码参考来源于pytorch官方tutorial下的deploying pytorch via a REST API with flask,本节课的代码只适合于展示、开发、测试,不适合于生产环境,因为1pytorch模型没有优化,运行结果较慢,2flask的WSGI不适合生产环境,需要配合一个高性能WSGI服务,以后会讲如何用在生产环境中,一般是通过Pytorch模型转换成ONNX通用格式,然后针对不同的设备进一步优化,也可以用官方提供的量化方法
本节课的模型时mobileNetv2
运行main.py
#flask装饰器 定义路由形式 接口predict 装饰器torch.no_grad
@app.route("/predict", methods=["POST"])
@torch.no_grad()