将算法推理函数封装成Restful API

前言

如果要快速构建一个算法应用,便于用户在线体验算法推理效果,采用gradio是个不错的选择。然而,要集成到业务程序中,比如要支持java等语言去调用(发送请求,获取到推理结果),此时便需要将算法推理函数封装成Restful API。这里,简单总结下快速封装Restful API的步骤。

假如有个需求:

业务端要做一个演示程序,里面包含一个目标检测算法,算法人员如何将自己跑在GPU服务器上的算法程序交付给业务人员呢?

解决思路:

将算法推理函数封装成Restful API;

如果算法推理用python实现,web框架可采用Flask或FastAPI;

将算法和服务运行环境封装到docker镜像中,通过docker-compose启动。

步骤

1、首先,确保安装了 FastAPI 和 Uvicorn:

pip install fastapi 
pip install uvicorn

2、创建一个 Python 文件(例如 main.py),

  • 导入 FastAPI、Pydantic 和一些必要的模块:
  • 定义 Pydantic 模型类,用于接收 POST 请求中的数据:
  • 编写算法逻辑:
  • 定义路由和处理函数,比如接收图片和字符串,并调用算法推理逻辑,返回算法推理结果:
  • 使用 Uvicorn 启动应用程序:
from fastapi import FastAPI, UploadFile, File 
from pydantic import BaseModel 
app = FastAPI()

# 定义 Pydantic 模型类,
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值