超级会员免费看
本文介绍了如何扩展txtai API以在Python中创建自定义端点，通过FastAPI构建RAG端点，演示了创建嵌入数据库、启动API实例以及执行查询的过程。
txtai API是一项由FastAPI支持的基于 Web 的服务。语义搜索、LLM 编排和语言模型工作流程都可以通过 API 运行。
虽然 API 非常灵活并且可以通过 YAML 驱动的工作流程执行复杂的逻辑，但有些人可能更喜欢在 Python 中创建端点。
本文介绍 API 扩展，并展示如何使用它们来定义与 txtai 应用程序交互的自定义 Python 端点。
安装依赖项
安装txtai和所有依赖项。
# Install txtai
pip install txtai[api] datasets
定义扩展名
首先，我们将创建一个定义持久嵌入数据库和 LLM 的应用程序。然后我们将通过 API 将这两者组合成 RAG 端点。
下面的代码在 处创建一个 API 端点/rag。这是一个GET采用text参数作为输入的端点。
app.yml
# Embeddings index
writable: 
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
