graphrag+openwebui+fastapi 完成前端提问

超越perplexity!GraphRAG+Open WebUI+Tavily AI,打造超强多模式检索聊天机器人,本地搜索、全局搜索、在线搜索三合一!#rag_哔哩哔哩_bilibili

GraphRAG+FastAPI+OpenWebUI实现GraphRAG4OpenWebUI (stoeng.site)

参考上述链接视频在本地完成到graphrag的局部查询和全局查询后,接下来实现openwebui来实现graphrag的前端查询。以下是我的实现记录

首先需要安装所有的依赖项。

1.放入graphrag的输出结果

2. 修改模型api信息,这里需要注释相关信息不然会报api错误。

3.删除所有与协变量相关的代码。 (这个是这个视频作者自己新增的图信息代码,我全删了保持官方的)

4.将openweb-ui里的api换成这样的形式:

5.之前在graphrag中局部查询时报错的问题,这里还需要修改一下对应的代码:

GraphRAG+ollama+Lmstudio实操完整详细流程_graphrag lmstudio-优快云博客

结果: 

FastAPI学习

一个用于构建API的现代、快速的web框架,能快速构建api、异步框架,实现交互式文档。

Web服务器是处理HTTP请求和发送响应的服务器程序,而Web框架则是用于开发Web应用程序的软件框架,它提供了构建Web应用程序所需的各种组件和工具。

1.安装fastapi(python web框架)和uvicorn(类似于uwsgi的web服务器)。

### GraphRAG 和 Ollama 项目介绍 GraphRAG 是一种用于构建知识图谱的技术框架,能够处理大规模结构化和非结构化的数据集。通过集成自然语言处理技术和机器学习算法,该工具可以实现高效的知识抽取、表示以及推理功能[^1]。 Ollama 则是一个专注于提供大模型即服务(LLMaaS)平台的服务提供商,在此平台上用户可以通过 API 调用来访问预训练好的大型语言模型并应用于各种场景之中[^2]。 两者结合使用时,GraphRAG 可以为用户提供强大的中文知识图谱解决方案;而借助于 Ollama 提供的大规模计算资源支持,则使得整个系统的性能得到了极大提升,并降低了部署成本和技术门槛。 ### 安装与配置指南 为了启动基于 GraphRAG 的应用实例,首先需要准备初始的数据源文件夹 `./ragtest` 并执行如下命令来完成环境搭建: ```bash python -m graphrag.index --init --root ./ragtest ``` 上述指令会读取位于 `ragtest/input/` 目录下的文档作为输入材料,并对其进行索引操作以便后续查询检索之用。 对于想要深入了解底层工作原理或者参与开发贡献的人来说,可以从 GitHub 上获取最新版本的开源代码库来进行研究分析或修改优化。 ### 获取源码方法 如果希望下载 GraphRAG 或者其他相关组件的源代码,建议前往官方仓库页面进行克隆操作。通常情况下,这类项目的托管地址会在其官方网站或是论文中有所提及。例如,针对 Python 包管理器 pip 所安装的部分模块,也可以直接查看本地路径 `/site-packages/graphrag/query/llm/oai/embedding.py` 来了解具体实现细节。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值