GraphRAG在Windows环境下离线部署

部署运行你感兴趣的模型镜像

1. GraphRAG部署

首先下载graphrag代码,链接如下:graphrag代码
新建conda环境并安装所需依赖包:

pip install graphrag
pip install -e .

新建ragtest文件夹,并在改该文件夹下新建input文件夹:
新建
在外网运行以下代码下载测试文本:

curl https://www.gutenberg.org/cache/epub/24022/pg24022.txt -o ./christmas/input/book.txt

将该book.txt导入离线windows环境,graphrag的ragtest–>input目录下;

设置工作区变量

若要初始化工作区,请先运行命令。 由于我们已经配置了上一步中命名的目录,因此运行以下命令:

graphrag init --root ./ragtest

这将在目录中创建以下两个文件:
.env 和 settings.yaml
打开settings.yaml进行内容修改,本文使用本地ollama部署的qwen3:32bqwen3-embedding-8b:latest 用于问答和文本解析;
对于本地ollama的部署可参考:windows系统离线安装Ollama、创建模型
settings.yaml修改内容主要如下,左边是修改后的内容,右边是原始内容:
其中api_base表示ollama运行的ip地址,默认为11434
settings修改
在cmd命令窗口启动ollama:

ollama serve

ollama serve

运行索引管道

在graphrag工程Terminal命令行运行:

graphrag index --root ./ragtest

运行结果
运行结果将在output文件夹中显示,查看indexing-engine.log可以查看运行过程及问题:
log结果
运行过程中可能会遇到KeyError:'title’的问题,原因可能是是需要解析的文本中没有‘title’等格式,替换该文本为以下链接下载的book可以解决该问题,但不是可行的最终方案:

curl https://www.gutenberg.org/cache/epub/24022/pg24022.txt -o ./christmas/input/book.txt

解决了问题;
其他方案:修改setting.yaml文件或许可以解决:
KeyError问题

2. 测试

在Terminal输入:

graphrag query --root ./christmas --method local --query "Who is Scrooge and what are his main relationships?"

运行结果:
运行结果

参考链接:
graphrag start

您可能感兴趣的与本文相关的镜像

Python3.8

Python3.8

Conda
Python

Python 是一种高级、解释型、通用的编程语言,以其简洁易读的语法而闻名,适用于广泛的应用,包括Web开发、数据分析、人工智能和自动化脚本

### Windows 上本地部署 Ollama 和 GraphRAG #### 准备工作 为了顺利安装并配置 Ollama 和 GraphRAG,在开始之前需确认已满足以下条件: - 已安装 Python 3.8 或更高版本[^1]。 - 安装了 Git 版本控制系统以便于克隆项目仓库[^2]。 #### 安装 Ollama 下载适用于 Windows 的最新版 Ollama 并按照官方指南完成安装过程。确保将 Ollama 添加到系统的环境变量 PATH 中,从而可以在命令提示符下直接调用 ollama 命令。 #### 配置开发环境 创建一个新的虚拟环境来隔离依赖项,并激活该虚拟环境: ```bash python -m venv myenv myenv\Scripts\activate ``` 接着更新 pip 到最新版本并安装必要的包管理工具 poetry: ```bash pip install --upgrade pip pip install poetry ``` #### 获取源码与设置 从 GitHub 克隆 GraphRAG 项目的存储库至本地计算机: ```bash git clone https://github.com/TheAiSingularity/graphrag-local-ollama.git cd graphrag-local-ollama ``` 利用 Poetry 来处理项目所需的 Python 库文件 `pyproject.toml` ,执行如下指令加载所有必需的软件包: ```bash poetry install ``` #### 启动服务 进入 GraphRAG 文件夹路径后,可以启动 FastAPI Web API Server: ```bash uvicorn app.main:app --reload ``` 这将会在 http://localhost:8000 地址开启 RESTful 接口供外部访问[^3]。 #### 测试模型功能 以《凡人修仙传》为例验证整个架构能否正常运作。上传文档集给向量数据库构建索引;随后发起查询请求检验检索质量以及对话生成效果。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值