技术动态 | 知识图谱增强的RAG(KG-RAG)详细解析

转载公众号 | 知识图谱科技


f74529c0e6327316f1a8b5892a964716.png

KG-RAG 表示基于知识图谱的RAG(Retrieval Augmented Generation)检索增强.

先看一下KG-RAG的视频

这是一个与任务无关的框架,它将知识图谱(KG)的显性知识与大型语言模型(LLM)的隐含知识结合起来。这是该工作的arXiv预印本 https://arxiv.org/abs/2311.17330 。

我们在这里利用一个名为SPOKE(https://spoke.ucsf.edu/)的大规模生物医学知识图谱作为生物医学背景的提供者。SPOKE已经整合了来自不同领域的40多个生物医学知识库,每个知识库都专注于生物医学概念,如基因、蛋白质、药物、化合物、疾病及其相关连接。

SPOKE由21种不同类型的超过2700万个节点和55种类型的5300万条边组成(https://doi.org/10.1093/bioinformatics/btad080)。

KG-RAG的主要特点是从SPOKE KG中提取“提示感知上下文”,其定义为:足以回答用户提示的最小上下文。

3c63676ecd8b301c1bbf1dbc1eaabd39.jpeg

因此,这个框架通过从生物医学KG中获得的优化领域特定的“提示感知上下文”,赋予了一个通用型的LLM更强大的功能。

KG-RAG用户案例

下面的片段显示了FDA网站上关于由

FDA(https://www.fda.gov/drugs/news-events-human-drugs/fda-approves-treatment-weight-management-patients-bardet-biedl-syndrome-aged-6-or-older)批准用于巴代特-畢迪二氏综合征患者的减重药物“setmelanotide”的信息。

60df4de99c752edcbde8f10f9c713ee2.png

询问 GPT-4 关于上述药物:

没有KG-RAG

注意:此示例是使用KG-RAG v0.3.0运行的。我们是通过终端来启动GPT,而不是通过chatGPT浏览器。分析中的温度参数设置为0。参考此yaml文件进行参数设置,包括KG-RAG。

有KG-RAG

注意:此示例是使用KG-RAG v0.3.0运行的。分析过程中,温度参数设置为0。有关参数设置,请参阅此yaml文件。

你可以看到,KG-RAG能够提供关于FDA批准药物的正确信息。

如何运行KG-RAG

注意:目前,KG-RAG专门为与疾病相关的提示运行而设计。我们正在积极努力改进其多功能性。

Step 1: 克隆repo

克隆此存储库。所有论文中使用的生物医学数据已上传到此存储库,因此您无需单独下载。

Step 2: 创建一个虚拟环境

注意:本存储库中的脚本是在Python 3.10.9版本下运行的。

conda create -n kg_rag python=3.10.9
conda activate kg_rag
cd KG_RAG

Step 3: 安装依赖项

pip install -r requirements.txt

Step 4: 更新config.yaml

config.yaml保存了运行您机器上的脚本所需的所有必要信息。请确保相应地填充此yaml文件。

注意:还有另一个名为system_prompts.yaml的yaml文件。它已经填充好,并保存了KG-RAG框架中使用的所有系统提示。

Step 5: 运行设置脚本

注意:确保您位于KG_RAG文件夹中

设置脚本以交互方式运行。

运行设置脚本:

1.为KG-RAG创建疾病向量数据库

2.在您的机器上下载Llama模型(可选,您可以跳过此步骤,完全没有问题)

python -m kg_rag.run_setup

Step 6: 从重点运行KG-RAG

注意:确保你处于KG_RAG文件夹中

你可以使用GPT和Llama模型来运行KG-RAG。

用GPT
python -m kg_rag.rag_based_generation.GPT.text_generation -g <your favorite gpt model - "gpt-4" or "gpt-35-turbo">

示例:注意:以下示例在AWS p3.8xlarge EC2实例上运行,并使用KG-RAG v0.3.0。

用GPT的交互模式

这使用户可以以交互式方式逐步完成整个过程。
python -m kg_rag.rag_based_generation.GPT.text_generation -i True -g <your favorite gpt model - "gpt-4" or "gpt-35-turbo">
用Llama
注意:如果您在安装设置步骤时没有下载Llama,那么当您运行下面的命令时,可能需要一些时间,因为它首先会下载模型。
python -m kg_rag.rag_based_generation.Llama.text_generation -m <method-1 or method2, if nothing is mentioned it will take 'method-1'>

示例

注意:以下示例是在AWS p3.8xlarge EC2实例上运行,并使用KG-RAG v0.3.0。

用Llama交互模式

这样做可以让用户以互动方式逐步完成整个过程。
python -m kg_rag.rag_based_generation.Llama.text_generation -i True -m <method-1 or method2, if nothing is mentioned it will take 'method-1'>

引用

@article{soman2023biomedical,
  title={Biomedical knowledge graph-enhanced prompt generation for large language models},
  author={Soman, Karthik and Rose, Peter W and Morris, John H and Akbas, Rabia E and Smith, Brett and Peetoom, Braian and Villouta-Reyes, Catalina and Cerono, Gabriel and Shi, Yongmei and Rizk-Jackson, Angela and others},
  journal={arXiv preprint arXiv:2311.17330},
  year={2023}
}

SPOKE KG可以通过以下链接访问:

https://spoke.rbvi.ucsf.edu/neighborhood.html。也可以使用REST-API访问

(https://spoke.rbvi.ucsf.edu/swagger/)。

KG-RAG代码可在

https://github.com/BaranziniLab/KG_RAG 下载。本研究中使用的生物医学数据集(一跳问题、两跳问题、真假问题、多选题问题、药物重新定位问题、SPOKE KG中的疾病上下文)可供研究界使用,位于同一GitHub存储库中。

原文 - [2311.17330] Biomedical knowledge graph-enhanced prompt generation for large language models (arxiv.org)


OpenKG

OpenKG(中文开放知识图谱)旨在推动以中文为核心的知识图谱数据的开放、互联及众包,并促进知识图谱算法、工具及平台的开源开放。

879ffb6766cae792399f16ae57f1b689.png

点击阅读原文,进入 OpenKG 网站。

### 知识图谱 RAG 实现方案和技术原理 #### 什么是知识图谱 RAG知识图谱增强的检索生成模型(Retrieval-Augmented Generation, RAG)是一种结合了知识图谱和自然语言处理技术的方法,旨在提升信息检索和生成的质量。相比于传统的 RAG 方法,知识图谱 RAG 利用了结构化的知识表示来改进上下文理解能力以及推理逻辑[^1]。 #### 技术原理 知识图谱 RAG 的核心在于利用知识图谱作为外部存储器,在查询阶段提取相关实体及其关系,并将其传递给生成模块以辅助响应生成过程。以下是其主要组成部分: - **知识图谱构建** 构建高质量的知识图谱是整个流程的基础。这通常涉及数据源的选择、实体识别、关系抽取以及三元组形式的数据存储。例如,可以使用 FalkorDB 这样的专用数据库工具来进行高效管理[^3]。 - **语义索引与检索机制** 基于输入问题,系统会先解析其中的关键概念并映射到知识图谱中的节点或边。接着采用向量相似度计算或其他高级算法找到最匹配的内容片段。这种方法相比纯文本检索更加精准,因为它考虑到了领域特定术语之间的关联性[^2]。 - **融合策略设计** 将来自知识库的信息无缝融入预训练语言模型内部状态是一项挑战性的任务。GraphRAG 提供了一种直观的方式——把每个文档视为一张子图而非孤立字符串序列;如此一来便能充分利用拓扑特性指导后续操作^。 #### 实现方法概述 一种具体的实现路径如下所示: ```python from langchain import KnowledgeGraphRAGPipeline def build_kg_rag(): # 初始化知识图谱组件 kg_db = initialize_falkordb() # 使用FalkorDB初始化 # 加载Hamilton框架定义的工作流 pipeline_steps = load_hamilton_pipeline() # 配置LLM接口 llm_model = configure_openai_api() # 组装完整的KG-RAG管道 rag_instance = KnowledgeGraphRAGPipeline( knowledge_graph=kg_db, retrieval_strategy=pipeline_steps['retrieval'], generation_engine=llm_model ) return rag_instance ``` 上述代码展示了如何借助 LangChain 库快速搭建起支持动态更新的知识驱动型对话服务原型。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值