程序员收藏!RAG+知识图谱:大模型应用进阶指南

RAG技术通过构建知识向量库和检索机制增强大模型回答能力。文章详细介绍了RAG知识库构建(文件转化、分块、向量化存储)和检索回答流程,并探讨其与知识图谱的结合优势。知识图谱能表达复杂实体关系,提高检索效率,LightRAG等框架通过双层检索和增量更新实现更智能的知识库系统,使大模型能基于最新知识生成准确回答。

RAG(Retrieval - Augmented Generation,检索增强生成 )技术最早可追溯至2020年被正式提出。如今,伴随大模型技术的飞速迭代与应用场景的持续拓展,RAG技术已经深度融入大模型工作流,成为一种被广泛认可且极具影响力的范式。

大厂们也推出了一系列大模型应用融入了知识库,如IMA、飞书这些产品。

腾讯的 ima 个人知识库

字节的飞书知识问答

那么,这些产品都采用的 RAG 技术,背后的原理是什么?假如牛马被老板要求要完成建立公司内部知识库系统(当然最好没有,手动狗头),该如何完成呢?

在这篇文章中,我们会详细介绍RAG的技术原理,并介绍最近流行的结合知识图谱的 RAG 构建。


RAG整体框架

RAG 本质上是一个集成了两个关键组件的混合模型

  1. 从各种文件构建知识向量库
  2. 理解用户需求,在知识向量库里进行检索,最终生成准确而且上下文丰富的响应。

下面我们分两模块介绍。

RAG知识库构建

构建RAG知识库工作流如图所示:

为构建让大模型可以检索的知识库,首先把各种类型的文件转化为texts格式。

这里 texts 不一定是 txt 格式,也可以是 md 格式、json 格式,主要是为了方便后续进行分块为Chunks

分块后的 Chunks 进一步嵌入文本块转换为携带语义信息的数值向量。最终将嵌入储存保存在向量数据库中,以便在用户查询中快速检索。

RAG检索回答

这一模块是为了让大模型理解用户提问,最终生成可信的带有上下文的回复。

输入为用户的提问,类似的,大模型把该提问文本转化为嵌入向量,再到上一步构建的知识向量库里进行检索。

最终找到几段匹配度(如余弦相似度)高的回答,再利用Rerank模型,匹配度高的答案优先选择,结合指导大模型回答的提示词(prompt,可以为指导大模型回复的语气),最终,大模型回答给用户基于知识库检索的答案。


知识图谱+RAG(图检索增强生成)

传统 RAG 无法理解复杂实体关系,因此,假如用户查询涉及多个文档和复杂实体,传统 RAG 通常回答单个独立实体,而不是整体响应,无法满足用户需要。

知识图谱是通过节点(实体)和边(关系)构建的图结构,能够表达复杂的知识和实体间的关系。该结构可以让模型更好地捕获不同实体之间的关系,并且,基于图结构进行检索,可以显著地提高检索效率,减少响应时间

接下来我们简单介绍一下知识图谱相关概念,最后介绍一下如何将知识图谱、RAG 与大模型结合。

知识图谱相关概念

知识图谱使用图论来存储、映射和查询数据关系。它由节点、边(或关系)和属性组成,其中:

  • 节点(Nodes)代表实体,如人、企业或任何数据项。
  • 边(Edges)或关系(relationships) :连接节点,并说明实体之间的关联。
  • 属性(Properties):提供有关节点和关系的额外信息。

以 “电影产业” 领域为例,构建一个简单的知识图谱示例:

- 节点(实体):  - 节点 1:《流浪地球》(实体类型:电影)  - 节点 2:郭帆(实体类型:导演)  - 节点 3:吴京(实体类型:演员)  - 节点 4:科幻片(实体类型:电影类型)- 边(关系):  - 节点 2 → 节点 1:边标签为 “执导”(表示郭帆执导了《流浪地球》)  - 节点 3 → 节点 1:边标签为 “主演”(表示吴京主演了《流浪地球》)  - 节点 1 → 节点 4:边标签为 “属于”(表示《流浪地球》属于科幻片类型)- 属性:  - 节点 1 的属性:上映时间 = 2019 年,票房 = 46.86 亿元(提供电影的额外信息)  - 边 “执导” 的属性:合作次数 = 2(表示郭帆与《流浪地球》制作团队的合作次数)

最后构建知识图谱如下:

图中清晰展现了该知识图谱里的节点、边、属性。小伙伴们可以试试结合自己的业务场景构建专属的领域知识图谱。

将知识图谱、RAG与大模型结合

一方面,知识图谱可以与RAG结合到大模型,另一方面,大模型也可以促进知识图谱的构建

如Graphgen团队就尝试了让大模型构建知识图谱。

该模型首先将原始文档分割成语义连贯的小片段,接着使用大模型从片段中识别和提取实体及其关系,最后将不同片段中的相同实体或关系的描述自动合并形成知识图谱

而知识图谱可以与RAG结合到大模型,目前微软提出的GraphRAG[1]和香港大学提出的LightRAG[2]是当下非常热门的框架。下面我们以LightRAG框架为例进行介绍。

首先运用大模型对文档进行分析,识别并提取其中的实体,这些提取出的实体作为节点,关系作为边,共同构建起知识图谱。为优化图谱,会进行去重操作,去除重复实体。

比如从与 “Beekeeper(养蜂人)” 相关的文本段落里找出 “Beekeeper”“Bee(蜜蜂)” 等实体,同时明确它们之间的关系,例如 “管理(Manage)” 关系。

在检索阶段,采用双层检索机制。完成检索后,将获取的实体、关系以及原始文本等信息输入到 LLM 中,系统把用户查询与多源检索结果相整合,生成贴合查询语境的答案。

如 “Beekeeper”“Honey Bee(蜜蜂)”;高层检索则涵盖更宽泛的主题,像 “农业”“生产” 等。

此外,当有新文档加入时,系统会依据之前构建知识图谱的流程处理新文档,再将新生成的图谱数据与现有图谱合并,实现增量更新,让系统能适应动态变化的数据环境,始终基于最新知识进行检索和答案生成 。


我们如何系统学习掌握AI大模型?

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。

学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。

这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享

1. 成长路线图&学习规划

要学习一门新的技术,作为新手一定要先学习成长路线图方向不对,努力白费

这里,我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

在这里插入图片描述

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的,我们精选了一系列深入探讨大模型技术的书籍和学习文档,它们由领域内的顶尖专家撰写,内容全面、深入、详尽,为你学习大模型提供坚实的理论基础(书籍含电子版PDF)

在这里插入图片描述

3. 大模型视频教程

对于很多自学或者没有基础的同学来说,书籍这些纯文字类的学习教材会觉得比较晦涩难以理解,因此,我们提供了丰富的大模型视频教程,以动态、形象的方式展示技术概念,帮助你更快、更轻松地掌握核心知识

在这里插入图片描述

4. 大模型行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估,以了解哪些行业更适合引入大模型的技术和应用,以及在哪些方面可以发挥大模型的优势。

在这里插入图片描述

5. 大模型项目实战

学以致用 ,当你的理论知识积累到一定程度,就需要通过项目实战,在实际操作中检验和巩固你所学到的知识,同时为你找工作和职业发展打下坚实的基础。

在这里插入图片描述

6. 大模型面试题

面试不仅是技术的较量,更需要充分的准备。

在你已经掌握了大模型技术之后,就需要开始准备面试,我们将提供精心整理的大模型面试题库,涵盖当前面试中可能遇到的各种技术问题,让你在面试中游刃有余。

在这里插入图片描述

全套的AI大模型学习资源已经整理打包,有需要的小伙伴可以微信扫描下方优快云官方认证二维码,免费领取【保证100%免费

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值