GraphRAG工作流程全解:微软黑科技如何用图结构颠覆传统RAG?效率翻倍指南

Graph RAG 的工作原理是集成知识图谱到通过图遍历进行检索,最后将检索到的上下文输入到 LLM 进行生成,最终结果响应给用户。

经典RAG的局限性

1. LLM更擅长处理结构化数据进行推理。传统的 RAG 检索的是非结构化的信息块,并没有明确地捕捉实体之间的关系。即使检索到了正确的信息,该模型也可能难以将看似相关的事实联系起来。

2. 跨文本块的处理能力有限。个检索取决于块和查询之间的余弦相似度,并且如果只有检索两个块时才能产生答案,则在极端情况下,由于余弦相似度低,重要信息可能会被遗漏。

3.无法处理复杂的查询推理。传统的 RAG 不了解关系,完全依赖 LLM 将不同的信息块拼凑在一起,增加答案不完整或不正确的可能性。

4.在可解释性方面的挑战。检索过程是模糊的,因为检索到的块被视为独立的单元,并且系统可能无法提供明确的理由来解释为什么某些信息包含在响应中。

5.上下文重叠和冗余问题缺乏优先级或对块之间关系的理解意味着传统的 RAG 系统通常会提供不必要或冗余的上下文,这可能会混淆 LLM 或浪费计算资源。

GraphRAG的工作流程

1.知识图谱构建

图片

提取出的实体表示为节点,节点之间的关系表示为边。最终形成一个结构化图,当中数据不再孤立,而是相互连接,从而提供了一种自然的方式来表示数据集内数据之间的关系。

2.知识图谱摘要

图片

将图算法应用于知识图谱来识别紧密连接的节点集群。对于每个检测到的节点集群,LLM都会生成一个简洁的摘要,其中包含关键实体、关系和主题。高级别摘要描述总体主题,而低级别摘要则突出细节。这种层次结构确保用户可以根据查询、探索到不同粒度级别的信息。

3.检索增强生成

  • 查询预处理

通过分析命名实体或特定于图形的术语来映射到图形中的节点,对查询进行标记以了解其关键元素。查询还会通过编码器(如 Sentence-BERT)来生成向量表示。

  • 图数据库交互

图形数据库包含节点(表示概念、实体、文档或文档块)和边(节点之间的关系,例如相似性、引用或层次结构)。

图片

系统执行最近邻搜索或图遍历来识别最相关的节点,从与查询嵌入或相关主题匹配的节点开始,并使用连接的边遍历图形。根据预定义的标准(例如相关性、节点度、与查询节点的距离等)提取相关节点和边的子图。

  • 对检索到的节点进行排序

通过计算查询嵌入和检索到的节点嵌入之间的相似度得分,根据相关性对检索到的节点进行排序。

图片

此外,还可以考虑特定于图的指标,例如中心性或边权重,以优先考虑重要性较高的节点,或者使用元数据过滤器(例如时间、来源或内容类型)来优化实时用例的结果。

  • 获取相关上下文(根据任务属性可选)

图片

  • 检索结果作为LLM的输入

检索和处理后的数据将作为上下文传递给 LLM。LLM 会结合此上下文生成对用户查询的连贯且合理的响应。

图片

以上Graph RAG 系统的典型工作流程,如果您觉得这篇文章对您了解GraphRAG技术有帮助,欢迎关注的公众号,查看更多精彩内容;点赞或赞赏表达您的鼓励!

如何学习AI大模型 ?

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

优快云粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传优快云,朋友们如果需要可以扫描下方二维码&点击下方优快云官方认证链接免费领取 【保证100%免费】

读者福利: 👉👉优快云大礼包:《最新AI大模型学习资源包》免费分享 👈👈

(👆👆👆安全链接,放心点击)

对于0基础小白入门:

如果你是零基础小白,想快速入门大模型是可以考虑的。

一方面是学习时间相对较短,学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术,作为新手一定要先学习成长路线图,方向不对,努力白费。

对于从来没有接触过AI大模型的同学,我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。(全套教程文末领取哈)
在这里插入图片描述

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字,我也为大家准备了视频教程,每个章节都是当前板块的精华浓缩。
在这里插入图片描述

在这里插入图片描述

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集,涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师,还是对AI大模型感兴趣的爱好者,这套报告合集都将为您提供宝贵的信息和启示。(全套教程文末领取哈)

在这里插入图片描述

👉4.大模型实战项目&项目源码👈

光学理论是没用的,要学会跟着一起做,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战项目来学习。(全套教程文末领取哈)
在这里插入图片描述

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展,AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型,如GPT-3、BERT、XLNet等,以其强大的语言理解和生成能力,正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。(全套教程文末领取哈)
在这里插入图片描述

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道,我总结了大模型常考的面试题。(全套教程文末领取哈)
在这里插入图片描述

为什么分享这些资料?

只要你是真心想学AI大模型,我这份资料就可以无偿分享给你学习,我国在这方面的相关人才比较紧缺,大模型行业确实也需要更多的有志之士加入进来,我也真心希望帮助大家学好这门技术,如果日后有什么学习上的问题,欢迎找我交流,有技术上面的问题,我是很愿意去帮助大家的!

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理,鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位,在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利,同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目,无论你是小白还是有些技术基础的,这份资料都绝对能帮助你提升薪资待遇,转行大模型岗位。

在这里插入图片描述
在这里插入图片描述

优快云粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传优快云,朋友们如果需要可以扫描下方二维码&点击下方优快云官方认证链接免费领取 【保证100%免费】

(👆👆👆安全链接,放心点击)

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值