GraphRAG变种:HippoRAG进化到HippoRAG2.0,提升多跳复杂推理性能

llm检索增强创新 llm检索增强创新:HippoRAG 2 海马体记忆索引、KBLaM-知识库增强语言模型、InfiniRetri无限检索 阅读详情

HippoRAG2生成的图更为密集,提高了信息连接性和覆盖范围。并且这种变种的GraphRAG在需要多跳推理和上下文综合的任务中表现优异。

imgimg

下面我们来看一看HippoRAG2如何通过增加知识图谱等结构来增强向量嵌入,以解决一些差距,即理解和关联性。供参考。

方法

HippoRAGHippoRAG 模拟了大脑皮层和海马体在人类记忆中的不同作用。使用 LLM 将语料库转换为知识图谱 (KG)作为人工海马索引。给定一个新的查询,HippoRAG 提取关键概念,并在 KG 上运行个性化 PageRank (PPR) 算法,以查询概念为种子,整合不同段落的信息进行检索。

PageRank 使 HippoRAG 能够探索知识图谱路径并识别相关子图,本质上是在单个检索步骤中执行多跳推理。这种高效的图搜索模拟了海马体从部分线索中提取相关信号的过程。PPR 中的节点概率会在索引段落上进行聚合,从而对其进行排序以供检索。

HippoRAG 2HippoRAG 2

HippoRAG 2 在HippoRAG的基础上进行了几项关键改进,如下:

1、密集-稀疏整合:HippoRAG知识图谱中的节点主要由描述概念的短语组成,我们在本文中将这些节点称为短语节点。这种图结构引入了与概念-上下文权衡相关的限制。概念简洁且易于泛化,但通常会丢失信息。HippoRAG 2改进: 在知识图谱(KG)中同时整合了概念(短语节点)和上下文(段落节点),以更好地模拟人类记忆中的概念与上下文的交互。这种整合使得 KG 不仅包含概念信息,还包含丰富的上下文信息,从而增强了检索的全面性和准确性。

2、更深层次的上下文化:观察到HippoRAG中的查询解析主要围绕概念展开,这经常忽视了知识图谱(KG)内的上下文对齐。这种以实体为中心的提取和索引方法对概念有强烈的偏好,导致许多上下文信号被利用不足。HippoRAG 2改进: 引入了更深层次的上下文链接方法,允许查询直接与 KG 中的三元组进行匹配,而不仅仅是实体或节点。这种方法提高了查询与知识图谱之间的语义匹配度,使得检索结果更加相关和准确。

3、识别记忆:引入了识别记忆机制,作为查询到三元组检索过程的一个过滤步骤。通过使用 LLM 过滤检索到的三元组,HippoRAG 2 能够更有效地选择相关的种子节点,从而提高检索的精度和效率。

4、在线检索的改进:在在线检索过程中,HippoRAG 2 不仅考虑了短语节点的排名分数,还将段落节点的嵌入相似性纳入重置概率的计算中。这种方法平衡了概念节点和上下文节点的影响,使得检索结果更加全面和准确。

实验

数据集设计:选择了多个数据集来评估RAG系统在保留事实记忆、增强关联性和理解能力方面的表现。数据集包括自然问题(NQ)、PopQA、MuSiQue、2Wiki、HotpotQA、LV-Eval和NarrativeQA。

img

基线方法:选择了三种简单的基线方法(BM25、Contriever、GTR)和几种大型嵌入模型(GTE-Qwen2-7B-Instruct、GritLM-7B、NV-Embed-v2),以及四种结构增强的RAG方法(RAPTOR、GraphRAG、LightRAG、HippoRAG)。

QA性能QA性能

检索性能检索性能

消融实验:查询到三元组的方法显著提高了HippoRAG 2的性能消融实验:查询到三元组的方法显著提高了HippoRAG 2的性能

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

HippoRAG 2:开源RAG框架革新知识检索,多跳推理+持续学习全搞定 HippoRAG 2 是俄亥俄州立大学推出的检索增强生成框架,通过个性化PageRank算法和知识图谱技术,显著提升了RAG系统在复杂问答任务中的表现。 阅读详情

相关推荐

微积分,用编程理解高数(python,C,C++)

很好理解,导数中,x是哪一点的导数,dx是精准度,y等于f(x)即函数。导数结果就是瞬时变化率。积分很好理解,a为下限,b为上限,y为函数,结果就是y=f(x)下a到b的面积。只要用定积分代入a=0,b=10(10s)y=x(1*x=1)就得到结果。F(x)为原函数,即微分后的函数是f(x)dx,微分前是F(x)一列车初始速度为10m/s,加速度为。才几十行代码,微积分也不是很难啊。,问速度达到20时车走了多少米。

linhhanpy的博客 1178

GraphRAG变种进化论:HippoRAG 2.0来了!

HippoRAG2通过改进知识图谱结构显著提升RAG系统性能。其核心创新包括:1)整合概念节点与上下文段落节点,模拟人脑记忆机制;2)引入三元组直接匹配机制,提升语义对齐精度;3)新增LLM过滤层优化检索质量。实验表明,在NQ、HotpotQA等7个数据集上,该方法在事实记忆、多跳推理等任务中优于传统RAG方案。当前大模型人才缺口达47万,掌握RAG等核心技术可显著提升职业竞争力。学习路径建议分四阶段:从提示工程到RAG开发,再到模型微调及商业部署,完整资料可通过优快云免费获取。

Trb701012的博客 1039

CODESYS Softmotion(一)功能介绍

一、CODESYS SoftMotion RTE SL产品 1.1 CODESYS Runtime SL 产品家族介绍 目前支持的主流厂商的硬件产品,让部署在上面的成为实时设备。 对于Windows系统,根据需求选择对应的Runtime: RTE极大的提高了实时性,适合进行运动控制,同时RTE还支持了多个主从站协议: 还可以选择可选的功能(Single License): RTE对硬件和系统有要求,如果你需要硬件功能,那么网卡会有最低要求。 1.2 RTE的下载和安装 在官网http://codes

Fishfishfishfishcat 2万+

HippoRAG2-大语言模型长期记忆机制

一、研究背景与动机在快速变化的世界中,持续吸收、整合和运用知识是人类智能的核心能力,而人工智能系统要成为真正的人类级助手,必须具备类似的持续学习能力。大型语言模型(LLMs)虽在多个领域取得突破,但在长期记忆方面存在两大挑战:一是难以充分吸收新知识,二是容易出现“灾难性遗忘”(旧知识被新知识覆盖)。感知理解(Sense-making):解读复杂、不确定语境的能力(如理解长篇故事的逻辑);关联性(Associativity):在分散知识间建立多跳连接的能力(如通过多步推理回答问题)。

晓的博客 1012

点云语义分割:RandLANet模型推理C++部署(2)

一、数据读取及预处理 二、模型推理 三、结果保存

zhaoguanhua的博客 3798

4、LTE无人机认证:保障通信安全的新方案

本文针对LTE网络中无人机通信存在的安全风险,提出了一种基于可信第三方GCS的新型认证协议。该协议通过非对称加密和哈希函数保护IMSI等敏感信息,防止身份泄露、中间人攻击、拒绝服务攻击和位置追踪等威胁。利用Scyther工具对协议进行形式化分析,验证了其在机密性、一致性和活性等方面的安全属性,证明该方案能有效提升无人机在LTE网络中的通信安全性与隐私保护能力。

pink的博客 61

深度解析仿人脑记忆搜索的HippoRAG2,全面对比GraphRAG、KAG、LightRAG和PIKE-RAG,成本缩减12倍

持续获取、组织和利用知识的能力是人类智能的关键特征,而 AI 系统若想充分发挥潜力,也必须具备这一能力。近期,一些 RAG 方法通过引入知识图谱等结构来增强对信息的理解和联想能力,部分弥补了这些不足。然而,这些增强方法在基础事实记忆任务上的表现通常远逊于标准 RAG。HippoRAG 2[1] 基于 HippoRAG 采用的,并进一步优化了信息整合方式,同时增强了 LLM 在在线检索中的作用。

m0_59163425的博客 1943

YOLOv9改进策略目录 | 包含卷积、主干、检测头、注意力机制、Neck上百种创新机制

Hello,各位读者们好本专栏自开设两个月以来已经更新改进教程50余篇其中包含RepNCSPELAN4、主干、检测头、注意力机制、Neck多种结构上创新,也有损失函数和一些细节点上的创新。同时本人一些讲解视频和包含我所有创新的YOLOv9文档并不能在优快云上传(所有的创新点都经过我的测试是可用的,得到该文件之后大家可以随意组合使用),所以会建立群的形式在内上传我的文件和视频我也会在群内不定期和大家交流回答大家问题,同时定期会更新一些文章的创新点(经过我融合测试后的,先到先得)。

Snu77的博客 1万+

HippoRAG2.0震撼发布!GraphRAG变种进化,多跳复杂推理性能飞跃提升!

HippoRAG2改进知识检索系统,通过整合概念与上下文优化性能。它基于HippoRAG框架,在知识图谱中同时引入短语节点和段落节点,增强语义匹配。关键改进包括:1)密集-稀疏整合平衡概念与上下文;2)深层上下文链接提升三元组匹配;3)识别记忆机制过滤无关内容;4)在线检索优化节点评分策略。实验使用NQ、HotpotQA等数据集验证其在多跳推理和事实记忆方面的优势。文章还提供了AI大模型学习路径,涵盖系统设计、提示工程到行业应用的完整知识体系。

2401_84494441的博客 977

Halcon那些事:Halcon缺陷检测检测印刷数字完整性

创建模板 create_shape_model模板匹配 find_shape_model。

十多年IT经验,专注机器视觉,智能制造半导体行业 764

七天征服AutoSAR/SomeIP_01速成配置并代码生成

本文为AutoSAR中SomeIP配置开发的实操指南摘要,重点介绍通过通信矩阵快速构建SomeIP工程的方法。核心内容包括:1)基于Excel通信矩阵生成系统描述文件(arxml);2)在AutoSAR工具中导入文件自动生成协议栈配置,涵盖ETHIF、SoAd等模块;3)关键报错处理(COM/PDUR/SOAD/SD模块的配置修正);4)SomeIPXF的数据编解码配置;5)SWC组件与RTE任务映射。教程强调"先完成再完美"的实践原则,指导开发者快速生成基础代码框架,为后续协议调试奠定

大叔带刺的博客 303

全文 - Building AI Coding Agents for the Terminal: Scaffolding, Harness, Context Engineering, and Less

AI 编程辅助的格局正在经历一场根本性转变:从复杂的 IDE 插件转向通用的、终端原生的智能体(agent)。直接在开发者管理源代码版本控制、执行构建和部署环境的终端中运行,基于 CLI 的智能体为长程开发任务提供了前所未有的自主性。本文介绍OpenDev——一个专为这一新范式打造的开源命令行编程智能体。有效的自主辅助需要严格的安全控制和高效的上下文管理,以防止上下文膨胀和推理退化。

eloudy的专栏 455

YOLOv5改进 | 低照度检测 | 2024最新改进CPA-Enhancer链式思考网络(适用低照度、图像去雾、雨天、雪天)

本文给大家带来的2024.3月份最新改进机制,由CPA-Enhancer: Chain-of-Thought Prompted Adaptive Enhancer for Object Detection under Unknown Degradations论文提出的CPA-Enhancer链式思考网络CPA-Enhancer通过引入链式思考提示机制,实现了对未知退化条件下图像的自适应增强。该方法的核心在于能够利用CoT提示对图像退化进行动态分析和适应,从而显著提升物体检测性能。

Snu77的博客 2222

AGI|RAG进化论:从青铜到王者,一文看懂 RAG 全家族

从RAG到Advanced RAG,详解RAG家族演变

在数字化道路无限探索 1345

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

大模型RAG技术(二)如何进行检索增强?RAG和微调应该如何选择?未来RAG还有哪些发展前景?

AI大模型作为人工智能领域的重要技术突破,正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口,掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程,需要从基础开始,逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源,包括:AI大模型全套学习路线图(从入门到实战)、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等,资料免费分享!

老皮的博客 1178

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

【4.13.-4.20学习周报】

本博客介绍了论文《From RAG to Memory: Non-Parametric Continual Learning forLarge Language Models》提出HippoRAG 2框架,以解决现有检索增强生成(RAG)系统在模拟人类长期记忆方面的局限。首先分析了持续学习LLMs的挑战及RAG方法的不足,如无法捕捉长期记忆的意义构建和关联性。接着介绍HippoRAG 2的离线索引和在线检索流程,通过密集 - 稀疏集成、深度上下文关联和识别记忆等改进,增强了与人类记忆机制的契合度。

lzj2002522的博客 1042

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

技术动态 | 智谱共融:大模型驱动的知识图谱范式重构与演进路径

本文将深入探讨知识图谱与大模型的深度融合路径,包括提示工程、模型微调、检索增强、推理协同等方面的应用,通过这些融合,将有助于构建下一代可信的智能系统,为实现通用人工智能奠定基础。上下⽂检索筛选⾼相关实体,反向优化推理路径。图结构存在一些天然的优势,例如具有更强的复杂推理能力,更好的可解释性、知识表达与关联性,以及更灵活的知识源集成能力,可以为大模型落地提供关键支撑。未来,将进一步拓展应用场景,加强技术研发,同时持续开展社区建设,构建大模型时代下全球领先的知识图谱开源生态,推动知识要素的高效流通与持续增值。

开放知识图谱 794

【第四十七周】HippoRAG 2 复现与分析(一):环境部署与代码分析

本文记录了HippoRAG 2系统的核心功能测试过程。通过构建小型结构化文档库,验证了系统的索引构建、动态更新、问答检索及评估能力。测试中替换OpenAI为Deepseek API,使用NV-Embed-v2嵌入模型,成功获得66.67%的答案精确匹配率。这一阶段既确认了系统基础功能(如稳定索引和检索效率),也暴露了模型配置等优化点,为后续大规模实验提供了可复用的测试框架和改进方向。环境搭建和运行测试为系统正式部署奠定了基础。

qq_30043925的博客 1746

2025大模型学习必备干货!路线图+学习资源,助你成为AI达人!

我们提出了AutoSchemaKG,一个完全自主的知识图谱构建框架,无需预定义模式。我们的系统利用大型语言模型同时提取知识三元组和直接从文本中归纳全面的模式,对实体和事件进行建模,并在使用概念化将实例组织成语义类别的同时进行建模。处理超过5000万份文档后,我们构建了ATLAS(自动化三元链接和模式归纳),一系列拥有9亿多个节点和59亿多条边的知识图谱。这种方法在多跳问答任务上优于最先进的基线,并增强了大型语言模型的事实验实性。

m0_63171455的博客 1005

比GraphRAG和LightRAG还强的HippoRAG 2来了!

接下来是进阶篇,你将掌握RAG、Agent、Langchain、大模型微调和私有化部署,学习如何构建外挂知识库并和自己的企业相结合,学习如何使用langchain框架提高开发效率和代码质量、学习如何选择合适的基座模型并进行数据集的收集预处理以及具体的模型微调等等。在做这套教程之前呢,我就曾放空大脑,以一个大模型小白的角度去重新解析它,采用基础知识和实战项目相结合的教学方式,历时3个月,终于完成了这样的课程,让你真正体会到什么是每一秒都在疯狂输出知识点。同义词检测:在构建的知识图谱中,识别并添加同义词边。

kaka0722ww的博客 2026

HippoRAG 2:从RAG到记忆——大模型的非参数化持续学习

今天我们将探讨一篇RAG的论文,主题是大模型的非参数化持续学习框架——HippoRAG 2。该研究针对大模型在吸收新知识和避免灾难性遗忘方面的挑战,提出了一种新的方法,模拟人类长期记忆的动态性和关联性。,为大模型的持续学习提供了新的可能性。1. 基本信息。

m0_59163425的博客 2563

RAG 方法大盘点:GraphRAG、GraphReader、LightRAG、HippoRAG 及 KAG 全解析

RAG 方法大盘点:GraphRAG、GraphReader、LightRAG、HippoRAG 及 KAG 全解析

python12345_的博客 1953

九大GraphRAG的全面评估:GraphRAG-Bench基准测试集解析 - 香港理工&腾讯优图等

图检索增强生成(GraphRAG)因其在通过结构化组织领域特定语料库和促进复杂推理来增强大型语言模型(LLMs)方面的潜力而日益受到认可。然而,目前对GraphRAG模型的评估主要依赖于传统的问答数据集。它们在问题和评估指标上的有限范围无法全面评估GraphRAG模型所提升的推理能力。为了填补这一空白,我们引入了GraphRAG-Bench,这是一个大规模、领域特定的基准测试,旨在严格评估GraphRAG模型。我们的基准测试提供三个主要优势:

m0_59164304的博客 849
上一篇: 大模型微调前必须想清楚的5个问题:别让你的项目从入门到放弃
下一篇: 大模型私有部署的最优解:构建企业级大模型统一能力底座
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2835原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值