Think-on-Graph：一种知识图谱与大模型的紧耦合新范式

Python_金钱豹

于 2025-07-23 16:55:56 发布

阅读量594

点赞数 12

CC 4.0 BY-SA版权

文章标签：金融人工智能自动化运维重构

本文链接：https://blog.youkuaiyun.com/Python_cocola/article/details/149576152

一、研究背景

LLM 的局限性：大型语言模型虽在多种任务中表现出色，但存在幻觉问题，尤其在需要深度推理的场景中：
- 难以处理超出预训练知识范围的问题或多跳推理问题；
- 缺乏可解释性和知识溯源能力，且知识更新成本高、速度慢。
现有LLM与KG结合的不足：传统“LLM ⊕ KG”范式中，LLM仅将问题转换为KG搜索命令(如SPARQL)，不直接参与图推理，其效果依赖 KG 的完整性。若KG存在缺失关系(如“多数成分”)，则无法生成正确答案。
新范式的提出：针对上述问题，提出“LLM ⊗ KG”紧耦合范式：LLM 作为智能代理，与KG协同工作，在推理的每一步动态探索KG中的实体和关系，补充彼此能力(例如通过KG中的三元组和LLM固有知识共同补全缺失信息)。

二、核心方法

ToG是“LLM ⊗ KG”范式的具体实现，通过LLM在KG上迭代执行波束搜索，动态探索推理路径，具体流程如下：

2.1 ToG核心步骤

初始化：给定问题，ToG利用底层大语言模型定位知识图谱上推理路径的初始实体，即自动提取问题中的主题实体，获取问题的Top-N主题实体(主题实体数量可能少于N) ，以此初始化Top-N推理路径。
探索：在第D次迭代开始时，每条路径由D-1个三元组组成(每完成1次迭代，推理路径会增加1个三元组；因此第D次迭代开始时，累计完成了(D-1)次迭代，路径长度为(D-1)个三元组)。探索阶段旨在利用LLM从当前顶级实体集的相邻实体中识别最相关的顶级实体，扩展顶级推理路径。该阶段包含关系探索和实体探索两个子步骤：

关系探索：深度为1、宽度为N的波束搜索过程，由搜索和剪枝组成。搜索时，为每个推理路径搜索链接到尾部实体的关系并聚合成集合；剪枝时，利用LLM根据问题文字信息从候选关系集中选择出新的以尾部关系结尾的Top-N推理路径。

问题：“姚明曾效力的NBA球队位于美国哪个州？”
当前推理路径：已有的一条路径为(姚明，曾效力于，休斯顿火箭队)(尾部实体是“休斯顿火箭队”)。宽度N=2(即保留2个最相关的关系)。
搜索阶段：查询“休斯顿火箭队”在知识图谱中的关联关系，得到候选关系集合：{“位于”“所属联盟”“主场馆”“成立时间”}。
剪枝阶段：LLM结合问题“位于美国哪个州”，判断“位于”(直接关联地理位置)和“主场馆”(间接关联所在城市，进而关联州)最相关，筛选出这2个关系。
结果：形成2条新的推理路径：(姚明→曾效力于→休斯顿火箭队)→(休斯顿火箭队→位于→？)(姚明→曾效力于→休斯顿火箭队)→(休斯顿火箭队→主场馆→？)

实体探索：同样由搜索和剪枝构成。搜索时，依据关系探索得到的新推理路径和尾部关系集，查询探索候选实体集并聚合；剪枝时，利用LLM选择新的以特定尾部实体结尾的Top-N推理路径。完成两个探索后，重建长度增加1的新顶级推理路径。

问题：“姚明曾效力的NBA球队位于美国哪个州？”
关系探索后得到的路径(尾部是关系)：(姚明→曾效力于→休斯顿火箭队)→(休斯顿火箭队→位于→？)此时尾部关系是 “位于”，N=2，即计划保留2条路径。
搜索阶段：针对关系“位于”和头部实体“休斯顿火箭队”，从知识图谱中查询候选实体集：{休斯顿市、德克萨斯州、美国、北美大陆}。
剪枝阶段：LLM结合问题“位于美国哪个州”，判断“德克萨斯州”(直接对应“州”)和“美国”(虽不直接是州，但包含州)最相关，筛选出这2个实体。
结果：形成2条新的推理路径(每条路径增加1个完整三元组)：(姚明→曾效力于→休斯顿火箭队)→(休斯顿火箭队→位于→德克萨斯州)(姚明→曾效力于→休斯顿火箭队)→(休斯顿火箭队→位于→美国)

推理：LLM 评估当前推理路径是否足够回答问题。若足够，则生成答案；否则重复探索，直至达到最大深度或得出结论。若达到最大深度仍无结论，ToG仅依据LLM固有知识生成答案。
调用大模型次数：整个推理过程包含D个探索阶段、D个评估步骤和1个生成步骤，最多需要2ND(关系探索+实体探索)+D(评估)+1(生成)次调用LLM。

2.2 ToG-R核心步骤

初始化：给定问题后，ToG-R利用底层大语言模型定位知识图谱上推理路径的初始实体，即从问题中提取主题实体，以此作为推理的起点，形成初始关系链集合。与ToG不同，ToG-R探索的是由主题实体开始的前N个关系链，而非基于三元组的推理路径。
探索：

关系搜索：在第D次迭代开始时，根据第D-1次迭代的尾实体的链接，通过执行预定义的查询来获得关系候选集。接着，利用LLM从候选集中挑选出以某尾关系结束的top-N推理路径，完成关系剪枝，从而确定本轮迭代中较为重要的关系，为后续实体探索提供方向。

问题：“故宫的建造者是谁？”
当前推理路径：假设第1次迭代最终指向“故宫”，路径可能是“故宫→位于→北京”，尾实体为“故宫”。
搜索阶段：以尾实体“故宫”为起点，在知识图中查询所有直接关联的关系，得到候选关系集合：{“建造于”“建造者”“类型”“面积”“别称”}。
剪枝阶段：从候选集中挑出与“故宫的建造者是谁？”最相关的关系，保留前2条(N=2)路径。
结果：形成2条新的推理路径：(故宫→建造者)(故宫→建造于)

实体搜索：依据关系探索得到的新推理路径和尾部关系集，查询探索候选实体集并聚合。与ToG不同的是，ToG-R在此处不会利用LLM进行筛选，而是随机从候选集中采样N个实体，作为新的以特定尾部实体结尾的推理路径，这是ToG-R与ToG的主要区别之一，通过随机采样来简化流程，减少LLM的调用次数。

问题：“故宫的建造者是谁？”第2次迭代的“关系探索”已筛选出Top-2尾部关系：建造者和建造于(N=2，即保留2条路径)。
当前推理路径：假设第1次迭代最终指向“故宫”，路径可能是“故宫→位于→北京”，尾实体为“故宫”。
搜索阶段：根据“关系探索”得到的“尾部关系集”(建造者、建造于)，从知识图中查询每个关系对应的实体(即“关系的尾实体”)，并汇总成候选实体集。针对关系建造者：知识图中存在“故宫→建造者→朱棣”，因此候选实体为朱棣。针对关系建造于：知识图中存在“故宫→建造于→明朝”，因此候选实体为明朝。聚合后，候选实体集为：{朱棣, 明朝}。
随机采样阶段：由于候选实体集正好有2个实体(朱棣、明朝)，随机采样后保留这两个实体。
结果：形成2条新的推理路径：原路径(故宫)→建造者→朱棣(新尾实体：朱棣)原路径(故宫)→建造于→明朝(新尾实体：明朝)

推理：使用LLM评估当前推理路径是否包含足够信息回答问题。若足够，则直接基于当前路径生成答案；否则继续执行关系探索、实体探索和推理步骤，直至路径长度达到最大深度。若达到最大深度仍无法回答问题，则基于语言模型的固有知识生成答案。
调用大模型次数：相较于ToG，ToG-R最多需要调用ND+D+1次LLM。

三、优缺点及改进方向

3.1 优点

增强深度推理能力：ToG通过多跳推理路径，显著提升了LLM在复杂知识密集型任务中的表现。例如，在GraiQA和Zero-Shot RE数据集上，ToG的性能分别提升了51.8%和42.9%。
知识可追溯性：ToG提供了清晰的推理路径，使得推理过程可追溯、可解释，便于用户理解和修正错误，这种特性在需要高可信度的场景中尤为重要。
灵活性和效率：ToG是一个插件式框架，可以与多种LLM和知识图谱兼容。它还通过波束搜索和剪枝策略，减少了不必要的计算开销，提高了推理效率。
无需额外训练：ToG不需要对LLM进行额外的微调，即可在现有模型上部署，降低了部署成本。
提升性能：在多个基准数据集上，ToG的性能显著优于传统方法，如Chain-of-Thought和Self-Consistency等。例如在CWQ数据集上，ToG的表现比CoT提高了17.47%。

3.2 不足

计算成本较高：尽管ToG通过波束搜索和剪枝策略优化了效率，但其多跳推理过程仍然需要较高的计算资源。特别是在大规模知识图谱上，推理路径的生成和评估可能非常耗时。
知识图谱的不完整性：ToG的性能依赖于知识图谱的质量和完整性。如果知识图谱中存在缺失或错误的信息，可能会导致推理路径的偏差或错误。
对LLM的依赖性：ToG的性能在很大程度上依赖于LLM的推理能力。如果LLM本身存在局限性(如幻觉问题)，则ToG的输出也可能受到影响。
路径选择的不确定性：虽然ToG通过波束搜索生成多个推理路径，但最终答案的选择仍然依赖于评分模型。如果评分模型不够强大，可能会导致错误的答案被选中。

3.3 改进方向

优化评分模型：目前ToG使用的评分模型在某些情况下可能不够强大，导致错误的答案被选中。
引入外部反馈机制：ToG可以结合人工反馈或专家知识，进一步优化推理路径的选择。例如通过人工审核和修正知识图谱中的错误信息，可以提高推理的准确性和可信度。
扩展知识图谱的覆盖范围：ToG的性能受限于知识图谱的完整性。未来可以探索如何动态更新和扩展知识图谱，以覆盖更多领域和场景。
结合其他推理方法：ToG可以与其他推理方法(如Chain-of-Thought、Tree of Thoughts等)结合，形成更强大的推理框架。例如，ToG可以作为主推理引擎，而其他方法作为辅助工具，以提高推理的多样性和鲁棒性。
优化计算效率：ToG的多跳推理过程可能较为耗时。未来可以探索更高效的图搜索算法，如基于采样的方法或近似推理技术，以减少计算开销。

四、总结

ToG通过“LLM ⊗ KG”范式实现了LLM与KG的深度协同，提升了LLM的深度推理能力、可解释性和知识更新效率。其免训练、低成本、高性能的特点，为解决LLM幻觉问题和知识密集型任务提供了新方案。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述