PathMind: A Retrieve-Prioritize-Reason Framework for Knowledge Graph Reasoning with Large Languag...

文章总结与翻译

一、主要内容

本文针对现有基于大型语言模型（LLMs）的知识图谱推理（KGR）方法存在的缺陷，提出了名为PathMind的新型框架。该框架遵循“检索-优先排序-推理”（Retrieve-Prioritize-Reason）范式，核心目标是通过筛选重要推理路径引导LLMs，实现更可靠、可解释的知识图谱推理。

核心模块

1. 子图检索模块：从知识图谱中提取与查询相关的子图（基于主题实体的k跳邻域），并利用图神经网络（GNN）学习节点和关系的表示，减少搜索空间同时保留关键信息。
2. 路径优先排序模块：受A*算法启发，设计语义感知的路径优先级函数，综合考虑“累积成本”（从查询到当前实体的语义距离）和“预估未来成本”（当前实体到目标答案的剩余语义距离），筛选出对推理至关重要的路径，避免无关噪声干扰。
3. 知识推理模块：通过双阶段训练策略优化LLMs——首先进行任务特定的指令微调（SFT），提升模型对推理任务的理解；再通过路径偏好对齐（DPO），使模型向更优推理路径对齐，无需频繁调用LLMs即可生成准确且逻辑一致的结果。

实验验证

在WebQSP和CWQ两个基准数据集上的实验表明，PathMind在Hits@1和F1指标上显著优于传统KGR方法和现有LLM-based方法，尤其在多跳复杂推理任务中表现突出，且输入tokens更少、效率更高，同时具备良好的跨LLM泛化性（适配Llama