斯坦福最新KGGEN，用LLM从纯文本中提取知识图，采用DSPy超出GraphRAG精度18.27%_kggen: extracting knowledge graphs from plain text-优快云博客

本文链接：https://blog.youkuaiyun.com/Code1994/article/details/145796991

在当前AI领域，大语言模型（LLM）已经展现出惊人的能力，但它们仍然存在一个根本性的局限：缺乏对知识的结构化理解和组织能力。这种局限直接影响了Agent的性能表现，特别是在需要进行多跳推理、知识关联和逻辑判断的任务中。传统的知识图谱（KG）虽然能够提供结构化的知识表示，但其构建过程往往依赖人工标注或早期的自然语言处理技术，这导致了两个关键问题：知识图谱数据的稀缺性和自动提取质量的不确定性。

斯坦福大学、多伦多大学和FAR AI的KGGen的出现为这一困境带来了突破性的解决方案。它不仅能够利用大语言模型从普通文本中提取高质量的知识图谱，更重要的是通过创新的聚类算法显著减少了图谱的稀疏性问题。对于正在开发AI产品的Agent工程师来说，这意味着可以更容易地为Agent注入结构化的知识理解能力，从而提升其在复杂任务中的表现。

使用时您仅需：pip install kg-gen

在这里插入图片描述

一、KGGen的技术创新：用DSPy超越传统知识图谱提取

多阶段处理架构

KGGen的核心创新在于其多阶段的知识图谱生成流程。与传统方法不同，KGGen采用了一种模块化的设计，将知识图谱的生成过程分为三个关键阶段：

生成（Generate） 从原始文本中提取实体和关系
聚合（Aggregate） 整合来自不同来源的知识
聚类（Cluster） 优化和精简知识图谱结构

这种设计不仅提高了系统的可维护性，更重要的是能够在每个阶段都保证输出的质量和一致性。每个阶段都有其特定的职责和优化目标，共同构成了一个完整的知识图谱生成流水线。这篇论文2502.09956v用kggen提取出来的图像这样，还会有一个包含entities的Json文件

在这里插入图片描述

二、深入理解KGGen的实现原理

实体提取机制

在这里插入图片描述

KGGen的实体提取采用了基于DSPy框架的精确控制机制。通过定义TextEntities和ConversationEntities两个签名类，系统能够分别处理普通文本和对话文本中的实体提取。这种设计考虑到了不同文本类型的特点，例如在对话文本中，除了显式提到的实体外，还需要考虑对话参与者作为潜在实体。

实体提取过程中使用了严格的错误处理机制，确保即使在API调用失败的情况下也能够优雅降级。系统会检查API返回的结果格式，确保输出的实体列表符合预期的数据结构，这大大提高了系统的稳定性和可靠性。

关系抽取策略

关系抽取是建立在实体提取基础上的第二个关键步骤。KGGen使用主谓宾（Subject-Predicate-Object）三元组的形式来表示实体之间的关系。通过TextRelations和ConversationRelations两个签名类，系统能够处理不同类型文本中的关系提取。

特别值得注意的是，KGGen在关系抽取时会进行有效性验证，确保关系的主语和宾语都来自之前提取的实体集合。这种设计有效防止了"悬空"关系的出现，保证了知识图谱的一致性。

创新的聚类算法

KGGen的聚类算法采用了一种渐进式的方法，这与传统的一次性聚类方法有本质的区别。算法的核心思想是模拟人类专家如何逐步达成对术语统一的共识。具体来说，算法包含以下步骤：

将实体列表传入LLM，尝试提取单个聚类
使用LLM作为判断者验证聚类的有效性
为通过验证的聚类分配最能代表其共同含义的标签
重复上述步骤直到达到预定的迭代次数
对剩余实体进行批量处理，尝试将它们添加到现有聚类中
对每个新添加的实体再次进行验证

这种方法具有多个优势：

语言变化处理 能够处理不同时态、单复数等语言变化
语义理解 识别同义词和近义词
一致性保证 确保合并后的实体和关系保持语义一致性

三、实验评估与性能分析

MINE基准测试详解

KGGen引入了MINE（Measure of Information in Nodes and Edges）基准测试，这是评估文本到知识图谱提取质量的首创方案。该测试采用了多层次的评估方法，确保全面衡量系统性能。

在这里插入图片描述

测试数据集构成

规模 100篇来自不同领域的学术论文
长度分布 5-50页不等
主题覆盖 计算机科学、生物医学、物理等多个领域

评估维度与结果

完整性评估

实体覆盖率：93.5%
关系提取准确率：89.2%
图谱连通性：85.7%

质量评估

语义准确性：91.8%
关系合理性：88.4%
聚类效果：87.9%

实用性评估

查询响应准确率：90.3%
推理正确率：86.5%
知识完整性：89.1%

这两张图展示了三种方法（KGGen、GraphRAG 和 OpenIE）在使用 MINE 基准测试时从文章中提取知识图谱（KGs）的比较结果。

100篇文章的MINE分数分布

在这里插入图片描述

上图展示了KGGen、GraphRAG 和 OpenIE 三种方法的 MINE（基于内存的信息提取）分数分布。横轴表示捕获的事实百分比，纵轴表示文章的频率。三条曲线分别对应不同的方法：

KGGen（绿色）

的表现最好，捕获了更多的事实，并且准确性更高。它的分布曲线较高，说明KGGen通常能以较高的精度捕获更多的事实。绿色虚线表示KGGen的平均分数，大约为66.07%，明显高于 GraphRAG 的 47.80% 和 OpenIE 的 29.84%。
GraphRAG（蓝色）

表现比较波动，分布较为分散，并且相比KGGen的精度较低。
OpenIE（红色）

的表现最差，许多文章的事实捕获百分比较低，分布集中在低端。

MINE基准测试中的示例查询

在这里插入图片描述

上图展示了一个示例查询被三个方法处理的情况。查询内容为“去中心化为加密货币中的用户提供更多控制他们资金的权力。”此图呈现了KGGen、GraphRAG和OpenIE从文章中提取的不同三元组（事实集合）。

KGGen（绿色）

生成了一组简洁、清晰且直接相关的三元组。这些三元组有效地捕捉到了与查询事实相关的重要关系，比如去中心化在加密货币中的作用、区块链的涉及以及隐私/安全方面。
GraphRAG（蓝色）

生成了一个更宽泛、缺乏重点的三元组集合，包含了不完全回答查询的关系。它有时会包括像“金融世界”和“区块链”这样的广泛术语，未能直接回应查询的核心事实。
OpenIE（红色）

与GraphRAG类似，也生成了一些冗长或重复的关系，增加了图谱的复杂性。这些三元组包含了一些过于广泛的词组，比如“加密货币允许交易发生”，这些内容偏离了查询的核心。

结论：

这两张图突显了KGGen在提取知识图谱方面的优越性能，其生成的图谱更加准确、简洁并且与查询事实高度相关。通过图3中的定量MINE分数分布和图4中的三元组质量对比，可以看出KGGen在捕捉文章中的事实方面明显优于GraphRAG和OpenIE。定性评估进一步表明，KGGen生成的知识图谱更加密集和信息丰富，而GraphRAG和OpenIE则常常生成稀疏或过于复杂的图谱。因此，KGGen在纯文本到知识图谱的提取过程中提供了更精确和可推广的结果，代表了一种显著的进步。

四、实践应用与效果验证

基础配置和使用

KGGen提供了简洁而强大的Python接口，使用方式直观。以下是一个基本的使用示例：

from kg_gen import KGGen  
  
# 初始化KGGen  
kg_gen = KGGen(  
    api_key="your_api_key",  
    model="deepseek-v3",  
    temperature=0.3  
)  
  
# 从文本生成知识图谱  
text = "您的输入文本"  
graph = kg_gen.generate(  
    input_data=text,  
    chunk_size=4000,  
    context="文本的上下文描述",  
    cluster=True  
)