[笔记.AI]KAG（知识增强生成 Knowledge Augmented Generation）

最新推荐文章于 2025-05-27 21:03:26 发布
最新推荐文章于 2025-05-27 21:03:26 发布
阅读量883 收藏 17
点赞数 6
CC 4.0 BY-SA版权
分类专栏： 由AI辅助创作 AI 技术理解 文章标签： 笔记 人工智能 KAG RAG 知识图谱
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/debug_fan/article/details/146213644

（下面文字主要借助 Grok 3 协助生成） 

        KAG（知识增强生成）技术是 AI 应用中的一项创新框架，特别适用于需要高准确性和领域特定知识的场景。本报告将深入探讨 KAG 的定义、组件、工作原理、应用场景、优势与挑战，并与相关技术如 RAG 进行比较。

KAG 的定义与背景

        KAG 被定义为一种结合大型语言模型（LLM）与知识图谱的框架，旨在通过结构化知识增强生成内容的准确性和相关性。根据 What is Knowledge Augmented Generation? 的内容，KAG 整合了知识图谱的推理能力与 LLM 的语言生成灵活性，为专业领域（如医疗、法律和政府服务）提供了新的可能性。另一研究 KAG: Boosting LLMs in Professional Domains via Knowledge Augmented Generation 进一步强调了 KAG 在专业领域的应用潜力，特别是在处理复杂查询时。

知识图谱是一种结构化知识表示，包含实体及其关系，为 KAG 提供了可靠的外部知识源。相比之下，传统 LLM 依赖预训练数据，可能面临知识过时或缺乏领域深度的风险，KAG 通过动态引入知识图谱信息弥补这一不足。

知识图谱基础介绍

        知识图谱是一种结构化知识表示，包含实体及其关系，组织成图的形式，便于查询和推理。例如，在医疗领域，知识图谱可能包括疾病、症状和治疗方法的关系。知识图谱的核心组件包括：

  • 节点：代表实体，如“心脏病”或“胸痛”。

  • 边：代表实体之间的关系，如“心脏病导致胸痛”。

  • 属性：描述节点的特征，如“心脏病的常见年龄段”。

知识图谱支持复杂推理，特别适合需要逻辑关系的领域。根据 Knowledge graph - Wikipedia，知识图谱允许灵活的关系定义，覆盖各种主题领域，支持从不同数据源集成信息。

KAG 的组件与工作原理

KAG 的系统通常包括以下几个核心组件：

  • 知识图谱：结构化知识库，包含领域特定的实体和关系。例如，在医疗领域，知识图谱可能包括疾病、症状和治疗方法的关系。

  • 检索机制：根据用户查询，从知识图谱中提取相关信息。这一步骤确保生成过程能够访问最新的领域知识。

  • 生成组件：LLM 负责基于检索到的知识生成响应，确保输出既流畅又准确。

工作流程如下：

  1. 用户输入查询，例如“心脏病的主要症状是什么？”。

  2. 检索机制从知识图谱中提取相关子图，如“心脏病→胸痛→常见症状”。

  3. 检索到的知识以上下文形式提供给 LLM。

  4. LLM 生成响应，例如“心脏病的主要症状包括胸痛、呼吸困难等”。

        这一过程与 RAG 类似，但 KAG 更专注于知识图谱的结构化数据，而 RAG 可能使用文本文档或其他非结构化数据。根据 Knowledge Graph Augmented Language Models for Knowledge-Grounded Dialogue Generation，KAG 通过检索知识图谱的子图，确保生成的对话内容更具逻辑性和上下文相关性。这使得 KAG 在专业领域更具优势，尤其是在需要结构化推理的场景中。

应用场景与性能指标

        KAG 在多个专业领域展现了显著优势。根据 What is Knowledge Augmented Generation?，以下是 KAG 的一些典型应用及其性能：

应用场景

详情

性能指标

E-Government

基于 11,000 份政府服务文档，处理服务方法、材料、资格和地点查询

精确率 91.6%，召回率 71.8%

E-Health

知识库包含 180 万实体和 500 万关系，管理疾病、症状、疫苗和保险查询

科普查询准确率 >94%，指标解释准确率 93%

2WikiMultiHopQA

多跳问答任务

F1 分数提升 19.1%

这些指标表明，KAG 在处理复杂、领域特定的查询时表现优异，尤其是在需要多步推理的场景中。

优势与挑战

KAG 的主要优势包括：

  • 提高准确性：通过知识图谱减少生成内容的错误和幻觉（hallucination）。

  • 领域适应性：特别适合医疗、法律等需要精确知识的领域。

  • 增强推理能力：结构化知识支持更复杂的逻辑推理。

然而，实施 KAG 也面临挑战：

  • 知识图谱构建：创建全面且准确的知识图谱需要大量资源和时间。

  • 检索效率：确保实时应用中的检索机制高效运行。

  • 集成复杂性：需要设计有效的机制将知识图谱与 LLM 整合。

  • 计算成本：融合知识的过程可能增加资源消耗，如多次 LLM 调用和令牌生成。

  • 维护难度：在快速变化的领域（如医疗），知识图谱需要定期更新。

KAG 与 RAG 的比较

        KAG 与 RAG（检索增强生成）有相似之处，但也有显著区别。RAG 是一种更广义的框架，可以使用任何外部知识源（如文本文档、数据库）来增强生成，而 KAG 特别专注于知识图谱。根据 Knowledge Graph Augmented Language Models for Knowledge-Grounded Dialogue Generation，KAG 通过检索知识图谱的子图，确保生成的对话内容更具逻辑性和上下文相关性。这使得 KAG 在专业领域更具优势，尤其是在需要结构化推理的场景中。

        从技术角度看，KAG 解决了 RAG 的局限性，如向量相似性差距、对知识逻辑（如数值、时间关系、专家规则）的敏感性不足。根据 KAG: Boosting LLMs in Professional Domains via Knowledge Augmented Generation，KAG 通过以下五个方面增强 LLM 和 KG 的双向能力：

  1. LLM 友好的知识表示框架（LLMFriSPG），支持无模式和有模式知识。

  2. 知识图谱与文本块之间的互索引。

  3. 逻辑形式引导的混合推理引擎，整合规划、推理和检索操作。

  4. 通过语义推理进行知识对齐，增强索引和检索。

  5. KAG 模型增强 NLU、NLI 和 NLG 能力。

        实验结果显示，KAG 在多跳 QA 任务上优于 RAG 方法，如 HotpotQA F1 提升 12.5%，2WikiMultihopQA F1 提升 19.1%，MuSiQue F1 提升 12.2%，检索 Recall@5 分别为 88.8%、91.9% 和 65.7%。

开发建议

对于开发者，实施 KAG 需要注意以下几点：

  • 工具选择：可以使用开源框架如 Haystack 或 LangChain 快速构建 KAG 原型。

  • 知识源：根据应用需求选择合适的知识图谱，例如医疗领域的标准知识库或政府服务的文档集。

  • 评估指标：关注生成内容的准确性（factual accuracy）、相关性（relevance）和流畅性（fluency），并通过用户反馈迭代优化。

  • 未来趋势：随着 RAG 等技术的成熟，KAG 可能进一步发展为多模态融合，例如结合图像或音频中的知识。

小结

        KAG 技术为 AI 应用提供了强大的工具，通过结合 LLM 和知识图谱，确保生成内容在专业领域中准确且相关。尽管面临构建和维护的挑战，其在 E-Health、E-Government 等领域的应用前景广阔。开发者可以通过理解 KAG 的工作原理和最佳实践，创建更可靠、更智能的 AI 系统。

关键引文

知识增强图（KAG）在LLM检索中的应用
llm_way的博客
01-03 1556
KAG 即知识增强图（Knowledge - augmented Graph），它将大语言模型与结构化的知识图谱深度整合，旨在实现专业领域中的逻辑推理和问答功能。KAG 构建于 OpenSPG 引擎之上，这一引擎是创建和管理知识图谱的框架，就如同一张庞大且详尽的信息地图，能够将原始数据转化为有用的知识，支持知识图谱的持续更新和完善，并将大数据与人工智能系统相连接，以解决复杂的实际问题。OpenSPG 的灵活性使其可以根据不同行业和需求进行定制化调整，为 KAG 的强大功能提供了坚实基础。
论文阅读：KAG: Boosting LLMs in Professional Domains via Knowledge Augmented Generation
weixin_57128596的博客
01-15 1475
作者构建了一个含有8000个知识内容的知识集，并拆分成了六个不同类别的数据集，评估了推理效果，指标为ACC和R1（衡量输出和参考答案的相关性）对实体进行标准化的目的类似于：在某个时间点，某种年龄和某种性别的人并发症状可能比较明显，因此我们可以利用实时的外部知识去丰富实体的属性内容。我的想法是将余弦相似度与KL散度，然后利用词典对句子分词，捕获谓语动词评价其词汇的情感，将三者综合起来作为句子与句子之间的相似度。一个具体的人，做了具体的事，怎么样做的。**过程：**结构化信息获取、知识对齐、存储。
RAG和KAG的区别
人生一张西的博客
04-18 721
RAG（Retrieval-Augmented Generation，检索增强生成）和 KAG（Knowledge-Augmented Generation，知识增强生成）都是用于增强生成模型能力的框架，但它们在多个方面存在区别，以下是具体介绍： 原理与知识处理方式 RAG ：基于检索和生成的结合，用户查询经检索系统处理后，从外部知识源检索相关文档或段落，再将这些作为上下文输入生成模型，生成相关回复。 KAG ：将结构化知识图谱或外部知识库直接纳入模型架构，先接收文档、数据等并分解成片段，识别重要信息构建知
AI大模型入门：RAG vs. KAG
最新发布
weixin_58753619的博客
05-27 783
KAG （Knowledge Augmented Generation， 知识增强生成**）是基于OpenSPG 引擎和大型语言模型的逻辑推理问答框架，用于构建垂直领域知识库的逻辑推理问答解决方案。
KAG：通过知识增强生成提升专业领域的大型语言模型（四）
qq_60040306的博客
05-11 948
本周对KAG-solver中的知识层次结构和检索策略执行器的代码进行了解读，涵盖了多个组件的配置和实现。知识层次结构分为知识层（KG_cs）、图信息层（KG_fr）和原始块层（RC），三种层次结构用于不同情况的信息检索，检索准确性和逻辑严密程度依次下降，检索效率依次上升。知识合并器用于合并三种层次的知识信息，以方便检索器的检索。检索器除了在三种层次进行混合检索外，还可以进行推理检索执行和基于python的数学执行，并将输出结果转换为用户友好型的输出格式。
KAG：通过知识增强生成提升专业领域的大型语言模型（二）
qq_60040306的博客
04-27 1282
本周继续学习KAG的实验结果部分、完成对KAG的安装部署，还有对KAG代码框架的理解。首先，介绍了KAG框架在知识密集型问答任务中的应用和性能评估。KAG通过多步检索、知识对齐和逻辑形式求解等策略，提升了问答系统在多跳问答数据集上的表现。消融研究进一步探讨了知识图谱索引和推理与检索策略对性能的影响，证明了知识对齐和逻辑形式求解器的有效性。然后，完成了包括KAG可视化界面和KAG开发者模式的安装部署，有Docker部署服务、构建和管理私域知识库以及进行推理问答的步骤。详细了解了KAG代码框架和实现过程。
知识增强式生成KAG
weixin_41496173的博客
12-25 1354
随着人工智能技术的不断发展，尤其是在自然语言处理领域，知识增强式生成（KAG）作为一种新兴的技术框架，正逐步脱颖而出。与其前身——检索增强式生成（RAG）相比，KAG在处理特定领域知识、推理能力和信息检索的准确性方面展现出了更强的能力。在本文中，我们将深入探讨KAG的核心原理及其相对于RAG的优势，帮助开发者更好地理解这一技术，并应用于大语言模型的问答系统中。
AI 知识库的 O1 时刻！蚂蚁KAG或将取代RAG【含喂饭级教程】
m0_59235245的博客
01-30 6580
KAG（Knowledge Augmented Generation）是一个基于OpenSPG引擎和大型语言模型（LLM）的推理问答框架，旨在通过结合知识图谱和向量检索的优势，提供更加严谨的决策支持和信息检索服务。KAG通过四个关键方面来增强LLM和知识图谱1.对LLM友好的知识表示；2.知识图谱与原文片段之间的互索引；3.逻辑形式引导的混合推理引擎；4.以及与语义推理的知识对齐。简单来说，KAG就是通过创新技术，更好的融合了知识图谱和向量检索诞生的一个知识库框架。
通过将RAG与知识图谱相结合的知识增强生成（KAG）
小哲的博客
04-10 1754
知识增强型生成（Knowledge Augmented Generation，简称KAG）的出现标志着人工智能领域的一个关键进步，特别是在提升大语言模型（Large Language Models，简称LLMs）的能力方面。KAG将知识图谱（Knowledge Graphs，简称KGs）的结构化推理能力与语言模型的通用性相结合，形成一个能够产生连贯、逻辑且符合特定领域的输出的框架。这一创新在医疗保健、法律和行政服务等专业领域尤其有价值，在这些领域中，精确性和上下文理解至关重要。
RAG与KAG：GenAI知识增强生成的比较和差异
小哲的博客
04-09 1023
RAG，或检索增强生成（Retrieval-Augmented Generation），是一种结合了检索和基于生成模型的框架。它已成为生成式人工智能最重要的应用之一，将外部文档（PDF、视频等）与LLM连接起来用于问答案例。检索：查询通过一个检索系统，从外部知识源中检索相关文档或段落。生成：这些检索到的段落作为上下文被整合进一个生成模型（如GPT-4或Gemini），然后该模型综合信息以生成相关的答案。它的应用多种多样，从回答开放域查询或需要访问最新或特定领域信息的聊天机器人到定制搜索引擎。
基于 RAG（检索增强生成）、KAG（知识感知生成）和 CoT（链式思维）的生成式语言模型驱动推荐系统
weixin_41046245的博客
11-18 1287
通过细化 RAG、KAG 和 CoT 模块，并结合多维度特征（如相似购物习惯人群购物趋势等），可以构建一个高度个性化、可解释且动态适应的生成式语言模型驱动推荐系统。该系统不仅能够提供精准的推荐，还能通过自然语言解释增强用户信任，适用于电商、内容推荐和社交媒体等多个应用场景。通过系统化的设计、优化和持续迭代，能够满足不断变化的用户需求，提升整体用户体验和业务指标。
2025年开源RAG最佳选择：浙大与蚂蚁的 KAG 技术突破
2401_85373898的博客
01-04 4684
浙江大学与蚂蚁集团推出的知识增强生成（KAG）框架，旨在解决传统检索增强生成（RAG）方法在多跳推理和复杂逻辑处理中的不足。KAG通过结合知识图谱（KGs）和创新技术，显著提升了大语言模型在专业领域问答中的准确性和效率。LLM友好的知识表示：通过层次化的知识组织，使大语言模型更适应专业领域的知识处理。知识图谱与文本块互索引：提高了数据检索的精确度和效率，增强了知识的整合能力。逻辑形式引导推理：结合语言推理与符号推理，支持复杂的多轮推理和问题求解。知识对齐与语义推理。
KAG 技术与实践分享｜基于 KAG 框架自主完成领域图谱构建和知识问答
金融机器智能社区
12-02 3987
检索增强生成（RAG）技术推动了领域应用与大模型结合。然而，RAG 存在着向量相似度与知识推理相关性差距大、对知识逻辑（如数值、时间关系、专家规则等）不敏感等问题，这些都阻碍了专业知识服务的落地。10 月 24 日，OpenSPG 发布 V0.5 版本，正式发布了知识增强生成（KAG）的专业领域知识服务框架。KAG 旨在充分利用知识图谱和向量检索的优势，并通过四个方面双向增强大型语言模型和知识图谱，以解决 RAG 挑战：(1) 对 LLM 友好的知识表示(2) 知识图谱与原文片段之间的互索引。
KAG开源了，知识增强掀翻RAG，性能翻倍
2401_84208172的博客
10-29 1604
LLMFriSPG定义了一个数据结构M，包括实体类型（T）、概念类型（C）、归纳关系（ρ）和可执行规则（L）。实体类型包括预定义的属性，这些属性与LPG语法声明兼容。概念类型包括概念类、概念及其关系，每个概念树的根节点是一个与LPG语法兼容的概念类型类。
KAG知识增强生成框架
weixin_43156294的博客
02-13 811
KAG（Knowledge Augmented Generation）是蚂蚁集团开源的一款知识增强生成框架。基于OpenSPG引擎和大型语言模型，设计了逻辑符号引导的混合推理引擎，将自然语言问题转化为结合语言和符号的问题求解过程，集成了图谱推理、逻辑计算、chunk检索、llm推理四种问题求解过程。用于为专业领域知识库构建逻辑推理和事实性问答解决方案。它能有效克服传统 RAG（检索增强生成）向量相似度计算模型的缺点。通过知识图谱与原始文本块的互索引，能清晰展示知识来源与关联。
私有化部署 Llama3 大模型, 支持 API 访问
chenxyuan1tuo的博客
06-18 1416
原文 https://ducafecat.com/blog/llama3-model-api-local通过 ollama 本地运行 Llama3 大模型其实对我们开发来说很有意义，你可以私有化放服务上了。然后通过 api 访问，来处理我们的业务，比如翻译多语言、总结文章、提取关键字等等。你也可以安装 enchanted 客户端去直接访问这个服务 api 使用。
KAG：增强 LLM 的专业能力！蚂蚁集团推出专业领域知识增强框架，支持逻辑推理和多跳问答
士多啤梨先生の博客
01-07 868
KAG 是蚂蚁集团推出的专业领域知识服务框架，通过知识增强提升大型语言模型在特定领域的问答性能，支持逻辑推理和多跳事实问答，显著提升推理和问答的准确性和效率。
KAG如何知识抽取
05-24
### KAG 知识抽取的方法与工具 #### 方法概述 KAG 的知识抽取方法主要依赖于其独特的 LLMFriSPG 框架，该框架能够有效处理多种类型的数据源。具体来说，它通过布局分析、知识抽取、属性规范化和语义对齐等技术来整合原始业务数据和专家规则[^1]。这些技术不仅提高了知识的准确性，还增强了不同来源数据之间的一致性。 为了进一步提升知识抽取的效果，KAG 借助了 Few-shot Learning 技术。这种方法允许模型在仅有少量标注样本的情况下学习新的任务。例如，在实际操作中可以通过预定义示例数据（如 实体A -> 属性 -> 实体B），并设计清晰的模板提示词（Prompt）来进行结构化知识点的提取[^2]。 此外，大模型的强大能力使得其实现了对传统 NLP 算法的部分替代。特别是在实体关系抽取方面，大模型表现出显著的优势，并能挖掘出一些隐藏在长尾分布中的小众知识[^4]。 #### 工具实现 KAG 提供了一系列工具用于支持上述方法的实际落地。以下是几个关键组件： 1. **知识表示框架 (LLMFriSPG)** 此框架作为核心部分负责将各种形态的数据映射成适合大型语言模型理解的形式。通过对 DIKW 层次结构的应用，它可以更好地捕捉从数据到智慧的不同层面信息[^1]。 2. **Few-shot 学习模块** 利用这一模块可以快速适应新领域内的知识抽取需求。用户只需提供少量样例即可让系统学会如何识别目标类型的实体及其关系[^2]。 3. **互索引机制** 图结构与原始文本块间的互索引表示极大地方便了后续基于图结构的操作，比如构建倒排索引或者执行复杂推理任务等。这种设计也促进了整体系统的性能优化。 4. **噪声降低策略** 通过引入先进的知识理解和语义对齐技术，减少了因错误解析而导致的知识偏差问题，从而提升了最终输出的质量[^1]。 5. **召回方式选型工具** 用户可以根据具体的场景选择合适的召回方案，包括但不限于 Text2GQL 转换器、SubGraph RAG 查询引擎以及 Chain of Exploration 探索链条等等[^3]。 #### 示例代码片段 下面展示了一个简单的 Python 函数用来模拟调用外部 API 来获取三元组的过程： ```python def extract_knowledge(prompt, model="gpt-3"): import openai response = openai.Completion.create( engine=model, prompt=prompt, max_tokens=100 ) return response.choices[0].text.strip() example_prompt = "Entity A has attribute X which relates to Entity B." knowledge_triple = extract_knowledge(example_prompt) print(knowledge_triple) ``` 此函数展示了如何利用 OpenAI 的 GPT 系列模型完成基本的关系抽取工作流。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

俊哥V

这是个嘛？

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值