准确率90%+！聊聊RAG的取代技术KAG，收藏这一篇就够了！！

本文链接：https://blog.youkuaiyun.com/2401_85327249/article/details/146522075

前言

AI应用最害怕的就是模型幻觉，同一个问题收到不同的回答是令人绝望的事情，想象一下：

你如果是一个患者，同一个问题，医生给了你两个回答，你慌不慌？
你如果是一个律师，同一个问题，律师给了你完全不同的结果，你怕不怕？

现阶段做AI应用来说，想解决不光是模型问题，还想让AI回答得更好，而回答得更好，就需要借助外部知识库，从而诞生了RAG这个技术。

RAG是一个融合了基于检索和基于生成模型优势的框架。

它会从知识库中检索相关的外部信息（通常是文档或段落），并依据这些信息，组装提示词，而后模型会针对用户的查询生成更精准、上下文更丰富的回答。

其工作工程如下，首先是传统流程：

问题：“在美国，什么是房东和租户之间的法律义务？”
提示词：

你是一个资深律师，现在有用户问你法律问题，请你解答。

当前用户的问题是：

在美国，什么是房东和租户之间的法律义务？

结果：“在美国，房东和租户之间的法律义务包括租金支付、物业维护、终止合同和保证房产安全。然而，具体的法律义务因州而异，租户和房东必须遵守当地的法规。”

这里可能的问题：

缺乏具体的法律依据。
没有提到具体的条文或具体州的法律规定，可能会给用户带来误导，尤其是在需要明确法律依据时。

其次是RAG流程，主要看提示词的变化：

你是一个资深律师，现在有用户问你法律问题，请你解答。

当前用户的问题是：

在美国，什么是房东和租户之间的法律义务？

以下是检索到的相关法律条文和案例，帮助你回答用户问题：

根据《美国统一住宅租赁法》第504条，房东有责任确保租赁物业保持适宜的居住条件，并进行必要的维修和保养。
根据《加利福尼亚州民法典》第1941.1条，房东必须确保租赁物业提供安全的居住环境，包括处理供水、供暖等系统问题。
《纽约州租赁法》第227条规定，房东有义务确保物业符合当地建筑标准，并为租户提供安全的居住条件。
美国法院在多个案例中判定，房东未能履行上述义务时，租户有权要求赔偿，包括但不限于租金减免或搬迁费用。

请根据以上法律条文与案例回答用户的问题。

于是答案是：

根据《美国统一住宅租赁法》第504条，房东有责任确保租赁物业保持适宜的居住条件，并负责进行维修和保养。此外，在加利福尼亚州，根据《加利福尼亚州民法典》第1941.1条，房东必须确保租赁物业提供安全的居住环境，包括处理供水和供暖等系统问题。如果房东未履行这些义务，租户可以根据法律要求赔偿。此外，依据《纽约州租赁法》第227条，房东还需确保物业符合当地建筑标准，并为租户提供安全的居住条件。在多个法院判例中，房东未能履行上述责任时，租户有权要求赔偿，包括租金减免或搬迁费用等。

在这个基础上，用户会认为答案更为靠谱，因为相关的权威条款、信息来源全部被带出来了。

RAG是非常好的解决模型幻觉框架，并且能显著提升模型回答质量，但在实际使用过程中，会发现他对模型不太友好，因为他只能提供数据片段，而不能提供数据+逻辑。

其实这本身不是什么问题，只需要在RAG上叠加工程能力，让他具备逻辑能力即可，其核心在于AI应用基于的知识库本身结构化程度。

基于此，业内提出了一套新的框架KAG（Knowledge Augmented Generation）知识增强生成，想要去解决RAG的一些缺陷，今天我们就主要介绍这是什么东西。

RAG的缺陷

因为RAG 存在着向量相似度与知识推理相关性差距大、对知识逻辑（如数值、时间关系、专家规则等）不敏感等问题，这些缺陷阻碍了专业知识服务的落地。

这里大家可能不太了解是什么，举个例子：

假设你正在开发一个医学知识服务系统，用户输入一个病症的描述，系统需要根据病历数据提供相关的诊断信息。

假设用户输入的是：“病人出现反复头痛、恶心和呕吐，体检发现血压升高。”

RAG模型首先会从知识库中检索出一些相似的病例和可能的诊断。

这时，模型可能会检索到与“高血压”相关的病例，但是未必能从这些检索到的信息中得出合适的诊断，因为这个问题涉及到多个病理因素（如血压、神经系统异常等）的关联。

输入提示词：“病人头痛、恶心、呕吐，血压升高，可能的诊断”

检索库：症状、疾病、诊断记录

生成模型输出：可能检索到“高血压”和“头痛”相关的疾病，但缺乏深度推理，可能忽略了“神经系统异常”这个关键点。

为了解决这个问题，我们需要本地知识库本身具备逻辑性及关联性（也就是更加结构化）。

比如这里的头痛与高血压会被明确关联，并且每个症状或疾病的相关因素（如“神经系统异常”）也可以作为附加信息在图谱中关联起来。

在使用RAG时，除了只检索知识片段信息，还要增加推理逻辑，例如，使用基于规则的推理系统或者推理层来增强模型的推理能力。

比如：检索到“头痛”和“高血压”时，推理系统可以进一步检查是否存在“神经系统异常”的可能性，或者推理是否存在其他潜在的关联（如“脑部问题”）。

推理引擎可以分析相关的病理信息，自动推理出潜在的因果关系，避免漏掉“神经系统异常”等关键点。

以下是完整的案例：

输入提示词：病人头痛、恶心、呕吐、血压升高。

检索库：症状与疾病的知识图谱。

检索出与“头痛”和“高血压”相关的疾病。

发现与“高血压”相关的并发症，如“脑部异常”，并自动标记“神经系统异常”作为潜在问题。

推理引擎激活：

推理系统检查“头痛”和“高血压”的组合，发现此组合可能会引发神经系统异常，进一步推理出“脑卒中”或“颅内压增高”等疾病可能性。

生成模型：

结合检索到的信息和推理引擎的结论，生成模型输出：“病人可能存在高血压导致的头痛，建议进行脑部CT检查以排除神经系统异常。”

以上就是通过行业KnowHow与工程能力，对RAG技术进行了进一步保证达到的效果，可以看出他和现在DeepSeek的think功能很类似的。

在这个基础下，我们再看看阿里这边推出的KAG框架。