Agentic RAG：对标准RAG(增强检索生成系统)的能力增强

Agentic RAG 是一种基于 AI Agent的 RAG 实现。

具体而言，它将AI Agent纳入 RAG 流程中，以协调其组件并执行超越简单信息检索和生成的额外操作，以克服RAG基本流程的局限性。

这种从“工具”到“智能体”的转变，提升了RAG系统的处理能力

---

在生成式AI的应用中，大语言模型（LLM）的“幻觉问题”始终是制约其落地的核心障碍。

传统检索增强生成（RAG）通过引入外部知识库缓解了这一矛盾，但其线性流程（检索→生成）在面对复杂任务时仍显不足。

例如，当用户提问“如何选择一款适合家庭使用的空气净化器？”时，传统RAG往往只能返回零散的产品选购建议，而无法系统性整合“核心性能指标”、“用户评价与口碑”、“不同品牌的性价比”等细节。

Agentic RAG与传统RAG的被动响应不同，Agentic RAG更像一个“项目经理”，能够自主优化问题、动态规划检索路径，并通过多轮验证优化输出结果。这种从“工具”到“智能体”的转变，大大提升了系统的处理能力。

一、基本概念

1.1 什么是Retrieval-Augmented Generation (RAG)

一个简单的 RAG 由一个检索组件（通常由嵌入模型和向量数据库组成）和一个生成组件（一个LLM）构成。

在推理时，用户查询的问题在索引文档中进行相似性搜索，检索出与问题最相似的文档，并为LLM提供额外的上下文。

它通过整合外部知识源来增强传统的大语言模型 (LLM)，使LLM能够访问和利用除初始训练数据之外的其他大量信息。

可以将 RAG 想象为一位学者，除了拥有自己的知识外，还可以即时访问到一座全面的图书馆。

典型的 RAG 应用有两个显著的局限性

1. 简单的 RAG 仅考虑一个外部知识源。然而，一些场景可能需要多个外部知识源，而另一些场景可能需要外部工具和 API，例如网络搜索。

2. 上下文只被检索一次。对于检索到的上下文的质量没有推理或验证。

1.2 什么是Agent

AI Agent，即人工智能代理，一般直接叫做智能体。在是一种能够感知环境、做出决策并采取行动的系统。

这些系统能够执行被动的任务，也能够主动寻找解决问题的方法，适应环境的变化，并在没有人类直接干预的情况下做出决策。

Agent的核心组成部分是：

• 模型

  在Agent的范畴内，模型指的是Agent流程中集中决策者的语言模型（LLM）。

• 记忆

  包含短期记忆和长期记忆两部分。短期记忆与上下文学习有关，属于提示工程的一部分，而长期记忆涉及信息的长时间保留和检索，通常利用外部向量存储和快速检索。

• 规划

  Agent需要具备规划(同时也包含决策)能力，以有效地执行复杂任务。这涉及子目标的分解(Subgoal Decomposition)、连续的思考(即思维链)、自我反思和批评(Self-critics)，以及对过去行动的反思(Reflection)

• 工具

  Agent 可能调用的各种工具，如日历、计算器、代码解释器和搜索功能等

1.3 什么是Agentic RAG

Agentic RAG 是一种基于 AI Agent的 RAG 实现。

具体而言，它将AI Agent纳入 RAG 流程中，以协调其组件并执行超越简单信息检索和生成的额外操作，以克服RAG基本流程的局限性。

RAG Agent可以在以下示例检索场景中进行推理和行动：

1. 决定是否检索信息
2. 决定使用哪个工具来检索相关信息
3. 优化查询问题
4. 评估检索到的上下文，并决定是否需要重新检索。

1.4 Agentic RAG 和 RAG 区别

尽管 RAG（发送查询、检索信息和生成响应）的基本概念保持不变，但工具的使用使其更加通用，从而变得更加灵活和强大。

1.4.1 传统RAG的核心机制

• 流程固定：用户提问 → 单次检索外部数据 → 生成回答。
• 被动响应：基于当前查询直接检索，生成一次性结果。
• 适用场景：简单问答、事实性查询（如“太阳系有多少行星？”）。

1.4.2 Agentic RAG的创新点

自主决策与动态流程：

• 任务优化和分解：对用户问题进行优化或将复杂问题拆解为子任务（如“比较A和B”分解为检索A、检索B、对比分析）。
• 多步交互：多次检索与生成循环，逐步优化结果（如先查定义，再查应用，最后整合）。
• 动态调整：根据生成内容或用户反馈调整检索策略（如补充遗漏的信息源）。

主动性与智能体特性：

• 规划模块：决定何时检索、如何分解问题。

• 自我评估：检查答案完整性，触发二次检索或修正（如发现数据冲突时重新验证）。

交互与反馈：

• 多轮对话：支持上下文感知的持续交互（如追问、澄清需求）。

• 用户反馈利用：根据用户修正（如“我需要更多细节”）优化后续步骤。

二、核心架构

2.1 Agentic RAG 架构

在最基本的形式中，Agent是一个路由的作用。Agent决定从哪个来源检索额外的上下文。外部知识来源于（向量）数据库或其他渠道。

在更复杂的场景中，多智能体系统发挥作用。这些架构涉及多个智能体协同工作，每个智能体专注于特定的任务或数据源。

2.2 Agentic RAG的实现思路

基本的Agentic RAG的核心架构主要由规划模块、执行模块两个基本模块组成。

这些模块通过动态协作，实现了从任务优化到结果生成的全流程自动化。

2.2.1 规划模块：任务优化与决策

规划模块是Agentic RAG的“大脑”，负责将用户查询的问题进行优化，或将复杂的问题拆解为可执行的子任务。其核心功能包括意图识别和任务优化。

例如，当用户提问“如何选择一款适合家庭使用的空气净化器？”时，规划模块会首先识别问题的核心需求（如“产品选购建议”），然后生成一系列子任务，如“检索空气净化器的核心性能指标”、“查找用户评价与口碑”、“分析不同品牌的性价比”等。

2.2.2 执行模块：知识检索与生成优化

执行模块是Agentic RAG的“双手”，负责完成具体的检索与生成任务。

其中生成优化是执行模块的关键功能。传统RAG的生成过程往往是一次性的，而Agentic RAG则引入了多轮生成与修正机制。

例如，当系统检测到生成内容中存在低可信度声明时，会自动触发修正检索，补充缺失信息或修正错误内容。

三、技术实现

完整的状态图：

# 定义新的工作流
workflow = StateGraph(AgentState)  # 使用AgentState作为状态类型

# 定义工作流中的节点 
workflow.add_node("agent", agent)  # 添加智能体节点
retrieve = ToolNode([retriever_tool])  # 创建检索工具节点
workflow.add_node("retrieve", retrieve)  # 添加检索节点
workflow.add_node("rewrite", rewrite)  # 添加问题重写节点
workflow.add_node("generate", generate)  # 添加答案生成节点（在确认文档相关后使用）

# 设置初始边：从START到agent节点
workflow.add_edge(START, "agent")

# 设置条件边：根据智能体决策决定是否检索
workflow.add_conditional_edges(
    "agent",
    tools_condition,
    {
        # 将条件输出映射到图中的节点
        "tools": "retrieve",  # 如果需要工具，则转到retrieve节点
        END: END,  # 否则结束流程
    },
)

# 设置检索后的条件边
workflow.add_conditional_edges(
    "retrieve",
    # 评估文档相关性
    grade_documents,
)

# 设置固定边
workflow.add_edge("generate", END)  # 生成答案后结束
workflow.add_edge("rewrite", "agent")  # 重写问题后回到智能体节点

3.1 规划模块

规划模块由agent、查询优化（rewrite query）和文档相关性评估（grade_documents）共同组成

# 文档相关性评估函数
def grade_documents(state) -> Literal["generate", "rewrite"]:
    """
    评估检索到的文档是否与问题相关

    Args:
        state (messages): 当前状态

    Returns:
        str: 文档是否相关的决策结果
    """

    print("---检查文档相关性---")

    # 数据model
    class grade(BaseModel):
        """用于相关性检查的二元评分"""
        binary_score: str = Field(description="相关性评分 'yes' 或 'no'")

    # 初始化LLM模型
    model = ChatOpenAI(temperature=0, model="gpt-4o-mini", base_url="https://api.openai-hk.com/v1",streaming=True)

    # 为LLM添加结构化输出功能
    llm_with_tool = model.with_structured_output(grade)

    # 提示词模板
    prompt = PromptTemplate(
        template="""你是一个评估检索文档与用户问题相关性的评分器。\n 
        这是检索到的文档: \n\n {context} \n\n
        这是用户的问题: {question} \n
        如果文档包含与用户问题相关的关键词或语义含义，则将其评为相关。\n
        给出二元评分 'yes' 或 'no' 来表示文档是否与问题相关。""",
        input_variables=["context", "question"],
    )

    # 构建处理链
    chain = prompt | llm_with_tool

    # 获取消息和文档
    messages = state["messages"]
    last_message = messages[-1]
    question = messages[0].content
    docs = last_message.content

    # 执行评估
    scored_result = chain.invoke({"question": question, "context": docs})
    score = scored_result.binary_score

    # 根据评分返回决策
    if score == "yes":
        print("---决策: 文档相关---")
        return"generate"
    else:
        print("---决策: 文档不相关---")
        print(score)
        return"rewrite"


### Nodes


def agent(state):
    """
    调用智能体模型根据当前状态生成响应。根据问题决定是否使用检索器工具或直接结束。

    Args:
        state (messages): 当前状态

    Returns:
        dict: 更新后的状态，包含附加到消息中的智能体响应
    """
    print("---调用智能体---")
    messages = state["messages"]  # 获取当前消息
    model = ChatOpenAI(temperature=0, streaming=True, base_url="https://api.openai-hk.com/v1",model="gpt-4o-mini")  # 初始化LLM模型
    model = model.bind_tools(tools)  # 绑定工具
    response = model.invoke(messages)  # 调用模型生成响应
    return {"messages": [response]}  # 返回更新后的消息列表


def rewrite(state):
    """
    转换查询以生成更好的问题。

    Args:
        state (messages): 当前状态

    Returns:
        dict: 更新后的状态，包含重新表述的问题
    """

    print("---转换查询---")
    messages = state["messages"]  # 获取当前消息
    question = messages[0].content  # 获取原始问题

    # 构建改进问题的提示
    msg = [
        HumanMessage(
            content=f""" \n 
    查看输入并尝试理解其潜在的语义意图/含义。\n 
    这是初始问题:
    \n ------- \n
    {question} 
    \n ------- \n
    请提出一个改进后的问题: """,
        )
    ]

    # 初始化LLM模型
    model = ChatOpenAI(temperature=0, base_url="https://api.openai-hk.com/v1",model="gpt-4o-mini", streaming=True)
    response = model.invoke(msg)  # 生成改进后的问题
    return {"messages": [response]}  # 返回更新后的消息

3.2 执行模块

执行模块由retrieve、generate组成

# 定义要处理的网页URL列表
urls = [
    "https://lilianweng.github.io/posts/2023-06-23-agent/",
    "https://lilianweng.github.io/posts/2023-03-15-prompt-engineering/",
    "https://lilianweng.github.io/posts/2023-10-25-adv-attack-llm/",
]

# 加载所有网页文档
docs = [WebBaseLoader(url).load() for url in urls]
# 将嵌套列表展平为一维列表
docs_list = [item for sublist in docs for item in sublist]

# 创建文本分割器实例
text_splitter = RecursiveCharacterTextSplitter.from_tiktoken_encoder(
    chunk_size=100, chunk_overlap=50
)
# 执行文档分割操作
doc_splits = text_splitter.split_documents(docs_list)


# 初始化嵌入模型
embedding_llm = OpenAIEmbeddings(
    base_url="https://api.openai-hk.com/v1"
)

# 创建向量数据库实例
vectorstore = Chroma.from_documents(
    documents=doc_splits,  # 分割后的文档
    collection_name="rag-chroma",  # 集合名称
    persist_directory="./chroma_db",  # 持久化存储目录
    embedding=embedding_llm,  # 使用的嵌入模型
)


# 创建检索器实例
retriever = vectorstore.as_retriever()  # 将向量数据库转换为检索器
########################################################################################################################
# 导入检索器工具创建函数
from langchain.tools.retriever import create_retriever_tool

# 创建检索器工具实例
retriever_tool = create_retriever_tool(
    retriever,  # 检索器实例
    "retrieve_blog_posts",  # 工具名称
    "搜索并返回有关 Lilian Weng 博文的信息，内容涉及 LLM agents、提示工程和对 LLMs 的对抗性攻击。",  # 工具描述
)



def generate(state):
    """
    生成答案

    Args:
        state (messages): 当前状态

    Returns:
         dict: 更新后的状态，包含生成的答案
    """
    print("---生成答案---")
    messages = state["messages"]  # 获取当前消息
    question = messages[0].content  # 获取问题
    last_message = messages[-1]  # 获取最后一条消息
    docs = last_message.content  # 获取检索到的文档

    # 获取RAG提示词模板
    prompt = hub.pull("rlm/rag-prompt")

    # 初始化LLM模型
    llm = ChatOpenAI(base_url="https://api.openai-hk.com/v1",model_name="gpt-4o-mini", temperature=0, streaming=True)

    # 文档格式化函数
    def format_docs(docs):
        return"\n\n".join(doc.page_content for doc in docs)  # 将多个文档内容合并

    # 构建RAG处理链
    rag_chain = prompt | llm | StrOutputParser()

    # 执行RAG链生成答案
    response = rag_chain.invoke({"context": docs, "question": question})
    return {"messages": [response]}  # 返回包含答案的更新后消息


prompt = hub.pull("rlm/rag-prompt").pretty_print()  

四、Agentic RAG 的局限性

尽管Agentic RAG展现了巨大的潜力，但其发展仍面临诸多局限：

计算延迟：

多轮检索与修正机制显著增加了计算开销。

计算成本激增：

多轮检索与评估使API调用次数大幅度增长。

责任归属困境：

当自主生成的医疗建议导致误诊时，责任归属不明确

Agentic RAG不仅代表着技术的迭代，更预示着人机协作模式的根本变革。当系统能够自主完成需求分析→知识检索→逻辑推理→结果验证的全流程时，人类专家得以从信息过载中解放，专注于更高阶的创造性工作。

---

五、如何系统学习掌握AI大模型？

AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。

学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。

这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！

1. 成长路线图&学习规划

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

这里，我们为新手和想要进一步提升的专业人士准备了一份详细的学习成长路线图和规划。可以说是最科学最系统的学习成长路线。

2. 大模型经典PDF书籍

书籍和学习文档资料是学习大模型过程中必不可少的，我们精选了一系列深入探讨大模型技术的书籍和学习文档，它们由领域内的顶尖专家撰写，内容全面、深入、详尽，为你学习大模型提供坚实的理论基础。（书籍含电子版PDF）

3. 大模型视频教程

对于很多自学或者没有基础的同学来说，书籍这些纯文字类的学习教材会觉得比较晦涩难以理解，因此，我们提供了丰富的大模型视频教程，以动态、形象的方式展示技术概念，帮助你更快、更轻松地掌握核心知识。

4. 2024行业报告

行业分析主要包括对不同行业的现状、趋势、问题、机会等进行系统地调研和评估，以了解哪些行业更适合引入大模型的技术和应用，以及在哪些方面可以发挥大模型的优势。

5. 大模型项目实战

学以致用 ，当你的理论知识积累到一定程度，就需要通过项目实战，在实际操作中检验和巩固你所学到的知识，同时为你找工作和职业发展打下坚实的基础。

6. 大模型面试题

面试不仅是技术的较量，更需要充分的准备。

在你已经掌握了大模型技术之后，就需要开始准备面试，我们将提供精心整理的大模型面试题库，涵盖当前面试中可能遇到的各种技术问题，让你在面试中游刃有余。

全套的AI大模型学习资源已经整理打包，有需要的小伙伴可以微信扫描下方优快云官方认证二维码，免费领取【保证100%免费】