9种 LangGraph 实现方案：RAG 架构对比分析

关注

原创最新推荐文章于 2026-08-29 09:24:01 发布 369 阅读 AI 写同款· GEO 优化 ›

本地大模型编程实战(20)用langgraph和智能体实现RAG(Retrieval Augmented Generation,检索增强生成)(4) 上一篇文章我们演练了一个 [用 `langgraph` 实现的 `RAG(Retrieval Augmented Generation,检索增强生成)` 系统]。本文将要在此基础上，增加自动记录聊天历史的功能，另外，我们还将使用一个 `Agent(智能体)` 来实现几乎同样的功能，我们来一起体会一下用 `langgraph` 和 `Agent(智能体)` 实现 `RAG系统` 的区别。阅读详情

以下提到的9个 RAG 案例，全部来自 LangGraph 的官方文档，用来帮助大家更好地理解和学习 LangGraph。

概览总结

本文档详细对比分析了9种不同的 RAG（检索增强生成）架构实现，每种都基于 LangGraph 框架但采用了不同的策略和技术路径。这些实现展现了从简单的检索-生成到复杂的自适应智能代理系统的演进。

模型名称	核心特征	主要创新点	模型类型	复杂度
Adaptive RAG	查询路由 + 自纠错	智能路由选择	Cloud	⭐⭐⭐⭐
Adaptive RAG Cohere	多工具路由	Cohere Command-R	Cloud	⭐⭐⭐⭐
Adaptive RAG Local	本地化自适应	本地模型优化	Local	⭐⭐⭐
Agentic RAG	代理驱动工具选择	工具化检索	Cloud	⭐⭐⭐
CRAG	纠错性检索	网络搜索补充	Cloud	⭐⭐⭐⭐
CRAG Local	本地纠错RAG	本地化CRAG	Local	⭐⭐⭐
Self-RAG	多层自我反思	三重质量评估	Cloud	⭐⭐⭐⭐⭐
Self-RAG Local	本地自反思	本地化Self-RAG	Local	⭐⭐⭐⭐
Self-RAG Pinecone	外部向量库	Pinecone集成	Cloud	⭐⭐⭐⭐

详细架构对比

1. Adaptive RAG 系列

1.1 Adaptive RAG（OpenAI版本）

核心理念：智能查询路由 + 自我纠错循环

架构特点：

用户查询 → 查询路由器 → [Web搜索 | 向量检索]
    ↓
[文档评分] → [答案生成] → [幻觉检测] → [答案质量评估]
    ↓
[查询重写] ← [质量不合格]

关键组件：

路由器：基于 GPT-4o-mini 的查询分类器
评分器：文档相关性、幻觉检测、答案质量三重评估
纠错机制：查询重写 + 重新检索

独特优势：

智能决策避免不必要的检索
完整的质量保证体系
Web搜索与向量检索的智能结合

技术栈：

模型：OpenAI GPT-4o-mini, GPT-3.5-turbo
向量库：Chroma
Web搜索：Tavily
嵌入：OpenAI Embeddings

1.2 Adaptive RAG Cohere

核心理念：基于 Cohere Command-R 的多工具路由

架构特点：

用户查询 → Cohere路由器 → [LLM回退 | Web搜索 | 向量检索]
    ↓
文档评分 → 答案生成 → 质量评估

关键创新：

三路路由：支持直接LLM回答（无需检索）
Command-R优化：专为RAG和工具使用优化的模型
低延迟：128k上下文 + 快速响应

独特优势：

支持无需检索的直接回答
针对RAG场景优化的模型
更灵活的路由策略

技术栈：

模型：Cohere Command-R
向量库：Chroma
Web搜索：Tavily
嵌入：Cohere Embeddings

1.3 Adaptive RAG Local

核心理念：完全本地化的自适应RAG

架构特点：

用户查询 → 本地路由器 → [Web搜索 | 本地向量检索]
    ↓
本地文档评分 → 本地生成 → 本地质量评估

关键优势：

隐私保护：所有处理都在本地
成本控制：无API调用费用
离线能力：不依赖网络连接

技术栈：

模型：Ollama + Mistral
向量库：Chroma
Web搜索：Tavily（唯一外部依赖）
嵌入：Nomic local embeddings

2. Agentic RAG

核心理念：AI代理自主决策的工具化检索

架构特点：

用户查询 → GPT-4代理 → 工具选择决策
    ↓                    ↓
[直接回答]        [调用检索工具]
    ↓                    ↓
  结束              文档评估 → [生成答案 | 重写查询]

关键创新：

工具化检索：将检索器封装为Agent工具
智能决策：Agent自主判断是否需要检索
简化流程：相比其他方案更简洁的决策路径

独特优势：

最符合Agent范式的实现
决策过程更接近人类思维
易于扩展其他工具

技术栈：

模型：OpenAI GPT-4-turbo（Agent），GPT-3.5-turbo（生成）
工具：LangGraph ToolNode
向量库：Chroma

3. CRAG（纠错性RAG）系列

3.1 CRAG

核心理念：主动纠错 + Web搜索补充

架构特点：

用户查询 → 向量检索 → 文档相关性评估
    ↓
[相关] → 直接生成
    ↓
[不相关/部分相关] → Web搜索补充 → 生成答案

关键特色：

知识纠错：主动识别并修正检索错误
混合检索：向量+Web搜索的智能组合
质量优先：宁可Web搜索也不用无关文档

独特优势：

最强的检索质量保证
Web搜索作为可靠的补充机制
简单有效的二元决策

技术栈：

模型：OpenAI GPT-4o-mini, GPT-3.5-turbo
向量库：Chroma
Web搜索：Tavily

3.2 CRAG Local

核心理念：本地化的纠错性RAG + 评估框架

架构特点：与CRAG相同，但使用本地模型

关键优势：

本地化CRAG：隐私保护的纠错性RAG
评估框架：内置性能评估和基准测试
成本优化：免费的本地模型

技术栈：

模型：Ollama + Llama3
向量库：SKLearnVectorStore
评估：LangSmith集成

4. Self-RAG（自反思RAG）系列

4.1 Self-RAG

核心理念：多层自我反思的质量保证体系

架构特点：

用户查询 → 检索 → 文档相关性评估
    ↓
[相关] → 生成答案 → 幻觉检测 → 答案质量评估
    ↓         ↓           ↓
[不相关] → 查询重写  [有幻觉] → 重新生成  [质量差] → 查询重写

关键创新：

三重质量门槛：相关性、真实性、完整性
自我反思循环：多次迭代优化
最严格的质量控制：确保答案的高质量

独特优势：

最高的答案质量保证
最完善的自我纠错机制
适合对准确性要求极高的场景

技术栈：

模型：OpenAI GPT-4o-mini（评估），GPT-3.5-turbo（生成）
向量库：Chroma
评估：三重Pydantic模型

4.2 Self-RAG Local

核心理念：本地化的多层自反思

架构特点：与Self-RAG相同，使用本地模型

关键挑战：

本地模型在复杂推理任务上的能力限制
JSON输出解析的稳定性问题
多轮反思的计算成本

技术栈：

模型：Ollama + Mistral
向量库：Chroma
嵌入：Nomic local embeddings

4.3 Self-RAG Pinecone Movies

核心理念：基于外部向量数据库的自反思RAG

架构特点：标准Self-RAG流程 + Pinecone集成

关键特色：

企业级向量库：Pinecone的高性能和可扩展性
预构建数据集：电影数据库的丰富元数据
生产就绪：适合大规模部署的架构

独特优势：

最适合生产环境的向量存储方案
丰富的元数据支持复杂查询
高可用和可扩展性

技术栈：

模型：OpenAI GPT-4o-mini, GPT-3.5-turbo
向量库：Pinecone
数据集：预构建电影数据库

架构差异对比矩阵

功能特性对比

特性	Adaptive	Adaptive Cohere	Adaptive Local	Agentic	CRAG	CRAG Local	Self-RAG	Self-RAG Local	Self-RAG Pinecone
查询路由	✅	✅	✅	❌	❌	❌	❌	❌	❌
Web搜索	✅	✅	✅	❌	✅	✅	❌	❌	❌
工具化检索	❌	❌	❌	✅	❌	❌	❌	❌	❌
文档评分	✅	✅	✅	✅	✅	✅	✅	✅	✅
幻觉检测	✅	✅	✅	❌	❌	❌	✅	✅	✅
答案质量评估	✅	✅	✅	❌	❌	❌	✅	✅	✅
查询重写	✅	❌	✅	✅	✅	✅	✅	✅	✅
本地部署	❌	❌	✅	❌	❌	✅	❌	✅	❌
LLM回退	❌	✅	❌	❌	❌	❌	❌	❌	❌

技术架构对比

维度	Cloud优先方案	本地化方案	混合方案
代表方案	Adaptive RAG, CRAG, Self-RAG	Adaptive Local, CRAG Local, Self-RAG Local	Adaptive Cohere
模型选择	OpenAI GPT-4⁄3.5	Ollama + Mistral/Llama3	Cohere Command-R
嵌入模型	OpenAI Embeddings	Nomic Embeddings	Cohere Embeddings
向量存储	Chroma, Pinecone	Chroma, SKLearn	Chroma
成本结构	按使用付费	硬件成本	混合计费
隐私保护	依赖服务商	完全本地	部分保护
性能表现	最佳	受硬件限制	平衡

从价格的角度来看，api 全部迁移到 gpt-5 或者 gpt-5 mini，也许是个不错的选择

适用场景分析

RAG方案	最佳适用场景	优势	劣势
Adaptive RAG	通用问答系统，需要Web搜索补充	智能路由，质量保证	复杂度高，成本较高
Adaptive RAG Cohere	对话机器人，需要多种回答方式	Command-R优化，支持直接LLM回答	依赖Cohere生态
Adaptive RAG Local	隐私敏感场景，离线环境	完全本地，隐私保护	性能受限，设置复杂
Agentic RAG	Agent系统，需要工具扩展性	工具化设计，易扩展	决策较简单，功能有限
CRAG	对准确性要求高的专业领域	强纠错能力，Web补充	无幻觉检测
CRAG Local	本地部署的专业应用	本地纠错，成本控制	模型能力限制
Self-RAG	科研、法律等高精度要求场景	最强质量保证，多层反思	延迟高，成本高
Self-RAG Local	本地高精度应用	本地多层反思	计算成本高
Self-RAG Pinecone	企业级生产环境	高可用，可扩展	成本高，复杂度高

性能与成本分析

延迟对比（相对值）

Agentic RAG      ■■□□□ (最快)
CRAG            ■■■□□
Adaptive RAG    ■■■■□
Self-RAG        ■■■■■ (最慢)

准确性对比（相对值）

Self-RAG        ■■■■■ (最高)
Adaptive RAG    ■■■■□
CRAG           ■■■□□
Agentic RAG    ■■□□□ (最低)

成本对比（Cloud方案）

Agentic RAG    $ (最低)
CRAG          $$
Adaptive RAG  $$$
Self-RAG      $$$$ (最高)

技术演进趋势

第一代：基础RAG

简单的检索-生成模式
无质量控制机制
单一数据源

第二代：工具化RAG（Agentic）

Agent驱动的工具选择
智能决策机制
可扩展的工具生态

第三代：自适应RAG（Adaptive）

智能查询路由
多数据源集成
初步质量控制

第四代：纠错性RAG（CRAG）

主动错误纠正
Web搜索补充
知识质量保证

第五代：自反思RAG（Self-RAG）

多层质量评估
自我反思循环
最高准确性标准

选择建议

最快响应速度 → 选择 Agentic RAG
最高准确性 → 选择 Self-RAG
隐私保护 → 选择 Local系列方案
Web搜索能力 → 选择 Adaptive RAG 或 CRAG
企业级部署 → 选择 Self-RAG Pinecone
成本敏感 → 选择 Local系列方案
对话机器人 → 选择 Adaptive RAG Cohere

技术栈选择矩阵

需求	推荐方案	理由
初学者入门	Agentic RAG	架构简单，易于理解
生产环境	Self-RAG Pinecone	成熟稳定，可扩展
研究实验	Self-RAG	最先进的技术，最高质量
成本优化	CRAG Local	性能与成本平衡
隐私优先	Self-RAG Local	最高质量的本地方案

未来发展方向

技术趋势

多模态集成：文本、图像、语音的统一处理
实时学习：动态知识更新和个性化适应
混合推理：符号推理与神经网络的结合
效率优化：更快的检索和生成速度
知识图谱：结构化知识的深度集成

架构演进

从单一RAG到多Agent协作系统
从静态知识库到动态知识获取
从单轮问答到多轮对话记忆
从文本处理到多模态理解

结论

这9种RAG架构展现了不同的设计哲学和技术路径：

Adaptive系列强调智能路由和多数据源
Agentic注重工具化和可扩展性
CRAG系列专注于纠错和补充机制
Self-RAG系列追求最高的质量标准

选择合适的RAG架构应该基于具体的业务需求、技术约束和资源状况。没有一种架构能适用于所有场景，关键是理解每种方案的优缺点，并根据实际情况做出明智的选择。

附：local 本地化，本地在哪里

Local RAG 的”Local”含义

主要指本地部署的LLM

使用 Ollama 框架在本地运行大语言模型
模型包括：Mistral、Llama3 等开源模型
通过 ChatOllama 接口调用本地模型API

2. 部分包含本地嵌入模型

Nomic embeddings (nomic-embed-text-v1.5) - 本地嵌入模型
替代 OpenAI Embeddings 的本地化方案

3. 向量数据库仍然是本地的

主要使用 Chroma（本地向量数据库）
CRAG Local 使用 SKLearnVectorStore（本地）
但这不是”Local”的重点区别

Cloud vs Local 的关键对比

组件类型	Cloud方案	Local方案
LLM	OpenAI GPT-4⁄3.5 (API调用)	Ollama + Mistral/Llama3 (本地)
嵌入模型	OpenAI Embeddings (API调用)	Nomic embeddings (本地)
向量数据库	Chroma/Pinecone (本地/云端)	Chroma/SKLearn (本地)
Web搜索	Tavily (API调用)	Tavily (API调用) ⚠️