RAG系统架构介绍

最新推荐文章于 2025-05-20 23:10:55 发布
原创 最新推荐文章于 2025-05-20 23:10:55 发布 · 985 阅读 · 27 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#系统架构 #人工智能 #LLM #llama #自然语言处理 #langchain #RAG

让我们直奔主题： 检索增强一代Retrieval-Augmented Generation（RAG）系统正在重塑我们处理人工智能驱动的信息的方式。作为架构师，我们需要了解这些系统的基本原理，才能有效利用它们的潜力。

什么是 RAG？

RAG 系统的核心是通过将 LLM 与外部知识源整合，增强 LLM 的能力。这种整合使模型能够动态地获取相关信息，从而生成不仅连贯一致，而且事实准确、上下文相关的响应。RAG 系统的主要组成部分包括

检索器Retriever： 该组件从外部知识库中获取相关数据。
生成器Generator： LLM 将检索到的信息合成为类似人类的回应。

通过利用这些组件，RAG 系统可以根据实时数据提供答案，而不是仅仅依赖预先训练的知识，因为后者可能很快就会过时。

RAG 管道： 工作原理

RAG 系统的架构可以直观地体现在一个简单的管道中：

在这里插入图片描述

文件处理区块

数据消毒器Data sanitizer： 该组件对接收到的文件进行清理和预处理，以确保数据准确无误，没有杂音。它为高效处理和存储文件做好准备。
分割器Splitter： 分割器将文档分割成较小的、易于管理的块。这一步对于创建可从数据库中高效存储和检索的矢量表示法至关重要。
知识数据库Knowledge DB：这是将处理过的文档块存储为矢量的地方。该数据库可根据语义相似性快速检索相关信息。

查询处理模块

输入处理器Input processor ： 该组件负责处理用户查询，执行解析和预处理等任务，以确保查询内容清晰并可随时检索。
检索器Retriever ： 检索器在知识数据库中搜索与用户查询相匹配的相关文档向量。它使用向量相似性度量来查找最相关的信息。
生成器Generator 生成器使用大型语言模型（LLM），将检索到的信息与自身的知识库相结合，合成一个连贯的响应。
这种设置允许 RAG 系统动态地获取相关数据，从而提高生成回复的准确性和相关性。

优点

RAG 系统具有多种优势，是架构师工具包中的有力工具：

实时信息检索： 通过整合外部知识源，RAG 系统可获取最新信息，确保响应的及时性和相关性。
提高准确性： 检索器组件可精确获取数据，减少错误并提高事实准确性。
上下文相关性： 动态纳入知识库中的上下文，可产生更连贯、更适合上下文的输出结果。
可扩展性： RAG 架构可进行扩展，以处理大量数据和查询，因此适合企业级应用。

权衡利弊

虽然 RAG 系统功能强大，但也有一些需要架构师考虑的权衡因素：

复杂性： 整合多个组件（检索器、生成器、知识库）会增加系统复杂性，需要精心设计和维护。
延迟： 实时数据检索会带来延迟，可能会影响响应时间。优化每个组件对尽量减少延迟至关重要。
资源密集型： 需要强大的基础设施来支持矢量数据库和大型语言模型，从而导致更高的计算成本。
数据隐私： 在实时检索中处理敏感信息会带来隐私问题，必须通过严格的安全协议进行管理。

实践

电子政务网上大厅综合窗口接件基于RAG实现准确智能助手，请参考基于AI知识库RAG的综合窗口系统

结论

RAG 系统将实时信息检索与强大的语言生成功能无缝整合在一起，是人工智能架构领域的一大进步。这种结合可以做出更准确、更相关、更贴近上下文的响应，使 RAG 成为架构师在复杂的现代数据环境中游刃有余的重要工具。随着我们对这些系统的不断探索和完善，人工智能驱动应用的创新潜力是巨大的。未来的发展可能会侧重于提高效率和隐私保护，从而为各行各业更广泛的应用铺平道路。RAG 系统不仅是一种趋势，更是迈向更智能、反应更灵敏的人工智能解决方案的关键一步。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

Langchain
关注
（13-2）RAG基础知识介绍：RAG的架构
码农三叔
02-03 1878
因此，RAG的核心理念可以概括为“检索+生成”，前者利用向量数据库的高效存储和检索能力召回目标知识，后者则利用大型模型和Prompt引擎，将召回的知识合理应用，生成目标答案。在应用阶段，根据用户提问通过高效的检索方法召回与问题相关的知识，并将其融入到Prompt中，大型模型会参考用户提问和相关知识生成最终的答案。数据准备是RAG应用中的离线过程，旨在将私域数据转化为可检索的向量表示，并存储于数据库中，这个过程主要包括数据提取、文本分割、向量化和数据入库等环节。完整的RAG应用流程主要包含两个阶段。
新RAG架构范式！DSPy将革命性改变RAG系统架构方式！！
musicml的博客
07-03 1335
▼最近直播超级多，预约保你有收获—1—什么是 DSPy？DSPy（Declarative Self-improving Language Programs (in Python)）是斯坦福大学 NLP 研究人员开发的 "基础模型编程 "框架。它强调编程而非提示词，旨在简化复杂语言模型应用的构建过程。DSPy 允许开发者专注于应用程序的高级逻辑，同时抽象掉许多低级细节。DSPy 包含多种技术，可以提...
大模型系列——解读RAG
我相信......
02-04 3552
RAG 是2023年最流行的基于 LLM 的应用系统架构。有许多产品几乎完全建立在 RAG 之上，覆盖了结合网络搜索引擎和 LLM 的问答服务，到成千上万个数据聊天的应用程序。很多人将RAG和Agent 作为大模型应用的两种主流架构，但什么是RAG呢？RAG又涉及了哪些具体的技术呢？1. 什么是RAGRAG即检索增强生成，为 LLM 提供了从某些数据源检索到的信息，并基于此修正生成的答案。RAG ...
大模型 | 开源RAG框架汇总：什么是RAG？RAG应用框架
m0_56255097的博客
11-18 5187
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习、面试题等，资料免费分享！
【带你全面了解 RAG，深入探讨其核心范式、关键技术及未来趋势】
lhx17673139267的博客
07-05 1375
大型语言模型（LLMs）已经成为我们生活和工作的一部分，它们以惊人的多功能性和智能化改变了我们与信息的互动方式。然而，尽管它们的能力令人印象深刻，但它们并非无懈可击。这些模型可能会产生误导性的 “”，依赖的信息可能，处理特定知识时的深度洞察，同时在推理能力上也有所欠缺。在现实世界的应用中，数据需要不断更新以反映最新的发展，生成的内容必须是透明可追溯的，以便控制成本并保护数据隐私。因此，简单依赖于这些 “黑盒” 模型是不够的，我们需要更精细的解决方案来满足这些复杂的需求。
检索增强生成（RAG）：如何让AI大模型更懂我？
Python_cocola的博客
06-27 994
本文我们主要介绍了RAG的基本原理，RAG可以有效扩展大模型的知识库，有效提升回答的确定性，让AI大模型变得更加“懂”我们。
RAG（大模型+知识库）落地与知识管理的春天-新的知识运营体系
weixin_59191169的博客
05-23 4300
大模型时代来了，可能你也知道GPT大模型是被海量知识训练出来的，但不知道你有没有问过，什么样的知识才能训练大模型？站在企业的角度，很多企业都有自己的知识库或者文档中心，很多人也都有自己积攒数年的资料库，那是不是用上大模型，就能轻松实现基于自己知识库的智能搜索/智能问答/智能推荐呢？（一）知识基础形态和知识质量在传统的搜索、问答、推荐等场景中，通常会返回一整篇的文档，我们还得在这一大篇资料中去找到自己想要的那一段具体内容。不少企业构建的知识库，其实就是文档库。
基于 SpringAI 的 RAG 系统，可以和基于 Spring 体系的业务系统进行无缝集成
03-02
其中，RAG系统作为SpringAI的一部分，它代表的是一个响应式和适应性强的系统架构，它能够在不断变化的环境中自我调节和优化。 SpringAI的RAG系统不仅仅是一个简单的应用集成解决方案，它通过响应式编程模型和AI算法...
法律科技基于dify的RAG 2.0架构：30万页法规秒级检索与合规审查系统实现
最新发布
10-05
③提升RAG系统的召回准确率与抗幻觉能力； 阅读建议：建议结合dify平台动手实践文中代码示例，重点关注段落切分规则、HybridRetriever双路召回设计以及Cross-Encoder精排与引用校验的集成方式，同时可在压测环境下...
大模型——多模态检索的RAG系统架构设计
jiaomongjun的博客
05-20 1065
该架构通过预训练对齐或投影层学习实现跨模态向量统一，结合混合检索策略，使RAG系统能同时处理文本和图像查询，生成更丰富的多模态回答。
RAG 架构
xixingzhe2的博客
02-13 990
RAG（Retrieval-Augmented Generation）架构，即检索增强生成架构，是一种将信息检索与语言生成相结合的技术架构。RAG 架构旨在通过在语言生成过程中引入外部知识检索机制，来增强语言模型的性能和生成质量。它允许模型在生成文本时，能够动态地从大规模的知识数据库中检索相关信息，并将这些信息整合到生成的内容中，从而使生成的文本更加准确、丰富和有针对性。
ThreadSanitizer检测工具-动态数据竞争检测技术
shanlijia的博客
07-29 2323
ThreadSanitizer是检测数据争用的工具。它由一个编译器检测模块和一个运行时库组成。 Data Race Data Race是指多个线程在没有正确加锁的情况下，同时访问同一块数据，并且至少有一个线程是写操作，对数据的读取和修改产生了竞争，从而导致各种不可预计的问题。 Data Race的问题非常难查，Data Race一旦发生，结果是不可预期的，也许直接就Crash了，也许导致执行流程错乱了，也许把内存破坏导致之后某个时刻突然Crash了。 例子一: #include <pthread.h&
大模型应用框架：LLM大模型开源RAG框架汇总
Y525698136的博客
11-15 888
本文搜集了一些开源的基于LLM的RAG（Retrieval-Augmented Generation）框架，旨在吸纳业界最新的RAG应用方法与思路。如有错误或者意见可以提出，同时也欢迎大家把自己常用而这里未列出的框架贡献出来，感谢~
用通俗易懂的方式讲解：一文详解大模型 RAG 模块
热门推荐
2301_78285120的博客
02-02 1万+
RAG 技术是一种检索增强生成的方法，结合了大型语言模型和检索系统的优势，以提高生成内容的准确性、相关性和时效性。相比于仅依赖大型语言模型的生成，RAG技术可以从外部知识库中检索信息，避免了模型的幻觉问题，并提升了对实时性要求较高问题的处理能力。与传统的知识库问答系统相比，RAG技术更加灵活，可以处理非结构化的自然语言文本。RAG并非旨在取代已有的知识库问答系统，而是作为一种补充，强调实时性和准确性，并且通过结合生成和检索机制来提升自然语言处理任务的效果。增强数据获取。
大模型主流应用RAG的介绍——从架构到技术细节
2301_82275412的博客
10-23 1433
如果你问我现在基于LLM（大语言模型，本文有时候也会将该名词描述为“大模型”）最火热的应用是什么，那我必须主推检索增强生成（RAG最初是为了解决LLM的各类问题的（后面会提到）产生的，但后面大家发现在现阶段的很多企业痛点上，使用RAG好像是更好的解决方案。就像我之前的文章《关于LLM的一些声音总结》提到的一样，企业发现其实自己要的好像是一个更好的搜索，根本不关心是不是大模型。于是，RAG被越来越多提到，包括开源的ChatPDF，也是RAG的一个经典应用。
RAG架构智能体
lyy2017175913的博客
11-10 3912
*RAG（Retrieval-Augmented Generation，检索增强生成）**是一种结合了信息检索和文本生成技术的人工智能技术框架，最早由Facebook AI Research团队于2020年首次提出。RAG技术在生成答案之前首先在外挂的知识库中检索相关专业信息，并将这些信息结合原始提问作为提示词提供给大模型，指导大模型生成内容，极大提升了内容的质量、准确性和相关性，增强了大模型处理知识密集型任务的能力。
一文彻底搞懂大模型 - RAG（检索、增强、生成）
2301_78285120的博客
09-01 4177
如何理解RAG？通过上一个问题，我们知道了什么是RAG？了解到RAG是一种结合了信息检索、文本增强和文本生成的自然语言处理（NLP）的技术。RAG的目的是通过从外部知识库检索相关信息来辅助大语言模型生成更准确、更丰富的文本内容。那我们如何理解RAG的检索、增强和生成呢？检索：检索是RAG流程的第一步，从预先建立的知识库中检索与问题相关的信息。这一步的目的是为后续的生成过程提供有用的上下文信息和知识支撑。
《从传统RAG到模块化RAG：演进与架构解析》
qq_62223405的博客
04-01 937
本文将系统介绍RAG技术的演进历程，从传统架构到模块化设计，帮助读者全面理解这一领域的最新发展。模块化RAG代表了当前最先进的架构思想，它将整个系统分解为多个功能独立的组件，通过标准化接口实现协同工作。这些优化步骤形成了一个更完整的工作流程：预检索优化→检索→后检索处理→LLM生成，使系统能够处理更复杂的查询需求。这种"检索-生成"的两阶段模式虽然简单，但在许多应用场景中已经展现出显著效果，为后续更复杂的架构奠定了基础。这种演进反映了技术发展的普遍规律：从简单到复杂，从固定到灵活，从单一到模块化。
揭秘大模型提升秘诀：RAG系统中的文本分块策略
FrenzyTechAI的博客
10-25 2953
LangChain 还预定义了其他编程语言（如 Go、C++、Java）等的分割符列表，方便用户快速定义新的文本切块类。如果需要处理未提供的文本格式，可以参照已有的类实现。自定义示例：创建一个用于切分 Java 代码的文本切块类。"\n\n", # 空行"\n", # 换行", # 语句结束" ", # 空格"" # 无分隔符text = "..." # 待处理的 Java 代码print(doc)通过自定义分割符列表和参数设置，可以灵活地适应不同格式文本的切分需求。
rag系统架构图
06-04
### RAG系统架构图 RAG（Retrieval-Augmented Generation）是一种结合了检索和生成的混合模型架构，旨在通过从外部知识库中检索相关信息来增强生成模型的能力。以下是对RAG系统架构的详细描述以及如何实现其功能的说明。 #### RAG系统的基本架构 RAG系统通常由三个主要部分组成：检索器（Retriever）、编码器（Encoder）和解码器（Decoder）。检索器负责从外部知识库中检索相关文档或段落；编码器用于将检索到的信息与用户输入一起编码为向量表示；解码器则根据这些向量生成最终的输出[^1]。 ```python # 示例代码：RAG系统的简单实现框架 class RAGSystem: def __init__(self, retriever, encoder, decoder): self.retriever = retriever self.encoder = encoder self.decoder = decoder def retrieve(self, query): # 使用检索器从知识库中获取相关文档 return self.retriever(query) def encode(self, query, documents): # 将查询和检索到的文档编码为向量 return self.encoder(query, documents) def decode(self, encoded_input): # 根据编码后的输入生成最终输出 return self.decoder(encoded_input) def generate(self, query): # 整合检索、编码和解码过程 retrieved_docs = self.retrieve(query) encoded_input = self.encode(query, retrieved_docs) return self.decode(encoded_input) ``` #### 架构图的关键组件 1. **检索器（Retriever）**：可以是基于密集向量的检索器（如DPR，Dense Passage Retrieval）或稀疏检索器（如BM25）。它从知识库中提取与用户查询最相关的文档。 2. **编码器（Encoder）**：通常使用预训练的语言模型（如BERT）对查询和检索到的文档进行编码，生成统一的向量表示。 3. **解码器（Decoder）**：基于编码后的输入，生成自然语言响应。这一部分通常由一个生成式模型（如T5或GPT系列）完成。 #### 实现细节 在实际应用中，RAG系统的性能依赖于以下几个方面： - 检索器的质量：需要确保能够高效地从大规模知识库中找到相关文档。 - 编码器的能力：必须能够准确地捕捉查询和文档之间的语义关系。 - 解码器的设计：需要支持灵活的文本生成，并能够结合检索到的知识生成高质量的回答[^2]。 ### 图像生成示例 如果需要生成RAG系统的架构图，可以参考以下Python代码示例，利用Gemini Pro Vision模型生成详细的图像描述： ```python # 调用Gemini Pro Vision生成RAG系统架构图的描述 def generate_rag_diagram_description(image_path: str) -> str: prompt = "Please describe the architecture of a RAG system in detail." return call_LMM(image_path, prompt) # 假设已有一个RAG架构图的图像文件路径 image_path = "path/to/rag_architecture_diagram.png" description = generate_rag_diagram_description(image_path) print(description) ``` 此代码片段展示了如何使用Gemini Pro Vision模型生成关于RAG系统架构图的详细描述[^3]。 #### 成本与维护 类似于知识图谱（KG），RAG系统的构建和维护也需要一定的成本。尽管RAG系统可以通过动态检索减少对静态知识库的依赖，但仍然需要定期更新知识库以确保信息的时效性和准确性[^4]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值