RAG流程介绍

最新推荐文章于 2025-10-05 08:00:00 发布
原创 最新推荐文章于 2025-10-05 08:00:00 发布 · 822 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#语言模型

什么是RAG

RAG(检索增强生成)是一种将语言模型与可搜索知识库结合的方法，主要包含以下关键步骤：

  1. 数据预处理

    • 加载：从不同格式(PDF、Markdown等)中提取文本
    • 分块：将长文本分割成短序列(通常100-500个标记)，作为检索单元
      在这里插入图片描述

  2. 检索系统构建

    • embedding：使用embedding模型为每个文本块生成向量表示
    • 存储：将这些向量索引到向量数据库中
    • 可选-重排：结合关键词搜索构建混合搜索系统，并添加重排序步骤
      在这里插入图片描述

  3. 查询处理流程

    • 接收用户查询并评估其相关性
    • 对查询进行嵌入，在向量库中查找相关块
      在这里插入图片描述

  4. 生成输出

    • 将检索到的相关内容与原始查询一起传递给LLM
    • LLM根据这些上下文信息生成更准确、更符合事实的回答
      在这里插入图片描述
RAG的完整流程是什么？如何解决检索噪声对生成的影响？
qq_36929638的博客
04-13 430
通过组合上述技术，可将噪声导致的错误生成减少50-80%。实际案例显示，在医疗问答系统中应用后，准确率从62%提升至89%。
【大模型应用开发 动手做AI Agent】从用户角度看RAG流程
AI天才研究院
05-27 705
1.背景介绍 随着深度学习和自然语言处理技术的迅猛发展，人工智能（AI）和机器学习（ML）已经成为我们日常生活中不可或缺的一部分。从智能家居到自驾汽车，再到人脸识别，AI和ML已经渗透到了我们生活的每一个角落。 然而，在这些技术的背后，开发AI Agent的过程却并非一帆风顺。在过去的几年里，AI社区一直在探讨如何更好地开发和部署AI A
一文读懂：大模型RAG（检索增强生成）
star_nwe的博客
07-24 1510
AI大模型作为人工智能领域的重要技术突破，正成为推动各行各业创新和转型的关键力量。抓住AI大模型的风口，掌握AI大模型的知识和技能将变得越来越重要。学习AI大模型是一个系统的过程，需要从基础开始，逐步深入到更高级的技术。这里给大家精心整理了一份全面的AI大模型学习资源，包括：AI大模型全套学习路线图（从入门到实战）、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频，免费分享！
RAG技术全解析：打造下一代智能问答系统
alysblmd
05-13 1万+
检索增强生成（RAG）技术通过结合大型语言模型（LLM）和外部知识库来克服传统语言模型在特定领域任务上的局限。RAG通过索引、检索和生成的三步流程，增强了语言模型的能力，提高了生成内容的准确性和相关性。本文详细介绍了RAG的工作原理、实现过程和评估方法，并展望了其在多模态领域的应用前景。RAG不仅优化了问答系统的性能，还通过多样的技术整合和灵活的检索过程，推动了智能问答系统的发展。
RAG 全流程核心技术深度解析：1-工作原理+切片+召回+排序
最新发布
10-05 1325
本文深入解析了检索增强生成（RAG）技术的核心原理与应用。RAG通过将信息检索与大语言模型生成能力结合，有效解决大模型的"幻觉"问题、知识时效性不足和领域专业壁垒等关键问题。文章详细介绍了RAG的工作流程，包括准备阶段的分片（Chunking）和索引（Indexing）技术，以及回答阶段的召回、重排和生成过程。特别针对分片技术，对比分析了固定长度切分、递归字符切分、语义切分、结构切分和LLM智能切分五种方法的优缺点及适用场景。最后，文章还探讨了向量化（Embedding）的核心算法和主流
掌握RAG看这一篇就够了！五步流程+十二大优化策略全解析
qingkahui24689的博客
07-11 839
摘要： RAG（检索增强生成）技术通过结合检索与生成模型，解决大语言模型（LLM）的幻觉、知识更新滞后等问题。其流程分为五步：知识文档准备（多模态转换、分块处理）、嵌入模型（如Word2Vec、BERT）、向量数据库存储、查询检索（语义匹配）、生成回答。优化策略包括数据清洗（去噪、实体解析）、分块处理（固定大小、递归分块等）、嵌入模型选择等，以提升系统性能。RAG广泛应用于企业知识问答等场景，平衡效率与准确性。
RAG篇（RAG的流程）
feifeikon的博客
07-13 1423
GraphRAG 不使用非结构化的文本，而是利用知识图谱，利用图结构捕捉数据中的实体、关系及复杂依赖，从而更高效地检索相关信息并生成准确答案。GraphRAG 的一大特色是利用图机器学习算法针对数据集进行语义聚合和层次化分析，因而可以回答一些相对高层级的抽象或总结性问题, 这一点恰好是常规 RAG 系统的短板(例如：用户提问一个问题，需要全局搜索整个数据集，而不是搜索相似性片段，在这种场景下rag性能比较差)。
RAG工作流程总览
井底小蛙的博客
07-30 646
问答检索阶段，首先将问题通过向量化模型，进行向量化转换，再在向量数据库中，通过不同检索等手段，匹配知识库中相关内容，再将匹配结果通过大模型润色后作为答案输出；该阶段根据原始文件，经过预处理，向量化等操作，最终将向量化模型，与知识库内容的向量化结果存储在向量知识库中备用；混合检索解决语义鸿沟问题（如搜索“苹果公司”不返回水果信息）解决术语变体问题（如“COVID-19”→新冠病毒）动态融合双路结果（例：向量权重70%+关键词30%）：用户提问（例：“新冠疫苗有哪些类型？
开始简单使用rag，代码涉及基础的rag流程，麻雀虽小五脏俱全！
01-30
在“开始简单使用RAG，代码涉及基础的RAG流程，麻雀虽小五脏俱全！”这篇博客中，作者详细介绍了RAG模型的基础操作流程。尽管博客内容篇幅不长，却完整地覆盖了从零开始实现一个简单RAG系统的各个步骤，包括数据的...
精选资源
RAG应用全流程RAG应用全流程
05-03
RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG应用全流程RAG...
【LLM】9：RAG流程详解
zzZ_CMing的博客
10-20 5053
是为了弥补大模型在特定领域下知识的不足，整个过程相对稳定，大模型可发挥的空间较少；
高级检索增强生成技术(RAG)全面指南：原理、分块、编码、索引、微调、Agent、展望...
热门推荐
zenRRan的博客
12-25 1万+
来自：旺知识ChatGPT、Midjourney等生成式人工智能（GenAI）在文本生成、文本到图像生成等任务中表现出令人印象深刻的性能。然而，生成模型也不能避免其固有的局限性，包括产生幻觉的倾向，在数学能力弱，而且缺乏可解释性。因此，提高他们能力的一个可行办法是让他们能够与外部世界互动，以不同的形式和方式获取知识，从而提高所生成内容的事实性和合理性。检索增强生成（Retrieval-Augmen...
为什么需要 RAG？RAG 的流程！一文了解什么是 RAG？
m0_65555479的博客
03-10 2808
RAG 全称 Retrieval-Augmented Generation，翻译成中文是检索增强生成。检索指的是检索外部知识库，增强生成指的是将检索到的知识送给大语言模型以此来优化大模型的生成结果，使得大模型在生成更精确、更贴合上下文答案的同时，也能有效减少产生误导性信息的可能。本文从大模型的局限性切入，探讨了检索增强生成架构的核心机制及其带来的好处。RAG 通过结合检索和生成能力，能从外部知识库搜索相关信息，生成更准确的回应，有效克服了大模型在知识更新上的短板。
读懂RAG这一篇就够了，万字详述RAG的5步流程和12个优化策略
xx_nm98的博客
05-08 1279
ChatGPT、GLM等生成式人工智能在文本生成、文本到图像生成等任务中表现出令人印象深刻的性能。但它们也存在固有局限性，包括产生幻觉、缺乏对生成文本的可解释性、专业领域知识理解差，以及对最新知识的了解有限。为了克服这些限制，提高模型的能力，有两种主要途径：一种是微调（Fine Tune）来更新模型，另一种是让他们能够与外部世界互动，以不同的形式和方式获取知识。微调固然效果好，可以让模型真正的“学会”一些私域知识。
RAG（Retrieve-and-Generate）实现流程详解
爱的叹息的专栏
04-21 1040
RAG（Retrieve-and-Generate）实现流程详解
RAG 基本流程及处理技巧 with LangChain
2301_81940605的博客
06-29 1598
LLM 主要存在两个问题：幻想和缺乏领域知识。领域知识缺乏的原因是因为训练 LLM 本身的知识更新慢，对特定领域的知识也没有太细致的输入。
RAG系列：万字详述RAG的5步流程和12个优化策略,看这一篇就够了！
qq_46094651的博客
06-10 1279
ChatGPT、GLM等生成式人工智能在文本生成、文本到图像生成等任务中表现出令人印象深刻的性能。但它们也存在固有局限性，包括产生幻觉、缺乏对生成文本的可解释性、专业领域知识理解差，以及对最新知识的了解有限。为了克服这些限制，提高模型的能力，有两种主要途径：一种是微调（Fine Tune）来更新模型，另一种是让他们能够与外部世界互动，以不同的形式和方式获取知识。
RAG全解析和LangChain代码实现
csdn1561168266的博客
03-06 4848
大家好，自从人们意识到可以用自有数据为大型语言模型（LLM）增效之后，就开始讨论如何最有效地弥合 LLM 的通用知识与专有数据之间的差距。围绕着微调还是检索增强生成（RAG）哪个更适合这一问题，人们展开了激烈的争论。本文重点介绍 RAG 的概念，首先介绍其理论，然后会继续展示如何使用LangChain进行编排、OpenAI 语言模型和 Weaviate 向量数据库来实现一个简单的 RAG 流水线。
RAG流程
03-13
### RAG（Retrieval-Augmented Generation）的工作原理 RAG是一种结合检索和生成技术的方法，旨在提升大型语言模型（LLM）的知识获取能力和生成质量。其核心理念是通过从外部知识库中检索相关信息并将其融入到生成过程中，从而弥补传统LLM可能存在的知识局限性[^1]。 #### 外部知识的引入 RAG利用外部数据库或文档集合作为补充信息源，在生成阶段动态检索相关内容。这种方法不仅减少了对大规模预训练数据的需求，还能够实时更新模型所依赖的信息[^3]。 #### 工作流程概述 以下是RAG的主要工作流程： 1. **输入处理** 用户提供查询或者提示（Prompt），该输入会被编码器转换为向量表示形式以便后续操作。 2. **检索阶段** 使用检索机制（例如密集型检索(Dense Retrieval) 或稀疏型检索(Sparse Retrieval)）从预先构建好的知识库中找到最相关的若干条目。这些条目通常是以文本片段的形式存在，并被认为是对当前任务最有帮助的内容[^2]。 3. **融合与解码** 将检索得到的相关上下文与原始输入一起送入生成模型内部进行联合建模。具体来说，可以采用条件生成的方式让模型基于额外提供的背景材料来创建更精确的回答。 4. **输出生成** 解码过程完成后即获得最终的结果字符串，此结果既包含了来自用户提问本身的影响也吸收了由检索部分贡献的新鲜素材。 #### 技术细节探讨 为了更好地理解上述每一步骤的具体实施方式，下面进一步解释几个关键技术点: - **检索策略的选择**: 不同类型的检索算法各有优劣, Dense Retriever擅长捕捉深层次语义相似度但计算成本较高; Sparse Retriever则相对轻量化易于部署却可能损失一些细微差别上的匹配精度. - **架构设计差异**: 根据实际应用场景的不同,RAG被细分为三种主要变体——Naive RAG、Advanced RAG 和 Modular RAG 。其中后者两种改进版本针对前者可能出现性能瓶颈之处进行了优化调整. - **效率考量**: 在线服务环境中如何平衡速度与效果成为一大挑战。为此人们提出了诸如提前缓存热门话题关联资料等手段试图缓解延迟问题. ```python from transformers import RagTokenizer, RagTokenForGeneration # 初始化 tokenizer 和 model tokenizer = RagTokenizer.from_pretrained("facebook/rag-token-nq") model = RagTokenForGeneration.from_pretrained("facebook/rag-token-nq") def generate_answer(question): input_ids = tokenizer.question_encoder([question], return_tensors="pt")["input_ids"] # 获取答案 with tokenizer.as_target_tokenizer(): outputs = model.generate(input_ids) answer = tokenizer.decode(outputs[0], skip_special_tokens=True) return answer # 测试函数 print(generate_answer("What is the capital of France?")) ``` 以上代码展示了如何使用Hugging Face Transformers库中的`RagTokenForGeneration`类来进行简单问答任务。 --- ###
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

非常大模型

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值