Retrieval-Augmented Generation(RAG)简介

【论文笔记】Active Retrieval Augmented Generation 传统方法采用retrieve-and-generate 的范式进行检索增强,这种方式一般仅检索一次。本文提出了一种名为的主动检索的方法,可以在生成过程中主动决定何时检索以及检索的内容。具体来说,它迭代式地对 待生成的句子进行预测,如果预测的句子中含有低置信度的token,就使用预测的结果作为query检索相关文档,然后重新生成句子。 阅读详情

一、什么是 RAG?

RAG 的全称是 Retrieval-Augmented Generation
资料是这么描述的:
RAG is an AI framework that combines the strengths of traditional information retrieval systems (such as search and databases) with the capabilities of generative large language models (LLMs)
翻译过来就是:是一个AI框架(人工智能框架),把以前提取系统消息的优势和LLM(是一种基于大量数据训练的统计语言模型)相结合出来的
我把他称为:提取文档信息,基于这些信息生成回答(仅作于个人说法)

二、RAG 的工作流程
大致可分为三个阶段
1、预处理文档:
我理解为,把一些数据,文档,网页,知识库,数据库等,这些分成小片段,这些片段可以理解为一组词(或者token),然后转换成为电脑可以理解的语义(这个词叫做"向量化"),存储到数据库

2、提取到相关内容:

我理解为,用户提问后(问题也会"向量化",去数据库中查找),根据语义去数据库做相似度搜索,即时没有重合的关键词,也能找到相关数据

3、生成回复内容:
我理解为,RAG框架会把"问题+相关片段"交给LLM(是一种基于大量数据训练的统计语言模型),自然准确的回答

注:"retrieval"单词理解存在点误差,含义指的是"检索",不是"提取",一开始我理解为提取,
提取指的是所有的内容,检索指的是只找相关内容,

三、RAG 的优势(google)

传统大语言模型虽然能力很强,但仍然存在一些天然限制:

  • 知识存在时间截止点,无法了解最新信息;

  • 容易出现“幻觉”,即生成不准确甚至虚构的内容;

  • 无法直接访问企业内部知识、私有文档或实时数据。

而 RAG 正是为了解决这些问题:

  • 可以接入最新数据;

  • 可以利用企业内部知识库;

  • 显著提高回答的准确性;

  • 有效减少模型“胡编乱造”的情况

论文阅读:Speculative RAG: Enhancing Retrieval Augmented Generation through Drafting 作者介绍了 SPECULATIVE RAG,一种利用较大、通用 LLM 高效验证由较小、经过提炼的专业 LLM 并行生成的多个 RAG 草案的框架。每个草稿都是从检索到的文件中的一个不同子集生成的,从而为证据提供了不同的视角,同时减少了每个草稿的输入 tokens。这种方法增强了对每个子集的理解,并减轻了 long context 中潜在的立场偏差。该方法将起草工作委托给较小的专家 LM,由较大的通用 LM 对草稿进行一次验证,从而加快了 RAG 的速度。 阅读详情

相关推荐

[论文阅读] |RAG评估_Retrieval-Augmented Generation Benchmark

RAG评估的benchmark_RGB

学习笔记 4078

RAG (Retrieval Augmented Generation)简介

RAG简介。中小企业怎样在预算有限的情况下,利用LLM为自身业务场景服务。 本文详细阐述了RAG的每一步骤。

juhanishen的博客 2048

一文读懂「RAG,Retrieval-Augmented Generation」检索增强生成

检索增强生成(RetrievalAugmentedGeneration),简称RAG,已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念,这使它们能够生成准确且符合上下文的答案,同时能够减少模型幻觉。知识的局限性:模型自身的知识完全源于它的训练数据,而现有的主流大模型(ChatGPT、文心一言、通义千问…)的训练集基本都是构建于网络公开的数据,对于一些实时性的、非公开的或离线的数据是无法获取到的,这部分知识也就无从具备。幻觉问题。

女王の专属领地 1万+

RAG(retrieval-augmented-generation)简介

检索增强生成(RAG)是指对大型语言模型输出进行优化,使其能够在生成响应之前引用训练数据来源之外的权威知识库。大型语言模型(LLM)用海量数据进行训练,使用数十亿个参数为回答问题、翻译语言和完成句子等任务生成原始输出。在 LLM 本就强大的功能基础上,RAG 将其扩展为能访问特定领域或组织的内部知识库,所有这些都无需重新训练模型。这是一种经济高效地改进 LLM 输出的方法,让它在各种情境下都能保持相关性、准确性和实用性。

weixin_40307696的博客 1186

【ros】ROS1的安装和相关使用方法

主要学习ros相关内容

Greary的博客 2379

深入解析SAP MM模块OBYC自动科目分配机制:从T030表到实战配置

本文深入解析SAP MM模块中OBYC自动科目分配机制,阐明其作为连接物流与财务核心桥梁的作用。文章以T030表为核心,详细拆解其字段结构与检索逻辑,并通过采购收货、生产发料等实战场景,手把手演示配置步骤与关键要点,帮助读者掌握从原理到实践的完整知识体系,实现业财无缝对接。

nft7creator的博客 356

RAG(Retrieval-Augmented Generation)简介

RAG是一种将 检索 和 生成 结合起来的技术。它的核心思想是:• 先查资料(检索):AI 先从一个外部知识库中找到与问题相关的内容。• 再生成答案(生成):基于检索到的信息,生成精准的答案。RAG = 查找 + 生成,类似于让 AI 先做一番“调查”,再给出回答。

AI新纪元,探索新时代 763

Arnold Denoise流程

参考:https://support.solidangle.com/display/ARP/Removing+Noise+Workflow Arnold生来不是一个以单帧渲染速度见长的渲染器,但这并不能作为一个简单场景渲染时间长达几个小时的借口。 个人认为高品质生产级渲染结果中,Unbiased renderer在渲染时最耗计算时间的其实就是降噪,以至于降噪专门成了一门灯光师必备的技术

机器猫的CG空间 5084

【有啥问啥】检索增强生成Retrieval-Augmented Generation(RAG)简介

Retrieval-Augmented Generation(RAG)是一种结合检索和生成的模型。它利用外部知识库(如维基百科、网页等)为生成任务提供支持,从而提高生成质量。RAG的核心思想是在生成过程中,动态地从外部知识库中检索相关信息,并将其融入生成过程中。本文详细介绍了Retrieval-Augmented Generation(RAG)的原理、公式及优势。作为一种结合检索和生成的模型,RAG在处理长文本、知识密集型任务方面具有显著优势。未来,RAG有望在自然语言处理领域发挥更大作用。

Chauvin的博客 1393

图解凸函数与凹函数:别再被数学定义搞晕了!

本文通过图解和生活化类比,深入浅出地解释了凸函数与凹函数的数学定义及其与日常直觉的差异。文章详细介绍了凸函数的图像特征、数学定义(包括二阶导数判断)、在机器学习中的重要性,以及常见误区和实际应用中的判断技巧,帮助读者彻底理解这一关键数学概念。

weixin_29159441的博客 654

verilog实现步进电机脉冲分配器(三相六拍)基于Nexys4DDR开发板

使用Verilog HDL设计的一个能够自启动、具有正反转功能的三相六拍步进电机脉冲分配器。已经写好Nexy4DDR的管脚约束文件 可以通过Nexys4DDR开发板的PMOD接口连接步进电机进行调试。 使用verilog语言 在vivado2018.2下运行编译下载都正确,(也可在ISE,QuartusII下使用)下面是工程截图: ...

QQ_778132974的博客 2590

MultiHop-RAG: Benchmarking Retrieval-Augmented Generation for Multi-Hop Queries 论文简介

随着大型语言模型(LLM)如ChatGPT的出现,自然语言处理领域取得了显著进展。然而,这些模型的输出有时可能包含错误或不准确的信息,这限制了它们在实际应用中的可靠性。为了解决这个问题,研究人员提出了检索增强生成(RAG)技术,该技术通过将外部知识库与LLM相结合,提高了生成的响应的质量和准确性。本文介绍了MultiHop-RAG,这是一个用于评估RAG系统性能的新基准测试数据集。与其他现有的RAG数据集不同,MultiHop-RAG专注于复杂的。

The cure for boredom is curiosity. This is the log of its adventures. 1537

Python 爬虫实战:arXiv 学术论文 PDF 批量下载(含反爬策略与文件命名规范)

arXiv 是全球最大的免费开放预印本论文平台之一,涵盖物理学、数学、计算机科学等多个学科领域。研究人员、学生和工程师常常需要批量下载论文 PDF 进行文献综述、构建机器学习数据集或进行文本挖掘研究。然而,手动逐篇下载论文效率低下,因此开发一个自动化批量下载工具显得尤为重要。

yansideyucsdn的博客 1817

[RAG与Momento Vector Index结合使用的指南:高效的数据查询与管理]

Momento Vector Index是一个提供高效向量检索的云服务。它的设计初衷是简化开发者在处理大规模数据时的复杂度,无需处理服务器管理与扩展问题。通过注册Momento帐户,你可以轻松访问这一服务。本文介绍了如何结合使用Momento Vector Index与OpenAI进行高效数据管理。通过这种组合方式,开发者能够简化复杂应用的实现过程,同时提升系统的可靠性与可扩展性。

stjklkjhgffxw的博客 360

基于 Langchain 开发一个完整的支持多轮数据分析(直连 mysql 数据,多表综合分析 SQL 取数,数据分析,报表生成)ChatBI 系统(前后端完整实现源代码)

ChatBI系统开发摘要 本文介绍了基于Langchain的多轮数据分析ChatBI系统开发方案。该系统支持MySQL数据库连接,提供多表分析、SQL查询、数据分析和报表生成功能。系统采用前后端分离架构:前端使用React+Ant Design+ECharts实现交互界面;后端基于FastAPI搭建服务,集成Langchain处理自然语言到SQL的转换;核心技术栈还包括SQLAlchemy、Pandas和Matplotlib。 系统核心模块包括: 数据库连接层:使用SQLAlchemy管理MySQL连接 L

AI天才研究院 814

3.1 快速启动Flink集群

在本实战中,我们将快速启动Apache Flink 1.13.0集群,并在Hadoop集群环境中提交作业。首先,我们会在本地下载Flink安装包并上传至云主机,解压并配置环境变量。接着,我们将启动Flink集群,通过访问Web UI进行监控管理。然后,我们会配置集群,将Flink分发到从节点,并在集群上提交作业。最后,我们将通过命令行提交作业,并在Web UI上查看任务节点的输出结果。这个过程涵盖了Flink集群的部署、配置和作业提交,为大数据处理提供了一个完整的实战经验。

howard2005的专栏 727

RAG综述 《Retrieval-Augmented Generation for Large Language Models: A Survey》笔记

RAG(Retrieval-Augmented Generation)综述 [Retrieval-Augmented Generation for Large Language Models: A Survey](https://arxiv.org/abs/2312.10997) 粗略笔记

beingstrong的博客 8856

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

RAG 精读《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》

训练好的模型其学习知识是参数化的,是内嵌在模型中,不可避免导致了记忆的有限性,并且可能出现幻觉,RAG 就是将参数记忆和非参数记忆(外部数据库)相结合,从而增强模型的表达能力。

m0_61969839的博客 2009

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

认识Retrieval Augmented Generation(RAG)

Retrieval-Augmented Generation (RAG) 是一种结合信息检索和生成式AI技术的框架。它通过从外部数据源检索信息,增强语言模型(如GPT-3)的生成能力,从而提供更加准确和相关的回答。RAG可以利用外部数据源生成精确的摘要,节省大量时间。例如,经理和高管可以快速获取重要信息,而无需通读冗长的报告。RAG 是利用大型语言模型并结合专门数据库的最佳技术之一。虽然存在输入数据质量依赖等限制,但通过谨慎的数据管理和专家知识的融合,可以确保系统的可靠性和有效性。

weixin_49477258的博客 1594

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

RAG助手可视化:基于Renumics的Retrieval-Augmented Generation实战指南

RAG助手可视化:基于Renumics的Retrieval-Augmented Generation实战指南 项目介绍 RAG助手可视化是由Renumics团队开发的一个开源项目,旨在提供一个强大且直观的界面来探索和可视化Retrieval-Augmented Generation(RAG)系统的工作流程。它利用了LangChain和Streamlit技术栈,让你能够轻松地对RAG数据进行交互式分...

gitblog_00640的博客 865

Parametric Retrieval Augmented Generation

本文提出了一种参数化检索增强生成(Parametric RAG)方法,通过文档参数化改进传统RAG系统。该方法在离线阶段将文档转换为参数化表示:首先通过文档重写和QA对生成增强文档内容,然后使用LoRA技术编码为参数形式。在线推理时,系统检索相关文档后将其参数化表示合并到大语言模型中,实现高效的知识注入。该方法克服了传统RAG在知识融合效率上的不足,为外部知识整合提供了新思路。实验部分展示了参数化表示在知识保留和问答效果上的优势。

YxinMiracle's Studio. 1062

Retrieval-Augmented Generation(RAG)

RAG(检索增强生成)是一种结合检索技术与生成式AI的混合架构,通过从知识库检索相关信息来增强生成回答的准确性。其核心流程包括检索(将查询转换为向量并从知识库匹配内容)、增强(拼接检索结果与用户提问)和生成(基于增强提示生成回答)。知识库构建涉及文档处理、向量转换与存储。关键技术包括Embedding模型、向量数据库及检索优化策略。SpringAI框架支持ETL流程(抽取、转换、加载)和模块化检索优化,通过查询转换、文档过滤等环节提升模型回复质量。

yvya_的博客 2424

Corrective Retrieval Augmented Generation(CRAG):构建更可靠的信息抽取与生成系统

本文围绕 Corrective Retrieval Augmented Generation(CRAG)展开,系统介绍了其提出背景、核心思想与整体架构。文章重点阐述了 CRAG 如何在传统 RAG 检索结果相关性不足的情况下,通过检索质量评估、知识片段提炼以及互联网补充搜索等机制,对信息获取路径进行纠正与增强,从而提升生成结果的准确性与覆盖范围。同时结合工程实现策略与典型应用场景,分析了 CRAG 在实际系统中的价值与优势,为构建更可靠、更具鲁棒性的智能问答与知识生成系统提供了实践参考。

曾经“等你生日那天”都遥远得像未来,如今却可欢愉的挥手说“下个十年见” 5万+

【NLP】 31. Retrieval-Augmented Generation(RAG):KNN-LM, RAG、REALM、RETRO、FLARE

KNN-LM, RAG、REALM、RETRO、FLARE

weixin_48846514的博客 1243

LLMs之RAG:《Searching for Best Practices in Retrieval-Augmented Generation》翻译与解读

​ LLMs之RAG:《Searching for Best Practices in Retrieval-Augmented Generation》翻译与解读 目录 《Searching for Best Practices in Retrieval-Augmented Generation》翻译与解读 Abstract 1、Introduction Conclusion 《Searching for Best Practices in Retr

头部AI社区如有邀博主AI主题演讲请私信—心比天高,仗剑走天涯,保持热爱,奔赴向梦想!低调,专注,谦虚,自律,反思,成长,还算比较正能量的博主,公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然,有点小情怀,也有点使命感呀 1786

Retrieval-Augmented Generation讲解

Retrieval-Augmented Generation讲解 【下载地址】Retrieval-AugmentedGeneration讲解 Retrieval-Augmented Generation (RAG) 检索增强生成模型是一种创新技术,结合了检索与生成的优势。在问答和对话场景中,RAG 不仅通过检索外部知识库...

gitblog_06774的博客 792
上一篇: 华为账号一键登录开发笔记
我喜欢仙女儿
博客等级 码龄10年 7粉丝 3原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值