RAG（Retrieval-Augmented Generation）系统中大模型（LLM）的底层运行逻辑详解

最新推荐文章于 2025-12-17 17:41:55 发布
原创 最新推荐文章于 2025-12-17 17:41:55 发布 · 1.6k 阅读 · 41 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能

以下是RAG（Retrieval-Augmented Generation）系统中大模型（LLM）的底层运行逻辑详解，结合检索与生成两阶段的核心流程，通过技术拆解和代码示例说明其工作原理：

一、RAG系统中大模型的底层运行逻辑

最低0.47元/天 解锁文章
一文读懂「RAG，Retrieval-Augmented Generation」检索增强生成
女王の专属领地
01-20 1万+
检索增强生成（RetrievalAugmentedGeneration），简称RAG，已经成为当前最火热的LLM应用方案。它是一个为大模型提供外部知识源的概念，这使它们能够生成准确且符合上下文的答案，同时能够减少模型幻觉。知识的局限性：模型自身的知识完全源于它的训练数据，而现有的主流大模型（ChatGPT、文心一言、通义千问…）的训练集基本都是构建于网络公开的数据，对于一些实时性的、非公开的或离线的数据是无法获取到的，这部分知识也就无从具备。幻觉问题。
RAG（Retrieval-Augmented Generation，检索增强生成）
allein_STR的博客
05-19 195
RAG（Retrieval-Augmented Generation）是一种结合检索与生成的架构，旨在解决传统语言模型在处理需要外部知识任务时的局限性。传统模型依赖预训练数据，难以处理动态或实时信息，且可能产生错误信息。RAG通过检索外部知识库获取相关信息，再结合语言模型生成回答，适用于问答系统、事实核查、实时信息生成等需要准确外部知识的任务。RAG架构包括检索器、向量数据库、生成模型和排序/过滤模块，形成“检索-生成-反馈”链路。其优势包括知识时效性、抗幻觉能力、可解释性和轻量级适配。典型应用场景包括企业
大模型AI的运行逻辑与准确性保障机制——以DeepSeek与豆包为例
云轩阁
04-21 1012
大模型的智能源于对海量知识的系统化重组与创造性连接。DeepSeek与豆包虽技术路径不同，但都印证了"数据×算力×算法"的AI发展定律。随着知识蒸馏、联邦学习等技术的深化，未来的智能系统将更精准地平衡专业深度与常识广度，成为人类认知进化的加速器。
[AI 概念域] AI 大模型到底是怎么运行的？（通俗解读）
wangdsh的博客
02-27 853
说明：这里用 图书馆查询→思维风暴→文字接龙 三阶段模型，理解AI大模型如何工作。 AI大模型的运行机制可简化为三步： 首先将输入文字拆解为数字密码（如把“春天”编码为包含季节、温度等特征的高维向量），类似图书管理员给书籍贴标签归类； 接着通过自注意力机制在“记忆宫殿”中动态关联信息（如处理“春天开花”时，自动强化温度与植物生长的联系，抑制春节放鞭炮等无关联想），这如同学霸用手电筒在图书馆快速定位相关书籍； 最后基于统计概率玩文字接龙，每次选择最可能的后续词汇（如“春天”后接“花
大模型插件解析
m0_57057282的博客
02-21 744
执行流程和流程执行组件的封装。多个Chain可以组合成更复杂的Chain，用来完成复杂任务。
大模型，真的有未来吗？
Javachichi的博客
05-25 433
大模型在近年来已经成为人工智能领域的热门话题。随着计算机算力的不断提升和数据的不断积累，大模型已经取得了很多令人瞩目的成果，比如最近出现的 GPT-4o 模型。通过自然语言处理，大模型可以实现语言理解、文本生成等多种应用，具有很大的潜力。当然，大模型也面临着一些挑战，比如需要大量的数据和算力支持，而且训练和部署需要耗费大量的时间和资源。另外，大模型也存在着一些伦理和法律等方面的问题，比如数据隐私、算法透明度等。因此，虽然大模型具有巨大的发展潜力，但也需要在技术、法律、伦理等多个方面进行平衡和探索。
大模型到底是什么？小白也能看懂的科普贴
2301_76161259的博客
09-13 909
（图源网络）从去年到今年，大模型、chatGPT等概念和技术越来越火，但是像笔者一样的技术小白一直对大模型是一种似懂非懂的状态。鉴于最近在做基于大模型和Agent的上层AI应用，如若不了解底层概念，始终还是会限制产品层的能力，因此，最近2周零散时间读完了这本由复旦团队出版的《大规模语言模型：从理论到实践》，基本涉及到了大模型入门所需的核心框架内容，适合扫盲看。因此，基于这本书的核心框架，来结合自己的理解聊一聊大模型到底是什么？01 大模型到底是什么？和以前的AI有何区别？
RAG (Retrieval-Augmented Generation) 与 iRAG (image based Retrieval-Augmented Generation)
程永强
11-16 2034
RAG (Retrieval-Augmented Generation) 与 iRAG (image based Retrieval-Augmented Generation)
RAG（Retrieval-Augmented Generation）技术详解
weixin_47242663的博客
08-06 926
摘要： RAG（检索增强生成）技术通过结合信息检索与文本生成，提升大语言模型在知识密集型任务中的表现。其核心流程包括从外部知识库检索相关信息，并基于检索结果生成回答，相比纯LLM具有知识实时性、领域适配性和更高的事实准确性。RAG技术架构包含检索模块（如向量检索）和生成模块，支持多种进阶模式（如多模态RAG、智能体协同检索等）。实践应用中需优化分块策略、检索方法和生成控制，典型场景包括企业知识问答和医疗辅助诊断。当前挑战涉及检索延迟和多跳推理，未来方向聚焦动态检索和轻量化。RAG正成为企业AI应用的核心架构
Retrieval-augmented Generation(RAG)
m0_72572822的博客
09-17 1574
RAG
AUTO-RAG: AUTONOMOUS RETRIEVAL-AUGMENTED GENERATION FOR LARGE LANGUAGE MODELS
c_cpp_csharp的专栏
12-30 355
迭代检索是指模型在生成过程中不断查询检索器，以增强检索到的知识的相关性，从而提高检索增强生成（RAG）的性能的过程。现有的工作通常采用很少的样本提示或手动构建的规则来实现迭代检索。这引入了额外的推理开销，并忽略了大型语言模型（LLM）的卓越推理能力。本文介绍了Auto RAG，这是一种以LLM强大的决策能力为中心的自主迭代检索模型。Auto RAG与检索器进行多轮对话，系统地规划检索并细化查询，以获取有价值的知识。这个过程会一直持续到收集到足够的外部信息，然后将结果呈现给用户。
以太联的自愈功能与看门狗机制解析
suzhou_speeder的博客
12-15 961
看门狗(Watchdog)是一种硬件或软件实现的定时器机制，其核心功能是监控系统或程序的运行状态，防止程序跑飞或陷入死循环。案例：车载以太网交换机通过硬件看门狗实时监测链路状态，若检测到链路中断(如3ms内未收到心跳包)，立即启用备用路径，确保刹车、转向等关键系统永不掉线。案例：某智能工厂的PLC(可编程逻辑控制器)采用软件看门狗，若主程序因干扰死机，看门狗机制自动重启PLC，恢复生产流程。三者协同工作，实现“设备-交换机-网络”三级自愈，显著提升网络可靠性、降低运维成本，并为企业数字化转型提供坚实基础。
多模态赋能情绪理解：Qwen3-VL+LLaMA-Factory 的人脸情绪识别实战
最新发布
Lab4AI的博客
12-17 477
本项目依托Lab4AI平台，基于LLaMA-Factory成功对Qwen3-VL进行了完整的微调流程。我们将传统的人脸情绪识别任务与多模态大语言模型（MLLM）相结合，探索了MLLM在视觉情绪理解中的应用。通过微调Qwen3-VL，我们成功将传统的分类任务转化为多模态推理任务，显著提升了模型在复杂场景下的鲁棒性和准确率。这一方案不仅在人脸情绪识别上取得了显著提升，还为其他视觉任务的多模态大模型应用提供了新的思路，具有广泛的应用前景。
Transformer架构的原理是什么？
SACKings的博客
12-15 700
对于“Thinking”这个词，它的输出向量可能包含了90%它自己的信息和10%“Machines”的信息。而对于“Machines”，它的输出可能包含了70%它自己的信息和30%“Thinking”的信息。Transformer 架构的原理是理解现代大模型（如 GPT、BERT、T5 等）的基石。正是因为这些原理上的优势，Transformer才取代了RNN和CNN，成为了当今AI大模型时代的统治性架构。的（打乱输入顺序，输出可能不变），它没有内置的位置概念。Q·K 然后Softmax。
AIDD-人工智能药物设计-扩散模型热力学：从 AI 提取物理能量
itwangyang520的博客
12-14 982
扩散模型的核心是加噪与去噪。这对业界的启示是，要实现精准医疗，特别是针对耐药突变的药物设计，不能仅依赖大语言模型（Large Language Model, LLM）处理序列。他们从文献和数据库中挖掘了过去被忽略的细节：氨基酸的替换、插入、缺失，以及关键的磷酸化修饰，最终整理出 4032 对新的激酶 - 配体数据。GeneGPT 曾展示了大语言模型（LLM）在生物医药领域的潜力，而 OpenBioLLM 提出了不同于 GeneGPT 单体（Monolithic）架构的方案：组建由「专家」构成的团队。
vLLM推理引擎教程4-离线推理功能
benben044的专栏
12-12 1081
本文介绍了使用vLLM框架优化推理性能的多种方法。主要内容包括：1）基础文本生成、对话式推理、文本分类和嵌入提取四种任务的基本实现；2）自动前缀缓存功能，通过共享KV缓存加速长上下文处理；3）使用YARN方法扩展模型上下文长度；4）多模态任务处理示例（Whisper语音识别）；5）底层LLMEngine API的使用。文章通过具体代码示例展示了如何设置参数实现各类推理优化，包括温度调节、top-p采样、缓存复用等技巧，适用于文本生成、分类、嵌入等多种NLP任务场景。
观成科技:Zloader木马家族加密流量分析
GCKJ_0824的博客
12-12 809
摘要：Zloader木马最初作为银行木马Zeus的下载器，现被广泛用于勒索软件投递。其采用多种加密通信技术规避检测：1）DGA技术生成随机域名；2）DNS隧道隐藏数据；3）HTTPS加密通信；4）Websocket掩码加密。最新版本通过会话密钥强化DNS隧道加密。观成科技利用AI模型结合TLS指纹检测HTTPS加密流量，持续通过行为分析和机器学习应对加密威胁。研究表明，恶意软件正不断升级流量对抗技术，凸显加密流量检测的重要性。（149字）
nl2sql技术实现自动sql生成之Spring AI Alibaba Nl2sql
疾风sxp的博客
12-15 798
上一节我们在介绍了自然语言转sql的基本思路，今天我们通过实操来解决这一技术实现，通过Spring AI Alibaba开源的nl2sql框架进行这块技术的讲解。
“人工智能 +” 创新大会签约落定，云工场科技与沐曦、中国移动等企业携算力服务助力潍坊转型发展
Cloudcsp的博客
12-12 601
大会紧密围绕贯彻落实党的二十届四中全会精神，旨在纵深推进“人工智能+”行动，促进人工智能与实体经济深度融合，为培育和发展新质生产力注入强大 AI 动能。，共同推进智能算力供给与行业应用落地。聚焦于行业大模型落地应用、高效智能算力供给、以及“人工智能+”模式创新等多个关键方向，携手构建开放、协同、共赢的 AI 产业生态。在大会签约环节，昌邑市、安丘市、寒亭区、潍城区等政府单位围绕人工智能+治理分别推进相关合作布局；等核心能力，协同产业伙伴共同服务潍坊“人工智能+”行动，助力区域新质生产力加速培育。
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks复现
01-10
### 如何实现检索增强生成(Retrieval-Augmented Generation, RAG)在知识密集型自然语言处理任务中的应用 #### 设计架构 为了应对大型语言模型(LLM)在处理特定领域或知识密集型任务时遇到的挑战，如幻觉(hallucination)、过时的知识等问题[^1]，可以采用RAG框架来提升性能。该方法通过引入外部权威知识库，在生成回复前先进行信息检索并融合这些高质量的信息源。 #### 数据准备 构建一个适合目标应用场景的数据集非常重要。对于知识密集型的任务来说，这通常意味着收集来自可靠资源的事实性陈述或其他形式的相关资料作为补充材料。例如医学文献数据库PubMed可用于医疗咨询类问题解答；法律条文汇编则适用于法规解释场景。 #### 模型选择与配置 选用预训练好的大规模语言模型作为基础组件，并对其进行微调以适应具体业务需求。同时还需要设置专门用于执行文档检索操作的服务端接口或者API客户端工具包。当接收到用户输入后，系统会自动向指定搜索引擎发起请求获取最匹配的结果片段列表。 #### 集成流程说明 整个工作流大致分为三个阶段： - **查询解析**：分析用户的原始提问意图，提取其中的关键概念词组； - **证据搜集**：基于上述关键词利用预先定义好连接至专业知识库(比如维基百科页面链接集合) 的 API 接口抓取若干篇目摘要内容； - **答案合成**：最后一步就是把前面两步得到的信息传递给 LLM 进行最终的回答创作。此时不仅要考虑如何合理安排句子顺序使得表达连贯流畅，还要注意避免直接复制粘贴原文本而造成版权侵权风险。 ```python import requests from transformers import pipeline def rag_pipeline(question): # Query Parsing Stage key_terms = extract_keywords(question) # Evidence Collection Stage retrieved_docs = [] for term in key_terms: response = requests.get(f"https://api.example.com/search?q={term}") docs = response.json()['results'] retrieved_docs.extend(docs[:3]) # Limit to top 3 results per keyword context = "\n".join([doc['snippet'] for doc in retrieved_docs]) # Answer Synthesis Stage using pre-answering') result = qa_model({ 'context': context, 'question': question }) return result['answer'] # Example usage print(rag_pipeline("What are the symptoms of diabetes?")) ```
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

小赖同学啊

感谢上帝的投喂

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值