RAG技术：是将知识库的文档和问题共同输入到LLM中（附教程）

最新推荐文章于 2025-04-02 17:51:00 发布
最新推荐文章于 2025-04-02 17:51:00 发布
阅读量687 收藏 17
点赞数 21
文章标签： 人工智能 AI大模型 自然语言处理 程序员 langchain RAG 知识库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/2401_82469710/article/details/146475019
版权

RAG技术是先从知识库中检索出与问题相关的文档片段，然后将这些检索到的 文档片段与问题一起输入到LLM中进行回答。具体过程如下：

文本分块

由于LLM的上下文窗口有限，需要将**长文本资料分割成较小的块**，以便LLM能够有效地处理。

嵌入及存储块到向量数据库

使用向量嵌入技术为每个文本块生成向量表示，并存储这些向量到向量数据库中。

检索

当用户提出查询时，系统利用向量数据库进行检索，找到与查询语义上最相似的文本块。

生成回答

将**检索到的文本块与用户的问题**一起作为LLM的输入，LLM根据接收到的上下文信息和问题生成回答。

RAG技术即检索增强生成技术，是一种将**检索系统与生成模型相结合的技术架构**，利用**向量数据库从外部知识库中检索相关信息**，**增强大模型生成的能力**。以下是一些具体应用的例子：

客户服务领域

某大型电信运营商的智能客服系统采用了RAG技术。当用户咨询“如何办理5G套餐变更业务”时，系统首先将问题向量化，然后在知识库中检索相关的业务文档、常见问题解答、用户手册等内容。知识库中可能存在多篇相关文档，如“**5G套餐变更流程介绍**”“**线上线下办理5G套餐变更的方法对比**”等。

检索到这些内容后，系统将**其与用户的问题一起输入到生成模型**中，生成模型根据这些信息和自身的语言理解能力，为**用户生成详细、准确的回答**，

如“您可以通过我们的手机营业厅APP，在套餐变更页面选择5G套餐并按照提示进行操作，也可以前往附近的营业厅，由工作人员为您办理，办理时请携带有效身份证件”等。

医疗健康咨询领域

在线医疗平台上，用户描述“我最近经常头痛，还伴有恶心的症状，是怎么回事”。系统会将该问题向量化后在医学知识库中进行检索，知识库包含大量的**医学文献、临床案例、疾病诊断指南**等。

可能检索到“偏头痛的症状及诊断方法”“颅内压增高导致头痛恶心的原因及治疗”等相关信息。然后将这些检索到的内容和用户的问题一同提供给生成模型，生成模型据此为用户生成个性化的建议。

如“头痛伴恶心可能是多种原因引起的，偏头痛通常会有单侧头部搏动性疼痛、畏光、畏声等症状，颅内压增高也可能导致此类情况，建议您及时就医，进行详细的检查，如头颅CT等，以明确病因”。

智能写作助手领域

当用户需要创作一篇关于“人工智能在金融领域的应用与风险”的文章时，RAG系统会在金融知识库中检索相关的资讯、研究报告、行业分析等。比如检索到“人工智能在金融风险防控中的应用”“人工智能算法对金融市场的影响”“金融领域应用人工智能面临的数据安全风险”等内容。然后将这些内容与用户的写作主题一起输入到生成模型中，生成模型会根据这些丰富的素材进行创作，生成一篇内容全面、有深度的文章，如“随着科技的飞速发展，人工智能在金融领域的应用日益广泛，从风险防控到投资决策，都发挥着重要作用。然而，其在带来便利的同时，也潜藏着数据安全、算法偏见等风险……”。

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

基于此，我用做产品的心态来打磨这份大模型教程，深挖痛点并持续修改了近70次后，终于把整个AI大模型的学习门槛，降到了最低！

在这个版本当中：

第一您不需要具备任何算法和数学的基础
第二不要求准备高配置的电脑
第三不必懂Python等任何编程语言

您只需要听我讲，跟着我做即可，为了让学习的道路变得更简单，这份大模型教程已经给大家整理并打包，现在将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)
在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

五、AI产品经理大模型教程

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

  • 目标：了解AI大模型的基本概念、发展历程和核心原理。

  • 内容：

    • L1.1 人工智能简述与大模型起源
    • L1.2 大模型与通用人工智能
    • L1.3 GPT模型的发展历程
    • L1.4 模型工程
    • L1.4.1 知识大模型
    • L1.4.2 生产大模型
    • L1.4.3 模型工程方法论
    • L1.4.4 模型工程实践
    • L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

  • 目标：掌握AI大模型API的使用和开发，以及相关的编程技能。

  • 内容：

    • L2.1 API接口
    • L2.1.1 OpenAI API接口
    • L2.1.2 Python接口接入
    • L2.1.3 BOT工具类框架
    • L2.1.4 代码示例
    • L2.2 Prompt框架
    • L2.3 流水线工程
    • L2.4 总结与展望

阶段3：AI大模型应用架构实践

  • 目标：深入理解AI大模型的应用架构，并能够进行私有化部署。

  • 内容：

    • L3.1 Agent模型框架
    • L3.2 MetaGPT
    • L3.3 ChatGLM
    • L3.4 LLAMA
    • L3.5 其他大模型介绍

阶段4：AI大模型私有化部署

  • 目标：掌握多种AI大模型的私有化部署，包括多模态和特定领域模型。

  • 内容：

    • L4.1 模型私有化部署概述
    • L4.2 模型私有化部署的关键技术
    • L4.3 模型私有化部署的实施步骤
    • L4.4 模型私有化部署的应用场景

这份 LLM大模型资料 包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉优快云大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

​

RAG-基于本地知识库检索+LLM微调的智能问答系统实现-附项目源码-优质项目实战.zip
09-03
在智能问答系统中，RAG模型（Retrieval-Augmented Generation）是一种结合了检索和生成的模型，它首先从一个预先定义好的知识库中检索出相关的信息，然后利用预训练的语言模型（LLM）生成最终的答案。 在本文中，...
本地LLM 模型搭建知识库系统的经验
m0_65794541的博客
03-12 633
比如，如果数据显示在特定时间段内系统响应时间过长，可能是并发用户数超过了系统承载能力，进而可以采取优化服务器配置、调整并发管理策略等措施，提高知识库系统的准确性和实用性，更好地服务用户。比如，根据原材料与产品之间的生产关联，在知识库中建立相应的索引，当用户查询关于某产品的生产原料信息时，系统能够依据优化后的索引快速定位到相关内容。同时，参考数据模型中的数据分类方式，对知识库中的文档进行分类存储，提高检索效率，使 LLM 知识库系统在处理相关业务问题时更加高效、准确。
RAG技术：是将知识库的文档和问题共同输入到LLM中
2401_82469710的博客
01-15 806
RAG技术是先从知识库中检索出与问题相关的文档片段，然后将这些检索到的\*\*文档片段与问题\*\*一起输入到LLM中进行回答。
LLM大模型框架+RAG企业私有知识库+完整代码
12-06
具体到本次提供的压缩包文件内容，文件名称为"dify-0.6.11"，虽然没有直接提供关于文件内容的具体信息，但可以推测该文件可能包含了构建LLM大模型框架和RAG企业私有知识库所需的软件包或工具集，其中可能包括代码库...
基于大语言模型和 RAG 的知识库问答系统.zip
09-26
RAG模型首先从知识库中检索与问题相关的文档，然后将这些文档作为额外的上下文输入到语言模型中，生成最终的答案。这种方法不仅提高了问答的准确性，还能处理更加复杂和开放的问题。 在知识库问答系统中应用大语言...
本项目是一个基于大语言模型（LLM）和检索增强生成（RAG）技术的开源知识库问答系统，旨在提供智能客服、企业内部知识库、学术研究和教育等场景的解决方案
03-18
本项目是一个基于大语言模型（LLM）和检索增强生成（RAG）技术的开源知识库问答系统，旨在提供智能客服、企业内部知识库、学术研究和教育等场景的解决方案。项目具备以下特点： 开箱即用：支持直接上传文档或自动...
14章RAG全栈技术从基础到精通 ，打造高精准AI应用
03-04
RAG方法让LLM能够获取内化知识之外的信息，并允许LLM在专业知识库的基础上，以更准确的方式回答问题，并且不会特别消耗资源。 在大模型时代，是用于解决幻觉问题、知识时效问题、超长文本问题等各种大模型本身制约...
YO-CSA-T：基于上下文与空间注意力的实时羽毛球轨迹追踪系统解析
hasakie的博客
03-31 792
本文围绕羽毛球轨迹实时追踪问题展开，提出了一种基于改进YOLOv8的检测网络（YO-CSA）和集成多模块的3D轨迹追踪系统。全文结构如下：​摘要提出YO-CSA检测网络，结合上下文与空间注意力机制提升检测精度（mAP@0.75达90.43%）。构建实时3D轨迹追踪系统，集成检测、预测、补偿模块，帧率超130fps。​引言​背景：羽毛球高速飞行、易与环境混淆，传统检测方法精度不足。​挑战：实时性、3D轨迹重建、遮挡补偿。​贡献：轻量化检测网络、多维度时空约束策略、完整系统设计。​相关工作​。
当前制造业为何不宜自行部署训练人工智能？
qq_35209305的博客
03-30 501
人工智能（AI）正以前所未有的速度渗透到各行各业，其在提高效率、降低成本、改善决策和创造新机会方面的潜力已被广泛认可。制造业作为国民经济的重要支柱，自然也对AI寄予厚望。AI在制造业中展现出巨大的应用价值，尤其是在质量控制、预测性维护、流程优化、供应链管理和产品设计等方面。然而，尽管AI的益处显而易见，当前绝大多数制造企业，尤其是传统制造企业，并不适合自己部署和训练AI模型。这主要是由于投资回报率不高、数字化基础薄弱、数据质量差、存在信息孤岛、缺乏相关AI人才和高人力成本等多重因素所致。
毫米波雷达设计：1.原理与分类
qq_53529450的博客
03-31 1171
毫米波雷达
监测预警中心工作流程汇总
形上得其象，形下合于数；阴阳自济，玄理自明。
04-01 117
【代码】监测预警中心工作流程汇总。
目标识别与双目测距(1)环境搭建：Ubuntu+yolov5+pcl库
SHIE_Ww的博客
03-29 1050
识别不到摄像头（解决如上）问题2：库等不匹配相关问题不匹配1：yolov5 要求的是 torchvision 0.9.1解决：# S1.卸载当前torchvision 版本# S2.安装正确版本的 torchvision# S3.确认 torch 版本是否匹配# S4.如果当前版本与 YOLOv5 要求的不匹配，安装兼容版本# S5.检查依赖是否正确不匹配2：YOLOv5 需要版本 >=2.2 的 tensorboard。
《边缘计算风云录：FPGA与MCU的算力之争》
云轩阁
03-30 435
大漠边缘的“传感器客栈”里，老板娘赛博娘愁眉紧锁——近日，过往商队（物联网设备）激增十倍，客栈的算力结界濒临崩溃： • 视频骆驼队要求实时处理4K驼铃影像； • 温湿度镖局哀求秒级响应粮仓警报； • 机械臂马帮嘶吼着要0.5ms精确控制…… 赛博娘掏出两枚令牌，一枚刻着**“FPGA”（现场可编程门阵列），一枚印着“MCU”**（微控制器），咬牙道：“今夜，谁能镇住这算力沙暴，谁就是边城新主！”
langchain embedding 自定义模型(bge)实现
Python/Java/MySQL技术栈，快来和我一起学习吧 ~
04-02 377
该实现方案在保持 LangChain 兼容性的同时，提供了灵活的自定义能力，可以方便地替换不同的 Transformer 模型，适应各种业务场景需求。
一套AI训推一体化解决方案约等于100万个应用？
最新发布
weixin_43140076的博客
04-02 287
一套AI训推一体化解决方案，加上开源模型，约等于100万个应用。
脑疾病分类的疑惑【6】：脑疾病分类比较适合使用具有哪些特点的模型？
m0_55939576的博客
03-30 568
深度学习模型（CNN、LSTM、Transformer），适合处理医学影像（如MRI、CT）和时间序列信号（如EEG）。集成学习方法，适用于提高分类精度并处理不平衡数据。图神经网络（GNN），适用于脑网络连接性分析和功能连接性研究。如果您的研究中涉及不同模态数据，和集成学习可能是非常有效的选择；而单一模态数据（如MRI或EEG）则可以考虑使用CNN和LSTM。您目前更侧重于哪类数据（影像数据、脑电信号，还是多模态数据）？我可以根据您具体的研究方向进一步提供建议。
利用deepseek直接调用其他文生图网站生成图片
jackyrongvip的专栏
03-31 215
你是一个图像生成助手，请根据我的简单描述，想象并详细描述一幅完整的画面。然后将你的详细描述翻译成英文，并插入到以下链接的{prompt}部分：!描述如下：中国80，90年代的儿童公园。
沉浸式体验测评｜AI Ville：我在Web3小镇“生活”了一周
区块链蓝海
04-01 327
最夸张的是一个商人Lucas，我有一次跟他杀价太狠，结果他直接记住了这事，第二天就抬高了我所有商品的采购底价，还冷冷地说了一句：“市场就是这样，朋友。玩家在这里不是高高在上的“上帝”，而是与AI平等的参与者。土地价格会随着供需波动，水资源偶尔会短缺，最让我崩溃的是，我的AI邻居居然开始抢我的市场份额。AI Ville最让我震撼的地方，还不是这些AI的个性，而是他们作为“Web3公民”的身份。后来我才知道，每个AI角色都有自己的目标和情绪系统，他们不是单纯执行命令的工具，而是会根据自己的“生活需求”做决定。
精准的集装箱号码识别技术在过磅系统中的应用，显著提升物流效率、减少人为错误
03-29 310
集装箱号码识别技术在物流厂区过磅系统中的应用，主要通过自动化采集和处理集装箱唯一标识信息，显著提升物流效率、减少人为错误，并实现数据全流程可追溯，货车进入厂区过磅时，系统需快速记录集装箱重量及对应箱号，传统人工录入效率低且易出错。基于深度学习的集装箱号识别以及车牌识别技术通过相机抓拍集装箱号后进行图像的去燥、纠偏、二值化等分析后进行字符的识别。5）环境适应性强：阴、雨、雪等天气下以及黑夜、强光、阴阳箱号、污损箱号等情况下均可识别。3）智能：红外触发，自动裁切、拍照、识别；
RAG和LLM
03-18
### RAG 检索增强生成与 LLM 大语言模型的关系 RAG（检索增强生成）和 LLM（大语言模型）之间的关系可以被理解为一种协同作用。LLM 是通过大规模数据训练而来的通用语言模型，具备强大的语言理解和生成能力[^1]。然而，在特定领域或实时更新的知识需求下，LLM 可能会面临知识过时或缺乏最新信息的问题。此时，RAG 技术作为一种补充手段应运而生。 RAG 通过引入外部知识源来弥补 LLM 的不足。具体而言，RAG 将检索到的相关文档片段整合到生成流程中，从而使得生成的回答更加精准、可靠且具有时效性[^2]。这种机制不仅提升了回答的质量，还增强了模型对于新知识的学习能力和适应性。 --- ### RAG 和 LLM 的主要区别 #### 数据来源 - **LLM**: 主要依赖于预训练阶段所学习的大规模语料库，这些数据通常是静态的，并且在模型发布之后不再更新。 - **RAG**: 动态地从外部数据库或其他资源中获取最新的上下文信息，能够即时反映当前事件或专业知识的变化。 #### 计算复杂度 - **LLM**: 单纯依靠自身的参数进行推理，计算成本较高，尤其是在面对大量输入时可能会变得低效。 - **RAG**: 需要在检索阶段额外消耗一定的开销用于查询相关资料；但是由于只针对少量高相关性的内容建模，整体效率反而有所提升[^3]。 #### 应用灵活性 - **LLM**: 更适合开放域的任务，比如自由对话、创意写作等不需要严格事实依据的应用场景。 - **RAG**: 特别适用于封闭式问答或者需要高度精确性和权威支持的企业级解决方案，例如客服机器人、医疗咨询等领域。 --- ### RAG 和 LLM 的典型应用场景 | 场景 | 描述 | |--------------------------|----------------------------------------------------------------------------------------| | 开放式文本创作 | 利用 LLM 自由发挥创造力完成诗歌撰写、小说续写等工作 | | 实时新闻摘要 | 结合 RAG 提取最近发生的热点资讯并自动生成简洁明了的小结 | | 法律文件解析 | 基于 RAG 查找判例法条并与之关联解释 | | 科技研发辅助 | 运用 RAG 快速定位前沿论文和技术报告 | 以下是基于 Python 编写的简单 RAG 流程示意代码： ```python from transformers import pipeline, RagTokenizer, RagTokenForGeneration import faiss def initialize_rag_model(): tokenizer = RagTokenizer.from_pretrained("facebook/rag-token-nq") model = RagTokenForGeneration.from_pretrained("facebook/rag-token-nq") return tokenizer, model tokenizer, rag_model = initialize_rag_model() context_documents = ["Document A", "Document B"] # Example contexts query = "What is the relationship between RAG and LLM?" input_ids = tokenizer(query, return_tensors="pt").input_ids generated_text = rag_model.generate(input_ids=input_ids) print(tokenizer.decode(generated_text.squeeze(), skip_special_tokens=True)) ``` 此脚本展示了如何加载 Facebook 提供的标准 RAG 模型并通过给定问题返回融合背景材料后的答案。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值