(建议收藏)图解RAG分块!一张图讲透五种核心策略,小白也能秒懂!

一篇文章说清楚AI三大核心技术:RAG、大模型、智能体 本文用中文详解AI三大核心技术:RAG、大模型(包括Transformer与MoE架构对比)、智能体的核心区别。重点介绍了5种大模型微调技术类比汽车改装,传统RAG与智能体RAG的本质差异(前者如图书管理员固定检索,后者如私人助理动态决策),以及5种智能体设计模式(反思、工具使用、反应、规划、多智能体协作)。最后阐释了5大文本分块策略和智能体系统的5个演进等级,从基础响应到自主闭环系统。全文通过生活化类比帮助读者理解AI技术原理与应用场景。 阅读详情

RAG作为大模型入门级的应用,在处理策略上要比写提示语好落地的很多。
刚刚经历了一个AI落地大项目的上线,提示语写了将近5000字。比起写提示语我还是更愿意写crud。
步入今天的正题聊聊 RAG 里的五种分块策略!

一、经典流程

因为上传的文档可能很大,所以第一步「检索文档」里还涉及「分块」,也就是把大文档拆成更小、更易处理的片段。这一步特别关键,因为它得确保文本能适配嵌入模型的输入尺寸。

下面就来详细说说五种分块策略,咱们一个个搞明白!

二、固定大小分块

按预设的字符数、单词数或 Token 数,把文本切成均匀的片段。
举个例子(配合刚才那张图里的蓝色重叠部分):比如设定每块 500 字,那前一块的最后 100 字和下一块的前 100 字会有重叠。
优点:实现起来简单,而且所有块大小一致,方便批量处理。
缺点:容易切断句子或完整的意思,重要信息可能被拆到两个块里,比如一句话前半句在这块,后半句在那块。

三、语义分块

按有意义的单元来分段,比如句子、段落或主题章节。具体怎么做呢?
先给每个段落生成嵌入向量,然后计算相邻段落的余弦相似度段落的余弦相似度:
如果第一段和第二段的相似度很高,就把它们合并成一个块;
直到遇到相似度明显下降的段落,就新开一个块。
优点:保持语言的自然流畅,每个块都包含完整的观点,这样检索时更准,LLM 生成的回答也更连贯相关。
缺点:需要设定一个相似度阈值,但不同文档的阈值可能不一样,得反复调参。

四、递归分块

先按文档的天然分隔符(比如段落、章节)初步分块,然后检查每个块的大小:
如果超过预设的最大块大小,就进一步拆分成更小的块;
如果大小合适,就保持不变。
举个栗子🌰:
先把文档分成两个紫色段落(块 1 和块 2);
块 1 太长,再拆成两个小块;块 2 刚好合适,不拆分。
优点:和语义分块类似,能保留完整语义。
缺点:实现起来更复杂,计算量也更大,因为要多一步 “检查是否需要拆分” 的逻辑。

五、基于文档结构的分块

利用文档本身的结构来划分块,比如标题、章节、子标题等。比如:
一个一级标题下的所有内容作为一个块;
每个表格或图表的说明文字单独成块。
优点:贴合文档的逻辑结构,块的内容更完整。
缺点:依赖文档有清晰的结构,如果遇到结构混乱的文档(比如纯文本无标题),就不好用了。另外,块的长度可能不均匀,有些块可能超过模型的 Token 限制,这时候可以结合递归分块一起用。

六、基于大语言模型的分块

直接让 LLM 帮忙生成语义独立、有意义的块。比如给 LLM 一个提示:“请将以下文本分成每个块约 500 字的语义完整段落,确保每个块包含独立的主题。”
优点:语义准确性最高,LLM 能理解上下文,比前四种基于规则的方法更智能。
缺点:计算成本最贵,每次分块都要调用 LLM,而且 LLM 本身也有上下文窗口限制,处理长文档可能需要多次调用。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

本地化搭建DeepSeek+RAGFlow,构建个人知识库 本地化搭建DeepSeek+RAGFlow,构建个人知识库。至少32G以上内存、500G以上空余磁盘空间。 阅读详情

相关推荐

ANSYS APDL齿轮建模实战:从渐开线方程到完整3D模型的保姆级教程

本文详细介绍了使用ANSYS APDL进行齿轮建模的全过程,从渐开线方程的数学基础到完整3D模型的创建。通过参数化命令流实现高精度齿轮建模,特别适合机械设计和仿真分析需求。教程包含关键参数计算、APDL环境配置、单齿齿廓建模以及全齿轮阵列复制等实用技巧,帮助工程师快速掌握ANSYS APDL在齿轮建模中的应用。

lg888的博客 446

RAG技术原理深度解析:11张图示拆解从知识检索到智能生成的全流程

RAG技术原理深度解析:11张图示拆解从知识检索到智能生成的全流程

xxue345678的博客 2380

AMBA-ATB spec

AMBA-ATB spec 1. ATB总线的用途及版本 1.1 ATB总线用途 一般来说,ATB(Advanced Trace Bus)总线用来在ARM的coresight组件之间传递trace数据。如下图所示: 1.2 ATB总线的版本 ATB(Advanced Trace Bus)共有两个版本,其中v1.0作为AMBA3的一部分,于2006年发布的,而v1.1则是2012年随着AMBA4发布的。ATB规范新增了数据(主要针对trace data)不可知的接口,以便在跟踪系统中根据 AMBA 规范跟

weixin_43781229的博客 7348

Operating System——图解操作系统中的资源分配图(RAG)

操作系统中的资源分配图(RAG)   就像银行家的算法,使用就像分配、请求之类的表格,所有这些东西都可以用来了解系统的状态。类似地,如果你想理解系统的状态而不是使用那些表,实际上表很容易表示和理解,但是你仍然可以在图中表示相同的信息。这个图称为资源分配图(RAG)。      因此,资源分配图向我们解释了系统在过程和资源方面的状态。比如有多少资源可用,分配了多少,每个进程的请求是什么,一切都可以...

Anchovy的小天地 8346

为什么你的XGBoost多分类效果不如预期?可能是这5个参数没调对

本文深度剖析了XGBoost模型在处理多分类问题时效果不佳的五大关键参数陷阱。针对多分类问题的独特性,文章提供了max_depth、learning_rate、采样参数及正则化参数等核心参数的量化调整策略与诊断方法,帮助开发者精准调优,有效提升模型在各类别上的均衡性能与泛化能力。

weixin_29182481的博客 296

MMCV安装后报错‘from mmcv import Config’?别慌,这是MMCV 2.0的锅!快速降级回退MMCV 1.x全指南

本文详细解析了MMCV 2.0版本升级导致的‘from mmcv import Config’报错问题,提供了从诊断到降级回退MMCV 1.x的完整解决方案。通过pip和OpenMIM工具链的实操指南,帮助开发者快速解决版本冲突,确保项目稳定运行。

weixin_29102619的博客 263

AI 产品经理学习路线图!从入门到实战,学习清单大曝光(附教学视频)直接抄作业

想转型 AI 产品经理,却被 “算法、模型、项目” 搞得一头雾水?这套AI 产品经理学习清单,用 10 大模块搭建完整知识体系,从基础认知到项目实操全覆盖! 今天为你拆解核心内容,帮你高效规划学习路径,记得保存好了~

m0_63171455的博客 2613

复旦微FMSH_Procise安装全流程详解:从环境配置到实战避坑指南

通过本文的全流程解析+实战技巧,开发者可快速掌握Procise在复旦微芯片开发中的核心应用。未来随着AKConv轻量级架构(参考往期文章)等创新技术的融入,国产芯片开发生态将更加完善。立即关注本专栏,获取最新多镜像切换指南与Linux SDK实战教程!扩展阅读复旦微在线升级BOOT.BIN全解析H7-TOOL实现复旦微脱机烧录(注:本文实验环境为Windows 10 x64 + FMQL45T-CORE开发板,部分操作可能因版本更新调整)立即行动下载本文配套配置文件:[GitHub链接]加入技术交流群。

QQ_778132974的博客 3238

图解RAG

本文总结了RAG应用的相关内容,包括原理、开发范式、常用框架以及评估等。当然RAG应用还面临了不少挑战,随着LLM的快速发展,RAG必定也会推陈出新。

weixin_72959097的博客 830

《RT-DETR魔术师》专栏介绍 & 优快云独家改进创新实战 & 专栏目录

通过本专栏的阅读,后续你也可以自己魔改网络,在网络不同位置(Backbone、head、neck、loss等)进行魔改,实现创新!!!

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 7367

YOLOv5 自定义模型 Android 部署完整指南

本文详细介绍了将YOLOv5模型部署到Android设备的完整流程,包含三个核心部分:首先验证官方模型测试,确保基础环境配置正确;随后进行模型转换,从PyTorch导出ONNX格式并优化,再转换为NCNN格式;最后在Android项目中集成自定义模型,包括文件替换、参数修改和代码适配。教程基于YOLOv5 6.1版本,使用NCNN框架进行移动端推理,涵盖了常见问题解决方案和关键配置要点,为开发者提供了从训练到部署的完整技术路线。

FJN110的博客 592

死锁

死锁Introduction死锁发生的必要条件死锁检测RAG图定义RAG图的化简死锁定理如何处理死锁银行家算法安全序列安全状态算法 Introduction 最近会更新一波OS的学习心得,主要整理个人在学习OS过程中的总结和理解。今天我们来讲一下死锁。 死锁发生的必要条件 互斥条件 ,某资源只能由一个进程占用; 请求和保持条件,进程保持一个资源又请求新的被阻塞的资源; 不剥夺条件,进程获得的资源未用完之前不可剥夺; 环路等待条件 ,发生死锁时,存在一个资源环形图; 这里简单提一下活锁和饥饿现象,不理解的可

qq_21515253的博客 841

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

图解AI:RAG的5种分块策略,看这篇就够了!

本文介绍了RAG(检索增强生成)技术中的五种分块策略:固定大小分块、语义分块、递归分块、基于文档结构的分块和基于大语言模型的分块。每种策略各有优缺点,应根据文档特点选择合适方法。文章还强调了AI大模型学习的重要性,并提供了全套学习资料的获取方式。总体而言,合理选择分块策略能提高RAG应用的效率和质量。

m0_71746299的博客 679

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

图解AI:RAG分块策略

RAG作为大模型入门级的应用,在处理策略上要比写提示语好落地的很多。 刚刚经历了一个AI落地大项目的上线,提示语写了将近5000字。比起写提示语我还是更愿意写crud。

Python_cocola的博客 820

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

11张图彻底讲透RAG工作原理!从检索到生成全流程图解,小白秒懂→建议收藏!

只要你真心想学习AI大模型技术,这份精心整理的学习资料我愿意无偿分享给你,但是想学技术去乱搞的人别来找我!在当前这个人工智能高速发展的时代,AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长,真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料,能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享!!!vx扫描下方二维码即可加上后会一个个给大家发。

2401_85325726的博客 1024

高级RAG技术全景图解!从架构到实战,这篇最全指南建议立刻收藏

本文综述了检索增强生成(RAG)技术及其高级算法实现。RAG通过检索外部信息增强LLM的生成能力,已成为2023年最流行的LLM架构。文章首先介绍基础RAG流程:文本分块、向量化、索引构建及提示工程。重点分析了高级RAG技术,包括优化分块策略、多向量索引方案(假设性问题/HyDE)、上下文扩展方法(句子窗口检索/父文档检索器)以及分层索引等。文章指出当前开源工具(如LlamaIndex)已实现这些技术,但缺乏系统性梳理,旨在为开发者提供技术全景图而非具体实现细节。最后强调提示工程是成本最低的优化手段,并列举

weixin_58753619的博客 741

RAG的核心命门:文本分割策略全解析!从入门到精通,看懂这一篇就够了!

在一些基于大模型和RAG结合的智能客服项目中,构建知识库是最重要的一环。

m0_59164520的博客 2238

什么是RAG、大模型、智能体?图解带你搞懂 AI 三大核心技术,大模型入门到精通,收藏这篇就足够了!

什么是RAG、大模型、智能体?图解带你搞懂 AI 三大核心技术,大模型入门到精通,收藏这篇就足够了!

huang9604的博客 1836

一文讲透 RAG 工作原理:用 11 张图说清从检索到生成的全过程(建议收藏)

只要你真心想学习AI大模型技术,这份精心整理的学习资料我愿意无偿分享给你,但是想学技术去乱搞的人别来找我!在当前这个人工智能高速发展的时代,AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长,真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料,能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享!!!vx扫描下方二维码即可加上后会一个个给大家发。

Android_XG的博客 1227

一文读懂RAG工作原理:11张图解透检索增强生成全流程

一文读懂RAG工作原理:11张图解透检索增强生成全流程

m0_48891301的博客 1951

图解AI核心技术:大模型、RAG、智能体、MCP,收藏这篇就够了!

只要你真心想学习AI大模型技术,这份精心整理的学习资料我愿意无偿分享给你,但是想学技术去乱搞的人别来找我!在当前这个人工智能高速发展的时代,AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长,真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料,能够帮助更多有志于AI领域的朋友入门并深入学习。真诚无偿分享!!!vx扫描下方二维码即可加上后会一个个给大家发。

2401_85375186的博客 880

图解AI核心技术:RAG、大模型、智能体,大模型入门到精通,收藏这篇就足够了!

MoE常作为Transformer中FFN的替代,例如MoE层替换FFN,实现模型容量与计算效率的平衡。

pythonhy的博客 1046

图解AI技术核心:Agent/LLM/RAG工作原理全景解析

在人工智能技术快速发展的今天,Agent(智能体)、LLM(大语言模型)和RAG(检索增强生成)已成为构建智能系统的三大核心技术支柱。本文将通过直观的技术架构图,为您全景式解析这三者的协同工作原理:从LLM的基础语言理解与生成能力,到RAG的知识检索增强机制,再到Agent的自主决策与任务编排功能。通过剖析它们的技术实现路径和交互关系,帮助开发者深入理解现代AI系统的核心运行机制,为技术选型和架构设计提供清晰的理论框架。

m0_59162559的博客 1685

图解AI核心技术:RAG、大模型、智能体

维度传统RAG检索方式单次、静态多轮、动态优化推理能力单跳,依赖人工设计多跳,自主分解任务上下文管理固定拼接动态筛选与精炼错误处理无自检机制结果验证与修正适用场景简单问答、文档摘要复杂推理、实时交互、工具调用演进本质:Agentic RAG将RAG从“管道流程”升级为“自主决策系统”,更贴近人类问题解决模式。策略核心逻辑优势局限性Fixed-size固定长度切割高效、通用语义断裂风险Semantic语义边界检测保留上下文计算复杂度高。

Python学习与数据挖掘 830

一文搞懂RAG的切分策略

《RAG系统文档切分策略详解》介绍了构建检索增强生成(RAG)系统的5种关键文档切分方法:1)固定大小切分简单但易破坏语义;2)语义切分利用NLP技术保持上下文连贯性;3)递归切分结合固定长度与语义结构;4)基于文档结构的切分利用格式标记;5)基于LLM的智能切分精度高但成本大。文章强调实际应用中需混合策略,并推荐可视化工具ChunkViz辅助理解。该系列持续更新于GitHub项目LLMHub,涵盖RAG全流程技术解析。

和大家一起涨芝士 903

图解AI核心技术:大模型、RAG、智能体、MCP

本文整理了来自Daily Dose of Data Science最热门或最新的文章,其中极具特色的动图以生动形象的方式,帮助我们更好的理解AI中的一些核心技术,希望能够帮助大家更好的理解和使用AI。

京东科技开发者 921
上一篇: 保姆级教程!2分钟拿下DeepSeek API,比官方还好用,小白也能封神!
下一篇: Embedding技术从入门到精通,吃透文本向量化和语义保留,收藏这篇就够了!
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2832原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值