RAG,即检索增强生成。全称是 Retrieval-Augmented Generation,这是目前解决大模型知识时效性、幻觉问题、私有数据接入等难题的主流技术方案。
Part.1 为什么需要 RAG?
大模型(LLM)存在三个核心痛点:
- 知识截止日期:训练完后知识就停留在那一刻,无法知晓最新信息。
- 幻觉问题:遇到不知道的事情会“编造”答案。
- 无法访问私有数据:企业内部的文档、数据库无法被模型看到。
RAG 的思路很简单:不要求模型记住所有知识,而是让它在回答问题之前先去查预设的资料库。


Part.2 RAG 的工作原理
第一步:检索
用户输入一个问题。系统将这个问题的向量化表示,去向量数据库中检索最相似的 K 条文本片段。这些片段通常来自企业知识库、最新网页、PDF 文档等。
第二步:增强
将检索到的文本片段 + 用户原始问题,拼接成一个完整的提示词(Prompt)。
第三步:生成
将增强后的提示词交给大模型。模型基于提供的资料生成答案,而不是凭空编造。
Part.3 如何搭建一个 RAG 系统
最小可行方案只需要三样东西:
- 向量数据库(如 Chroma、Milvus、Qdrant、PGVector)
- 嵌入模型(将文本转为向量,如 text-embedding-3-small)
- 大模型(如 GPT-4、Claude、国产模型)
如果是个人学习或小规模应用,LlamaIndex + Ollama(嵌入+大模型)+ VectorStoreIndex(内置向量库)是成本最低的入门组合。
第一步
确保 Ollama 服务运行
ollama serve
第二步
安装依赖库
llama-index-core、llama-index-llms-ollama、llama-index-embeddings-huggingface、llama-index-embeddings-ollama(pip安装)
第三步
准备资料库
本地新建txt文件,输入问答

第四步
完整Python代码
由于篇幅有限,公众号私信发送“rag代码”获取完整代码
第五步
运行验证
输入问题,测试是否按照预设知识库回答问题

扩展1:RAG vs 微调?
很多人会纠结:解决大模型不懂私域知识,到底是做 RAG 还是做微调?
| 维度 | RAG | 微调 |
| 知识更新 | 换文档就行,秒级生效 | 重新训练,耗时耗钱 |
| 幻觉控制 | 答案有出处,可控 | 模型仍可能自由发挥 |
| 成本 | 低(只需调用模型) | 高(需要训练资源) |
| 适用场景 | 知识库问答、实时信息格式模仿、风格对齐、能力增强 | 格式模仿、风格对齐、能力增强 |
**结论:**如果只是想给模型“喂资料”,RAG 是更轻量、更灵活的选择。微调更适合让模型学会某种表达方式或推理能力。
扩展2:RAG 的主要挑战
虽然 RAG 架构简单,但做好并不容易,难点集中在检索环节:
● 检索质量:如果召回的内容与问题无关,模型再强也答不对。
● 上下文塞满:检索回来的文档可能很长,而大模型有上下文长度限制,需要做切片和重排。
● 多跳问题:有些问题需要把多份资料的信息拼起来才能回答,单次检索不够。
● 表格/图表:PDF 里的表格、流程图,纯文本检索很难处理。
针对这些问题,行业内衍生出了 高级 RAG(查前优化、查后重排)、GraphRAG(引入知识图谱)、Hybrid Search(关键词+向量混合检索)等变体。
普通人如何抓住AI大模型的风口?
领取方式在文末
为什么要学习大模型?
目前AI大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。
目前,开源人工智能大模型已应用于医疗、政务、法律、汽车、娱乐、金融、互联网、教育、制造业、企业服务等多个场景,其中,应用于金融、企业服务、制造业和法律领域的大模型在本次调研中占比超过 30%。

随着AI大模型技术的迅速发展,相关岗位的需求也日益增加。大模型产业链催生了一批高薪新职业:

人工智能大潮已来,不加入就可能被淘汰。如果你是技术人,尤其是互联网从业者,现在就开始学习AI大模型技术,真的是给你的人生一个重要建议!
最后
只要你真心想学习AI大模型技术,这份精心整理的学习资料我愿意无偿分享给你,但是想学技术去乱搞的人别来找我!
在当前这个人工智能高速发展的时代,AI大模型正在深刻改变各行各业。我国对高水平AI人才的需求也日益增长,真正懂技术、能落地的人才依旧紧缺。我也希望通过这份资料,能够帮助更多有志于AI领域的朋友入门并深入学习。
真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座,技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等,欢迎大家~】

大模型全套学习资料展示
自我们与MoPaaS魔泊云合作以来,我们不断打磨课程体系与技术内容,在细节上精益求精,同时在技术层面也新增了许多前沿且实用的内容,力求为大家带来更系统、更实战、更落地的大模型学习体验。

希望这份系统、实用的大模型学习路径,能够帮助你从零入门,进阶到实战,真正掌握AI时代的核心技能!
01 教学内容

-
从零到精通完整闭环:【基础理论 →RAG开发 → Agent设计 → 模型微调与私有化部署调→热门技术】5大模块,内容比传统教材更贴近企业实战!
-
大量真实项目案例: 带你亲自上手搞数据清洗、模型调优这些硬核操作,把课本知识变成真本事!
02适学人群
应届毕业生: 无工作经验但想要系统学习AI大模型技术,期待通过实战项目掌握核心技术。
零基础转型: 非技术背景但关注AI应用场景,计划通过低代码工具实现“AI+行业”跨界。
业务赋能突破瓶颈: 传统开发者(Java/前端等)学习Transformer架构与LangChain框架,向AI全栈工程师转型。

vx扫描下方二维码即可
【附赠一节免费的直播讲座,技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等,欢迎大家~】

本教程比较珍贵,仅限大家自行学习,不要传播!更严禁商用!
03 入门到进阶学习路线图
大模型学习路线图,整体分为5个大的阶段:

04 视频和书籍PDF合集

从0到掌握主流大模型技术视频教程(涵盖模型训练、微调、RAG、LangChain、Agent开发等实战方向)

新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路(不吹牛,真有用)

05 行业报告+白皮书合集
收集70+报告与白皮书,了解行业最新动态!

06 90+份面试题/经验
AI大模型岗位面试经验总结(谁学技术不是为了赚$呢,找个好的岗位很重要)

07 deepseek部署包+技巧大全

由于篇幅有限
只展示部分资料
并且还在持续更新中…
真诚无偿分享!!!
vx扫描下方二维码即可
加上后会一个个给大家发
【附赠一节免费的直播讲座,技术大佬带你学习大模型的相关知识、学习思路、就业前景以及怎么结合当前的工作发展方向等,欢迎大家~】

1722



被折叠的 条评论
为什么被折叠?



