“ RAG的本质就是快速和准确的召回文档,但由于各种原因会导致其召回质量不尽人意,因此我们需要从多个方面来优化其召回结果。”
虽然说现在大模型的主流应用方向是智能体——Agent;但也不能否则RAG在其中扮演的重大作用,因此RAG也是企业应用场景中经常用到的技术。但RAG虽然看起来很简单,但事实上存在很多问题和坑;还是那句话想把RAG做出来很简单,但想把RAG做好就很难。
以作者自身遇到的问题为例,一起讨论一下RAG各个环节中存在的问题和优化方案。
从技术的角度来说,RAG主要存在三个阶段,文档处理,数据召回,增强生成;其中这三个阶段最后一个阶段最简单,就是把召回的内容丢给模型,让模型根据这些内容进行处理;所以,RAG的难点主要在前两步,文档处理和数据召回,数据召回的质量直接影响到生成质量。

RAG中场景的问题和解决方案
文档处理
所谓的文档处理本质上就是把外部文档处理成向量格式然后通过相似度计算的方式进行语义召回。
当然,RAG并没有限制必须把文档处理成向量格式,也没限制必须要进行相似度召回;RAG的目的是快速准确的找到和问题相关的内容,因此使用任何召回方式都可以,包括传统的字符匹配和现在的语义查询。只不过对于非格式化数据,以及基于自然语言对话的展示场景,使用相似度语义检索更符合业务场景。
文档处理之所以是一个难点,就在于其复杂的文档格式;如txt,word,pdf,markdown,excel,csv等等很多种格式,并且这些格式的数据没有一个统一的规范,虽然excel和csv是格式化数据,但在不同的业务场景中可能需要不同的处理,比如有些场景中只需要按列处理即可,而有些场景中可能需要解析表结构,然后拼接成markdown或合并部分列数据。

因此,文档处理中文档的类型,复杂的内容格式,对格式化的不同要求,以及文档的管理都是难点;毕竟如果文档处理的不好,会直接影响到第二步数据的召回质量。
所以,文档处理的难点其中之一,就是怎么根据不同的业务场景去规范文档的处理流程及格式;其次,就是类似于word,pdf这种复杂的文档类型,由于其没有固定的格式,以及其同时支持多种不同模态的数据(文字,图片,表格,架构图等等);导致其处理起来特别麻烦,很容易丢失内容原本的意义;如架构图和设计图等,很难在向量化之后还保持其原本的意义。
当然,虽然现在使用多模态模型能够从一定程度上解决这个问题,但从成本和复杂度来说,好像又不是很值得。但基于orc等技术处理的复杂文档会丢失大量的有用信息。
向量数据的保存
其次是向量化数据的保存,之前的数据大多使用关系型数据库进行保存,并且其表结构和数据可以随时调整和修改;但向量化数据库由于其特殊性,导致其并不能像传统数据库那样随便进行编辑和修改;因此,刚开始设计的向量数据库随着业务的发展很难适应新的业务变化,但其调整起来又特别复杂,特别是随着业务数据的增多,导致其维护其它特别麻烦。

数据召回
数据召回的目的是根据用户问题,从大量的知识库中找到与用户相似度最高的文档内容,然后交由模型进行增强生成;但是面对语义召回这种本身就不确定的召回方式会出现两种情况,一种是无法召回有效数据,另一种是召回大量不相关数据;而不论哪一种都会对下一步的增强检索造成严重的影响,毕竟模型无法判断你提供的文档质量。
因此,面对这种情况需要从多个维度来提升召回质量,一是在召回侧,通过完善用户问题,提出子问题,假设性文档召回(hyDE),标量召回等。其次,就是在文档处理端,对文档进行提炼总结,增加多个维度的相似度计算。

增强生成
虽然说增强生成比较简单,但其实也挺重要的;在上一步的数据召回时,有时为了提高数据的召回质量会添加很多无关字段,因此在正式把召回数据提交给模型之前,我们需要对文档数据进行清洗和格式化处理;比如删除一些无关字段,把文档转换成模型更好处理的格式等等。而不是直接把召回内容一股脑的全部丢给模型。
些无关字段,把文档转换成模型更好处理的格式等等。而不是直接把召回内容一股脑的全部丢给模型。
当然,以上只是传统的RAG处理流程,目前随着智能体技术的发展,智能体技术也逐渐被应用到RAG中;原理就是借助智能体的强大的工具使用能力,以及自主决策能力,让RAG系统能够动态获取外部数据的能力,而不是只是人工处理好的死数据,比如说使用浏览器进行网络搜索。
如何学习大模型 AI ?
我国在AI大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着Al技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国Al产业的创新步伐。加强人才培养,优化教育体系,国际合作并进,是破解困局、推动AI发展的关键。
但是具体到个人,只能说是:
“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。
这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。
我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。
我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

2025最新大模型学习路线
明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛,没有明确的学习路线可能会导致新人感到迷茫,不知道应该专注于哪些内容。
对于从来没有接触过AI大模型的同学,我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

针对以上大模型的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。
大模型经典PDF书籍
新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路!

配套大模型项目实战
所有视频教程所涉及的实战项目和项目源码等

博主介绍+AI项目案例集锦
MoPaaS专注于Al技术能力建设与应用场景开发,与智学优课联合孵化,培养适合未来发展需求的技术性人才和应用型领袖。


这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

为什么要学习大模型?
2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

适合人群
- 在校学生:包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础,有志于深入AGI大模型行业,希望开展相关的研究和开发工作。
- IT行业从业人员:包括在职或失业者,涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验,至少1年以上的编程工作经验,对大模型技术感兴趣或有业务需求,希望通过课程提升自身在IT领域的竞争力。
- IT管理及技术研究领域人员:包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势,主导技术创新,推动大模型技术在企业业务中的应用与改造。
- 传统AI从业人员:包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作,现需要快速补充大模型技术能力,获得大模型训练微调的实操技能,以适应新的技术发展趋势。

课程精彩瞬间
大模型核心原理与Prompt:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为Al应用开发打下坚实基础。
RAG应用开发工程:掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。
Agent应用架构进阶实践:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。
模型微调与私有化大模型:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。
顶尖师资,深耕AI大模型前沿技术
实战专家亲授,让你少走弯路

一对一学习规划,职业生涯指导
- 真实商业项目实训
- 大厂绿色直通车
人才库优秀学员参与真实商业项目实训
以商业交付标准作为学习标准,具备真实大模型项目实践操作经验可写入简历,支持项目背调
大厂绿色直通车,冲击行业高薪岗位
文中涉及到的完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】







358

被折叠的 条评论
为什么被折叠?



