手把手教你实现大模型RAG [ 1 ]-大模型应用技术介绍

关注

原创最新推荐文章于 2026-02-14 08:34:14 发布 1.5k 阅读 AI 写同款· GEO 优化 ›

17 种 RAG 架构实现原理与选型如何选择合适的 RAG 架构？下面是一组选型推荐，但凡事也没有绝对，需要结合实际场景进行设计。应用目标推荐方法快速上线提高准确性提升召回与覆盖优化成本或效率结构化场景支持用户行为优化容错性强、问题补全CRAG、HyDE总之，在实际生产运行中，RAG 不是一个简单的“检索+拼接”套路，而是一整套可定制、可演进的系统架构。从文档处理、检索策略，到后处理优化，每个环节都能独立优化与组合。阅读详情

大模型应用技术介绍

自chatGPT问世以来，基于大模型的应用如雨后春笋，从技术层面划分，可以将大模型的应用分为四个技术类型，包括：基于prompt工程的、基于微调的、基于检索增强生成的及agent四个机制。

prompt工程

基于prompt工程的主要是直接使用大模型，为了让大模型的输出更符合人类预期，主要的研究重点在如何设计prompt。在介绍设计prompt原则前，先介绍几个容易混淆的概念：

zero shot：zero shot指的向大模型提问时，不给出示例，比如将中文翻译成英文，直接给出的一段话或段落让大模型翻译，如：“”“请将下面的中文翻译成英文：中国是我的故乡”“”
few shot：与few shot对应的是zero shot，这种情况是在让大模型输出结果时，给出1个或多个例子，如：“”“请参考例子将下面的中文翻译成英文，中国->china, 漂亮->beauty, 中国是我的故乡->”“”, 这里给出了两个"中国"和"漂亮"的翻译例子。
in-context learning：in-context learning更多强调的是上下文信息，包括但不局限于示例，一般而言，in-context learning含义与few shot含义接近。
instruct learning：instruct learning 是更广义的提示，强调的是任务的要求和说明，其中可以包括例子，也可能只有说明和要求，比如"““你是一位资深的地理学者，请告诉我地球包括几大洋？””“”

在很多场景下，in-context learning 、instruct learning是一期谈论的，zero shot、few shot会一期谈论，可以理解为他们是不同场景下的表达。

纯使用大模型，围绕设计prompt通常需要遵循以下几个原则：

确定谈话的目的和重点。在编写提示之前，必须清楚地了解您希望通过对话实现的目标。您是想提供信息、回答问题还是进行随意的交谈？通过确定对话的目的和重点，您可以制作一个具体且相关的提示。
使用具体和相关的语言。为确保大模型理解您的提示并提供适当的响应，使用特定且相关的语言至关重要。避免使用可能引起混淆或误解的行话或模棱两可的语言。相反，使用与当前主题相关的语言，力求尽可能清晰和简洁。
避免使用开放式或过于宽泛的提示。虽然为了获得更全面的答复而提出开放式或过于宽泛的问题可能很诱人，但这些类型的提示通常会导致与大模型的对话脱节或没有重点。相反，目标是在您的提示中尽可能具体，为对话定义明确的目的和重点。
查看并修改您的提示。在将您的提示发送到ChatGPT之前，请花点时间查看和修改它以确保它清晰易懂。考虑语言是否具体、相关，提示是否突出重点，避免歧义。

设计prompt的完整说明见ChatGPT提示(prompt)的艺术: 制作清晰有效的提示的指南

微调使用(SFT)

我们在使用大模型解决实际问题时会发现，在有些情况下大模型无法解决某些特定领域的问题，比如使用ChatGPT无法很好的回答中国法律法规相关的问题。

为了解决这类问题，可以在以后的开源大模型上使用专业领域的数据做一些微调，让大模型更好的在特定领域发挥作用。

微调的方法有很多，包括p-tuning、prefix-tuning、adapter及比较常用的lora等方式，从业务上来包括基于输入的、基于目标的微调等等。

在很多的场景下，经过微调的模型在特定场景下都能取得不错的提升。

然而，微调也有其自身的弊端，要对模型进行微调就需要标注有标签的数据，这会大大增加大模型落地的成本，同时使用特定场景的标注数据微调会导致泛化能力不强，对新的任务新的场景需要重新微调，这个过程是耗时耗力的。

在这里插入图片描述

检索增强生成(RAG)

企业自己训练大模型成本是高昂的，对很多中小型公司来说，直接通过接口访问第三方大模型是经济效益比较好的方案，为了满足特定场景和特定领域的需求，检索增强生成技术应运而生。

检索增强生成是在不修改大模型的基础上，将特定的领域数据一同喂给大模型，大模型结合给定的领域数据回答用户的问题。

在提供特定的领域数据一般有两个方案：

一种方案是公司特有的数据先本地构建索引然后检索出若干相关信息，让大模型结合检索的信息回答问题，每次提问只会给相关的信息一个发给大模型。

另一种方案是用户直接给大模型提供方上传本地知识库，由大模型提供方去管理这些用户上传的本地知识。

两者相比，方案一更加注重隐私，也可以根据自身需要优化检索的方案。方案二更加便利，因为是专门的第三方提供服务，服务的稳定性也更有保障。

另外在大模型部署侧也可以公司内部自己部署开源的大模型而非使用第三方的大模型服务。
在这里插入图片描述

代理模式(agent)

agent模式是解决复杂问题多任务场景的最优解决方案或是目前阶段逼近AGI的最有效的技术方案。

agent可以自定义函数和工具如计算器/日历/搜索服务等、执行逻辑，又充分利用大模型的任务拆解、规划和自定义函数和工具选择的能力，将其结合起来，达到1+1>2的效果。

agent的主要应用为多角色协作处理复杂的多任务场景，agent的劣势是需要整合的工具较多，从性价比来看单个任务使用agent未必是最优解。

在这里插入图片描述

其他

使用大模型的技术中，上述介绍的几种不是觉得割裂的，是可以综合在一起的，比如既设计好的prompt，也可以使用微调的模型。

使用RAG技术也可以使用微调的模型等等。需要强调的是在大模型技术的演进中，还有一类是强化学习技术，强化学习技术对数据和奖励函数/模型的设计要求非常高，一般情况下是不会使用这类技术去微调模型提升特定场景下应用的效果的，性价比极低，所以这里不展开介绍。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述