【干货收藏】大模型训练四阶段详解：从“书呆子“到“全能助手“的进化之路

关注

原创最新推荐文章于 2026-07-14 09:52:39 发布 1k 阅读 AI 写同款· GEO 优化 ›

详解大模型PPO、DPO的训练过程 AI因你而升温，记得加个星标哦！大家好，我是泰哥。距离上次写技术贴已经1年有余，这一年当中算法技术的发展可以说是日新月异。今天和大家聊聊大模型的训练的三个阶段，分别为有监督学习（SFT）、奖励模型训练（RW）与强化学习（PPO）阶段，我对以上的训练过程会加上一些自己的理解。GPT使用Transformer decoder部分作为语言模型的框架，并将decoder中的Multi-head Attention层删除，其结构和计算过程如上图。阅读详情

本文通过"培养天才学生"的比喻，将大模型训练分为四个阶段：预训练（构建基础知识和逻辑）、后训练与对齐（学习人类价值观）、推理增强（培养深度思考能力）以及智能体与工具调用（学会使用外部资源）。每个阶段都有相应核心技术支撑，如Transformer、RLHF、CoT和Tool Calling等，共同塑造了从"书呆子"到"全能助手"的进化过程，展现了大模型技术的复杂性和魅力。

第一阶段：博览群书（预训练 Pre-training）

这是塑造“智力”的过程，重点是给学生搭建一个强悍的大脑硬件，让他吞下海量知识，获得最基础的常识。

第二阶段：教养与规矩（后训练与对齐 Post-training）

这是塑造“情商与性格”的过程，重点是教学生如何听指令、讲礼貌，并建立和人类一致的价值观。

第三阶段：独立思考（推理增强 Reasoning）

这是塑造“深度逻辑”的过程，重点是教学生不要抢答，学会“想清楚再开口”，具备解决数学、编程等高难度难题的能力。

第四阶段：步入社会（智能体与工具 Agent）

这是塑造“执行能力”的过程，重点是给学生配上手机和电脑，让他学会查字典、调工具，甚至能自主去完成一项复杂的商业任务。

接下来，我们就顺着这四个阶段，看看那些藏在“天才学生”大脑里的核心黑科技。

第一阶段：博览群书（预训练 Pre-training）

这一阶段的目标，是让学生学习整个人类互联网的知识，获得最基础的常识和逻辑。

怎么做呢？

它本质上是在玩文字的**“预测游戏”，即：我们把全世界的书籍、代码、网页丢给这个学生，但每页纸都盖住了最后一个字，让他去猜那个字是什么。这种游戏他玩了几万亿次，**为了猜对下一个字，他被迫学会了语法、学会了逻辑，甚至学会了人类思考的模式。

主要技术：

Transformer

由 Google 团队在 2017 年发明，它利用“自注意力机制（Self-Attention）”并行处理数据，彻底解决了 AI 记不住长难句的问题。

MoE（专家轮班制）

以前是一个老师教所有课，累个半死，MoE 是在大脑里分出几十个“专家小组”，只有问数学时，数学组才起立干活，其他小组休息。该架构也是由 Google 提出，后被 OpenAI 和 DeepSeek 发扬光大，它能以极低的功耗驱动万亿级参数的模型。

MLA（多头潜在注意力）

学生看书太快，脑子里的“临时缓存”容易爆，MLA 就是一套极致的速记法，把成千上万页的资料压缩成几个关键词。由 DeepSeek 原创，它大幅降低了长文本推理时的显存占用，是 2026 年长文本竞赛的核心利器。

RoPE（旋转位置编码）

让学生不仅记住词，还记住词在句子里的“相对方位”，就像学外语时精准掌握语序。由中国研究者苏剑林发明并被 Google/Meta 广泛采用，它让模型在处理超长文本时位置感更精准。

有了第一阶段打下的底子，我们的“天才学生”已经博古通今。但正如前面说的，他现在还只是个“书呆子”，你问他：“你会写诗吗？”，他可能会滔滔不绝地给你背诵一段关于诗歌定义的论文，而不是真的为你写一首诗。

要让他从一部“百科全书”变成一个“听话的超级助手”，就需要进入第二阶段。

第二阶段：规矩养成（后训练与对齐 Post-training）

这一阶段的目标，是让博学但混沌的学生学会“听指令”，并且拥有人类社会的价值观和审美。

怎么做呢？

如果说第一阶段是“自学”，那么第二阶段就是“名师指点”。

老师（人类标注员或更强的模型）会介入，通过给范文、做选择题、甚至设置奖惩机制，告诉他哪些回答是大家喜欢的，哪些是绝对不能碰的红线。

学生开始意识到，仅仅“知道”知识是不够的，还要学会如何按照人类的习惯去“表达”知识。

这一阶段训练结束后，他会进化成对话模型，变得彬彬有礼、有问必答，而且能精准地理解用户的每一个意图。

主要技术：

SFT（指令微调）

给学生看几万对“题目-标准答案”，手把手教他，让他学会如何写出标准答案。该技术由 OpenAI 提出，主要通过高质量的人工标注数据，将模型的“知识”转化为“对话能力”。

RLHF（基于人类反馈的强化学习）

先训练一个“纪律委员”（奖励模型 Reward Model），它熟知人类老师的喜好。然后，让学生尝试回答问题，纪律委员会在旁边打分：“这个回答很有礼貌，+10 分！”“那个回答在那胡编乱造，-50 分！”。学生通过这种方式学会迎合人类的偏好。

DPO（直接偏好优化）

给学生看两个答案，问他哪个更好，学生通过不断对比，快速掌握人类的偏好。该技术由斯坦福大学团队发明，它省去了复杂的强化学习过程，让模型对齐变得更简单、稳定。

GRPO（群体相对策略优化）

把学生关进黑屋子，不给标准答案，只给奖励规则，让学生自己跟自己辩论、推演，在成千上万次失败中突然“悟”出真理。该技术由 DeepSeek 在 R1 模型中首创并使用。

虽然现在的学生已经变得彬彬有礼、有问必答，但他依然有一个致命的毛病：喜欢“秒回”。

如果你给他出一道复杂的奥数题，或者让他写一段逻辑缜密的底层代码，他往往会不假思索地脱口而出。结果就是，听起来很有道理，仔细一算全是错的。这种现象，就是大家常说的AI“幻觉”。

要解决这个问题，就得进入第三阶段，教他如何深思熟虑。

第三阶段：思维深度（推理增强 - Reasoning）

这一阶段的目标，是教会学生“三思而后行”，杜绝信口开河，学会解决真正的复杂难题。

怎么做呢？

老师会强制要求学生把思考过程写下来，这时学生开始明白，答案是“算”出来的，而不是靠猜出来的，这种从“快思考”到“慢思考”的转变，让 AI 的智力真正实现了质的飞跃。

这阶段训练结束后，他进化成了“推理模型”，即在回答问题前，他会先进入一个“沉默思考期”，随后产出的答案逻辑更加严谨、可信。

主要技术如下：

CoT（思维链）

强迫学生在写出最后答案前，必须在草稿纸上写下中间推导步骤：“因为 A，所以 B，最后才是 C”。由 Google 研究人员率先提出。它能显著提升模型在数学、逻辑和代码方面的准确率。

Process Supervision（过程监督）

以前只看最后结果对不对，现在老师盯着学生写草稿的每一步，哪一步错了就打回重写。这时OpenAI 在训练推理模型（o1/o3）时的核心手段，它通过奖励正确的思考路径，极大地减少了“幻觉”。

Inference-time Compute（测试时计算）

允许学生在开口前“思考”一分钟，通过更多的思考换取更准确的答案。这时2026 年最顶尖的技术共识，它证明了计算量不仅可以在训练时堆，也可以在推理时堆。

ToT（思维树）

ToT允许学生在草稿纸上画出“思维导图”，遇到岔路口时，学生会同时尝试几个不同的方向，如果发现某条路走不通，就退回来换一条路再试，直到找到最佳路径。这一技术让模型具备了处理复杂、需要反复试错难题的能力，更接近人类解决问题的模式。该技术是由普林斯顿、Google DeepMind 以及 ETH Zürich 等机构的研究人员在 2023 年共同引领起来的一项技术。

经过了前三个阶段的打磨，我们的“天才学生”已经博古通今、温文尔雅，而且逻辑缜密。

但在 2026 年，这还远远不够。如果这个学生空有一脑子知识，却不会用电脑、不会查资料，甚至让他帮我订一张机票都做不到，那他依然只是个“纸上谈兵”的数字花瓶。我们需要让他走出校园，去真正的社会岗位上“实习”。

第四阶段：实习干活（智能体与工具调用 - Agent）

这一阶段的目标，是让学生学会利用外部资源，像一个真正的员工一样去执行并完成复杂的任务。

怎么做呢？

如果说前几个阶段是在增强他的“大脑能力”，这一阶段就是在给他装上“手和脚”，并教他如何使用它们。我们给他发“手机”和“电脑”，并告诉他：如果你发现自己的知识不够新，就去搜网页；如果你发现算术太复杂，就去点计算器。

学生学会了“调用”后，就成了一个调度中心，并知道什么时候该自己想，什么时候该求助于专业的工具。最终态是进化成了“智能体（Agent）”，能独立处理一项大工程，比如帮你调研一家公司的财报、写出代码并运行、最后把总结发到你的邮箱。

主要技术如下：

Tool Calling（工具调用）

AI 承认自己算数不行，于是学会了遇到数学题就打开计算器，遇到查不到的事就打开浏览器。由 OpenAI 率先在 API 中标准化（通常称为 Function Calling），模型开始学会调用外部程序。

RAG（检索增强生成）

学生不需要背下所有冷门知识，只需要学会“翻书”，例如去公司私有数据库里检索一下。该技术由 Meta 团队发明，它解决了模型知识过时和企业私有数据安全的问题。

MCP ( 模型上下文协议)

MCP 就像是给整个办公室换上了统一的 “万能 Type-C 接口”，实习生只需要掌握这一种连接方式，就能连接任何支持该标准的外部工具和数据库。由 Anthropic 率先提出并推动成为行业标准，它是构建大规模、互联互通智能体生态的关键基础设施，极大地降低了 Agent 开发和集成的复杂度。

Skill (技能/技能库)

这是更高级的、模块化的业务能力，就像你不仅给了他电脑（Tool），教了他查资料（RAG），还专门培训了他一套“如何处理客户投诉标准流程（SOP）”。

最后

至此，我们已经见证了一个“文本天才”的诞生全记录。

当我们像剥洋葱一样，一层层拆解完这四个阶段，那个对话框背后看似无所不能的神秘感消失了，但取而代之的，应该是一种更深的敬畏。

从 Transformer 的底层架构到智能体的灵活应用，大模型本质上是人类照向自己智慧深处的一面镜子，也是我们迄今为止建造过的最复杂的思维机器。

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】