2025最全Agent基座模型指南：从多智能体蒸馏到Agentic RL，Chain-of-Agents实战全解析，收藏这篇就够了！

最新推荐文章于 2025-12-05 11:17:30 发布
原创 最新推荐文章于 2025-12-05 11:17:30 发布 · 949 阅读 · 9 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#人工智能 #产品经理 #深度学习 #transformer #科技

Chain-of-Agents

TL;DR:

研究问题：当前的多智能体系统和工具集成推理方法在复杂问题解决中存在显著局限性，包括计算开销高、泛化能力有限、缺乏数据驱动的优化能力，以及无法支持端到端的多智能体协作。

研究方法：本文提出了一种新型的LLM推理范式——Chain-of-Agents (CoA），通过多 Agents 蒸馏和 Agentic RL 训练 Agent Foundation Models (AFMs)，使单个模型能够动态激活不同的工具智能体和角色扮演智能体，模拟多智能体协作的端到端问题解决流程。

Background

多 Agents 系统的问题：现在的多 Agents 系统需要研究人员为每个 Agent 设计提示词并手动编排他们之间的工作流程和通信协议，这存在多个缺点：计算效率低下、泛化能力差、无法通过数据学习持续改进。

工具集成推理：而另一条技术路线是工具集成推理（Tool-Integrated Reasoning, TIR）。这种方法训练一个 LLM 按照 ReAct 的步骤来使用 tools，这比手动提示更高效、更强大。但它本质上仍然是“单线程”的，无法模拟多智能体之间丰富的、并行的协作模式。

于是本文提出了 Chain-of-Agents（CoA）范式，旨在取两家之长，弃两家之短。它希望在一个模型内部，原生地、端到地实现复杂问题解决，其能力堪比一个多智能体系统，但其形态和效率却像一个 TIR 模型。论文将求解这类复杂问题（指原本需要多 Agents 才能解决的复杂问题）的模型称为 Agent Foundation Models（AFMs）。

本文的主要贡献：

  1. 一种名为 Chain-of-Agents 的基于 LLM 的问题求解范式，这种范式希望在单一模型中整合多智能体协作的能力。
  2. 一种多 Agents 蒸馏框架，可以将最先进的多 Agents 的能力蒸馏到一个 model 中，并设计了一种 Agentic 强化学习框架，通过强化学习来优化 Agent 模型。
  3. 使用本文提出的方法来训练 AFM，展示了 AFM 在多跳问答系统、网络搜索、代码生成和数学推理任务中均达到了新的 SOTA 水平，其性能由于 TIR 方法。

Method

Chain-of-Agents 范式

CoA 的核心思想非常直观：**为什么不把一个多智能体系统的协作过程，看作是模型内部的一种特殊“思维链”呢？**传统的思维链是“一步一步地想”，而 CoA 是“一个角色一个角色地切换着去想和做”。

在 CoA 范式中，给定一个复杂的查询后，模型不会固定地执行“想-搜-读”的循环，相反，它会在内部动态地激活不同的“子模块”或“角色”：

  • Role-playing Agents：负责高层次的认知和协调
  • 包含思维 Agent、规划 Agent、反思 Agent、验证 Agent
  • Tool Agents：负责执行具体的领域任务
  • 包括搜索 Agent、爬取 Agent 和代码生成 Agent

AFM 的训练包含了两步：

  1. Agentic SFT：通过多 Agents 系统做 sampling 得到 behavior 数据，然后将这些 behavior 数据整理成一种特殊的 trajectory 用于作为 SFT 数据。
  2. Agentic RL：通过 RL 强化 model 去更高效、更可靠地协调 tools 来解决难题。

Agentic SFT

目标是让模型“学会”CoA 的行为模式。方法是多智能体知识蒸馏。

论文首先设计了一个由多种 Agents 编排后的 workflow，并运行这个 workflow 来收集 behavior 数据：

然后将收集后的数据整理成如下格式的 trajectory 来做 SFT：

SFT 的 loss 就是 Observation Masking Loss。

具体如何做的数据清洗和质量过滤可以参考原论文。

Agentic RL

做 RL 之前也要先做训练数据的质量过滤，过滤出真实需要 Tool call 的 queries。

1）数据采样

这一步从开源数据集中筛选出那些真正需要工具才能解决的、有挑战性的查询。

  • Web Agent：先用一个强大的LLM（Qwen-72B）尝试直接回答问题，如果正确率超过30%，说明这个问题可能不需要工具或已被模型记忆，则被过滤掉。剩下的才是RL训练的“硬骨头”。
  • Code Agent：用一个较小的AFM模型尝试多次解决问题，如果一个题目每次都能被轻松解决，说明它不够难，也会被丢弃。
2）reward function 的设计
  • Web Agent 奖励（R_web）：结果导向。直接使用 LLM-as-a-Judge（让另一个 LLM 当裁判）来判断最终答案是否正确。正确则奖励为 1，否则为 0。这种设计简单直接，避免了复杂的奖励塑造可能带来的问题。
  • Code Agent 奖励（R_code）：结果 + 格式。奖励 = score_answer * score_format。score_answer 由代码是否通过测试或答案是否正确决定（1 或 0 ）。score_format 则检查工具调用（如代码块）的格式是否正确（1或0）。这意味着，即使代码逻辑正确，如果格式错误导致无法执行，也得不到奖励。

通过 RL 优化，模型在 SFT“模仿”的基础上，进一步学会了如何更高效、更可靠地协调工具来解决难题。

实验

实验设计

论文在 Web 和 Code 两大智能体任务上进行了 exhaustive 的实验，结果真不错。

  1. 多智能体蒸馏：从先进的 MAS 系统（如 OAgents）中提取协作轨迹，转化为CoA兼容的训练数据，用于监督微调（SFT）。
  2. 智能体强化学习：在可验证的智能体任务上优化模型，设计任务相关的奖励函数（如Web Agent的二元正确性奖励和Code Agent的格式-答案联合奖励）。
  3. 评估基准：在 Web Agent（GAIA、BrowseComp、HLE）和 Code Agent（LiveCodeBench、CodeContests）任务上对比AFM与现有方法（如ReAct、TIR、传统MAS）。

结果与分析

  1. 性能提升：AFM在多个基准上达到SOTA，例如：
  • Web Agent：GAIA（55.3%）、BrowseComp（11.1%）、HLE（18.0%）；
  • Code Agent：LiveCodeBench（47.9%）、CodeContests（32.7%）；
  • 数学推理：AIME202.5（59.8%，较TIR方法提升10.5%）。
  1. 效率优势：相比传统MAS，AFM减少84.6%的推理令牌消耗，同时支持动态智能体编排。
  2. 泛化能力：AFM在未见过的智能体任务（如代码智能体调用搜索工具）中展现零样本适应性。

泛化性分析

一个有趣的实验是：将一个只在“代码”任务上训练过的AFM模型，突然赋予它“网页搜索”和“视觉检查”等它从未见过的工具描述，它能否正确使用？

结果是：可以！ 模型能够严格遵循提示词中的格式要求，在第一次尝试中就正确协调使用了这些新工具。这证明了 CoA 范式强大的零样本泛化能力。反之，一个只在“网页”任务上训练的模型，在面对需要严格代码格式的工具时则表现不佳，这突显了代码训练带来的格式严谨性的优势。

结论

CoA 范式通过将多智能体协作能力蒸馏到单一模型中，实现了高效、可扩展的端到端复杂问题解决。AFM在性能、效率和泛化性上显著优于现有方法，为智能体模型的训练与应用提供了新方向。本文开源了模型权重、训练数据和代码，以推动后续研究。

论

CoA 范式通过将多智能体协作能力蒸馏到单一模型中，实现了高效、可扩展的端到端复杂问题解决。AFM在性能、效率和泛化性上显著优于现有方法，为智能体模型的训练与应用提供了新方向。本文开源了模型权重、训练数据和代码，以推动后续研究。

如何学习大模型 AI ？

我国在AI大模型领域面临人才短缺，数量与质量均落后于发达国家。2023年，人才缺口已超百万，凸显培养不足。随着Al技术飞速发展，预计到2025年，这一缺口将急剧扩大至400万，严重制约我国Al产业的创新步伐。加强人才培养，优化教育体系，国际合作并进，是破解困局、推动AI发展的关键。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

2025最新大模型学习路线

明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛，没有明确的学习路线可能会导致新人感到迷茫，不知道应该专注于哪些内容。

对于从来没有接触过AI大模型的同学，我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

在这里插入图片描述

针对以上大模型的学习路线我们也整理了对应的学习视频教程，和配套的学习资料。

大模型经典PDF书籍

新手必备的大模型学习PDF书单来了！全是硬核知识，帮你少走弯路！

在这里插入图片描述

配套大模型项目实战

所有视频教程所涉及的实战项目和项目源码等
在这里插入图片描述

博主介绍＋AI项目案例集锦

MoPaaS专注于Al技术能力建设与应用场景开发，与智学优课联合孵化，培养适合未来发展需求的技术性人才和应用型领袖。

在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

为什么要学习大模型？

2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 ， 大模型作为其中的重要组成部分 ， 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力， 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ，为各行各业带来了革命性的改变和机遇 。

在这里插入图片描述

适合人群

  • 在校学生：包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础，有志于深入AGI大模型行业，希望开展相关的研究和开发工作。
  • IT行业从业人员：包括在职或失业者，涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验，至少1年以上的编程工作经验，对大模型技术感兴趣或有业务需求，希望通过课程提升自身在IT领域的竞争力。
  • IT管理及技术研究领域人员：包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势，主导技术创新，推动大模型技术在企业业务中的应用与改造。
  • 传统AI从业人员：包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作，现需要快速补充大模型技术能力，获得大模型训练微调的实操技能，以适应新的技术发展趋势。
    在这里插入图片描述

课程精彩瞬间

大模型核心原理与Prompt：掌握大语言模型的核心知识，了解行业应用与趋势；熟练Python编程，提升提示工程技能，为Al应用开发打下坚实基础。

在这里插入图片描述

RAG应用开发工程：掌握RAG应用开发全流程，理解前沿技术，提升商业化分析与优化能力，通过实战项目加深理解与应用。 在这里插入图片描述

Agent应用架构进阶实践：掌握大模型Agent技术的核心原理与实践应用，能够独立完成Agent系统的设计与开发，提升多智能体协同与复杂任务处理的能力，为AI产品的创新与优化提供有力支持。
在这里插入图片描述

模型微调与私有化大模型：掌握大模型微调与私有化部署技能，提升模型优化与部署能力，为大模型项目落地打下坚实基础。 在这里插入图片描述

顶尖师资，深耕AI大模型前沿技术

实战专家亲授，让你少走弯路
在这里插入图片描述

一对一学习规划，职业生涯指导

  • 真实商业项目实训
  • 大厂绿色直通车

人才库优秀学员参与真实商业项目实训

以商业交付标准作为学习标准，具备真实大模型项目实践操作经验可写入简历，支持项目背调

在这里插入图片描述
大厂绿色直通车，冲击行业高薪岗位
在这里插入图片描述

文中涉及到的完整版的大模型 AI 学习资料已经上传优快云，朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

Chain-of-Agents: End-to-End Agent Foundation Models via Multi-Agent Distillation and Agentic RL
c_cpp_csharp的专栏
09-03 188
本文由OPPO AI Agent团队提出Chain-of-Agents（CoA，智能体链）新范式，旨在解决现有多智能体系统（MAS）和工具集成推理（TIR）模型的局限性，实现单模型内端到端的复杂问题解决。近年来，大型语言模型（LLM）和多智能体系统在深度研究、代码生成、数学推理等复杂问题解决任务中展现出卓越能力。然而，现有多智能体系统大多依赖人工提示/工作流设计与复杂的智能体框架构建，导致计算效率低下、能力有限，且无法从数据驱动学习中获益。本文提出Chain-of-Agents（CoA，智能体链）
深度解析《Chain-of-Agents: End-to-End Agent Foundation Models via Multi-Agent Distillation and Agentic RL
thesky123456的博客
08-29 1244
《Chain-of-Agents》提出端到端多智能体基础模型CoA，通过智能体蒸馏和强化学习实现三大突破：1）单模型内动态角色协作，减少84.6%推理开销；2）从顶尖多智能体系统蒸馏能力，数据质量提升3.2倍；3）创新DAPO算法使GAIA任务成功率提升37%。实验显示在GAIA等基准上超越SOTA达21.3%，内存占用仅为传统系统的1/50。该框架为金融分析、工业质检等复杂场景提供高效解决方案，已开源模型权重和16.4万条训练轨迹。尽管在长程任务和领域适配方面仍存局限，其单模型多智能体架构为下一代AI系统
51c大模型~合集179
whaosoft~aiotの开发板商城
09-07 1329
然而，在更具挑战性的评估和实际使用中，准确度会固定在 100% 以下，因为有些问题的答案由于各种原因（例如信息不可用、小型模型的思维能力有限或需要澄清的歧义）而无法确定。OpenAI 举了个例子，当向不同的广泛使用的聊天机器人询问 Adam Tauman Kalai（论文一作）的博士论文标题时，它们自信地给出了三个不同的答案，但没有一个是正确的。例如，当被要求回答毛利语问题时，一个不懂毛利语的小型模型可以直接回答「我不知道」，而一个认识一些毛利语的模型则必须确定其置信度。同样的原则也适用于预训练。
51c大模型~合集86
whaosoft~aiotの开发板商城
12-09 2793
我自己的原文哦~ https://blog.51cto.com/whaosoft/12772867拆解高复杂运筹问题的砖石，打破数据稀缺的瓶颈，中科大提出高质量运筹数据生成方法论文作者刘昊洋是中国科学技术大学 2023 级硕士生，师从王杰教授，主要的研究方向为强化学习与学习优化理论及方法。他曾在 NeurIPS、ICML 和 ICLR 等人工智能顶级会议上发表论文三篇，曾获中国科学技术大学黄渝纪念奖学金、华为奖学金等荣誉。近日，中科大王杰教授团队（MIRA Lab）提出了矩阵分块分解技术生成数学优化问题
51c大模型~合集155
whaosoft~aiotの开发板商城
07-16 2204
具体而言，研究团队利用加权融合的方式在解码前将来自视觉对齐层的知识与全局信息结合，从而优化模型输出，既保留了语义信息，又减少了幻觉的产生。对于新的测试图像，该阈值可以确保生成的2D关键点置信区间（一系列以预测均值为中心，以协方差和阈值为半径的圆形区域）能够以用户预先设定的概率（例如 ）覆盖所有真实的关键点位置。实验结果表明，该方法在保证相近的真实位姿覆盖率的前提下，推理速度提升超过33%，并且生成的置信区间体积大幅度缩小——旋转置信区间体积最多减小99.9%，平移置信区间体积最多减小99.8%。
51c大模型~合集125
whaosoft~aiotの开发板商城
05-08 3360
整个过程在与环境的互动中完成，环境负责验证任务的合理性和解答的正确性，并为模型提供奖励反馈。在这一范式下，研究团队训练了新的模型 Absolute Zero Reasoner（AZR），以代码执行器作为真实环境，自动生成并解决三类代码推理任务，涵盖归纳、演绎与溯因推理，依赖环境可验证的反馈实现稳定训练。在最核心的比较中，AZR-Coder-7B 在多个代码与数学推理基准上取得了当前同规模模型中的最优结果，不仅在总体平均分上领先，更在代码任务平均得分上超越了多个依赖人工任务训练的模型。他的导师是黄高教授。
51c大模型~合集120
热门推荐
whaosoft~aiotの开发板商城
04-23 1万+
然而，视觉 token 在时序上具有局部性：对于当前解码帧，其邻近帧需要更细粒度的时序交互，而远离的帧通常仅需作为记忆存在，无需深入的时序交互。Agent Factory 模式下，你只需要你对智能体做出描述，Cooragent 就会根据你的需求生成一个智能体，系统的会自动分析用户需求，通过记忆和扩展深入理解用户，省去纷繁复杂的 Prompt 设计。它不仅加速了知识的创造和传播，激发了前所未有的协作模式，更让智能体真正「活」了起来，从单纯的工具转变为社区中积极的参与者和贡献者。
51c大模型~合集133
whaosoft~aiotの开发板商城
05-31 1728
来自上海人工智能实验室团队的最新成果 Linear-MoE，首次系统性地实现了线性序列建模与 MoE 的高效结合，并开源了完整的技术框架，包括 Modeling 和 Training 两大部分，并支持层间混合架构。Linear-MoE 的核心贡献在于构建了一个从 Modeling 到 Training 的完整系统，支持线性序列建模层与 MoE 层的灵活组合，同时兼容传统的 Softmax Attention Transformer 层，支持形成混合架构。唯一的瑕疵就是那莫名飞起的镲，说实话有点出戏。
51c大模型~合集132
whaosoft~aiotの开发板商城
05-28 3114
团队从数据的每个查询 x 中抽取开头词 w，然后构造相应的 SFT 数据对 (Q (w), x)，此外，团队还构造了一些负样本来帮助模型识别没有在训练中出现过的开头词，即对于没有在 D_1 中出现过的开头词 w’, 团队构造一条相应的拒绝回复 R (w’)，表明没有见过相应的训练数据，这类数据构成的数据对为 (Q (w’),R (w’))。该打分公式的主要思想是，模型拒绝回复的可能性越低，或者模型一直重复某个特定的输出，都表明该开头词更有可能是真实在训练数据中出现的开头词。
51c大模型~合集175
whaosoft~aiotの开发板商城
08-28 2063
随着互联网技术的发展，信息搜索变得日益重要；高效的检索、评估、筛选和管理信息资源已成为必备技能。传统搜索引擎往往难以准确把握复杂的人类意图，因此获取最终答案常常耗时费力。近年来，大型语言模型（LLMs）在语言理解与生成方面表现突出，但在获取外部知识和最新信息上仍存在局限。
51c大模型~合集151
whaosoft~aiotの开发板商城
07-08 1955
说实话，学生们感受到的压力更大。KAG 框架 V0.8 版本为 Thinker 模型应用提供支持，融入 KAG 框架后的 Thinker 模型， Math、Deduce 都使用框架中的求解器进行求解，再用 Thinker 模型进行答案汇总，可以看到 KAG-Thinker 7B 的平均 EM 和 F1 性能相比于 Thinker 模型平均提升 3.0%，3.8%。这种问题 Thinker 模型拆分不稳定，主要的原因有两种，第一，LLM 对复杂的纯自然语言问题拆分存在不一致，第二，7B 模型的泛化能力有限。
【Agent】Chain-of-Agents: End-to-End Agent Foundation Models via Multi-Agent Distillation and Agentic
STAR GAME
09-02 1114
对多工具多场景下使用一个Agent模型去解决当前需要多Agent解决的问题进行探索。分别在Web Agent场景和Code Agent场景下进行了尝试，通过使用MAS来生成采样轨迹，将数据轨迹转化为设计的标签进行包裹，之后分别使用SFT和DAPO进行训练，构建成一个端到端的Agent模型。实验结果发现，整体性能均优于现有方法。
Chain-of-Agents: OPPO推出通用智能体模型新范式，多榜单SOTA，模型代码数据全开源
欢迎来到我的博客
08-25 586
OPPO个性化AI实验室负责人，主要研究方向是AI个性化、智能体的自主进化和强化学习、以及大模型和智能体的记忆系统等。本文核心贡献者均来自OPPO个性化AI实验室的AI智能体团队。近年来，以多智能体系统（MAS）为代表的研究取得了显著进展，在深度研究、编程辅助等复杂问题求解任务中展现出强大的能力。现有的多智能体框架通过多个角色明确、工具多样的智能体协作完成复杂任务，展现出明显的优势。
TensorRT笔记（5）：研究timingCache
ouliten的博客
12-02 1005
在里出现了大量的timingCache，但是当时没有取研究这是干啥的，本文就来解析一下。样例都基于上面的文章。
【模式识别与机器学习（8）】主要算法与技术（下篇：高级模型与集成方法）之 元学习与集成方法：组合多个学习器来提高整体性能
hiliang521的博客
12-02 852
【模式识别与机器学习（8）】主要算法与技术（下篇：高级模型与集成方法）之 元学习
大模型应用：大模型 MapReduce 全解析：核心概念、中文语料示例实现.12
minhuan的专栏
12-03 1114
本文介绍了MapReduce编程模型及其在大模型训练中的应用。MapReduce通过"分治-并行-聚合"思想处理大规模数据，传统Hadoop MapReduce侧重结构化数据计算，而大模型MapReduce则针对自然语言处理任务。文章详细对比了两者在架构、处理对象和核心算力等方面的差异，并提供了中文词频统计的Python实现示例，包括单机版和分布式版本。分布式实现利用多进程模拟集群计算，展示了数据分片、Map、Shuffle和Reduce的完整流程。
人工智能的基石之三：硬件
最新发布
最简单的方法，解决最实际的问题。
12-05 472
高性能硬件是人工智能的基石，尤其是在机器学习和深度学习领域，海量数据是常态。从充当计算机大脑的中央处理器 (CPU) 到加速计算的图形处理器 (GPU)，硬件的作用是提供处理和运行复杂数据算法所需的原始能力。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值