2025最全Agent基座模型指南:从多智能体蒸馏到Agentic RL,Chain-of-Agents实战全解析,收藏这篇就够了!

论文阅读:Chain-of-Agents: End-to-End Agent Foundation Models via Multi-Agent Distillation and Agentic RL 《Chain-of-Agents:单模型实现多智能体协作的新范式》提出CoA框架,通过多智能体蒸馏和强化学习将传统多智能体系统(MAS)的协作能力内化到单一语言模型中。相比传统MAS,CoA在GAIA等20余个基准上实现SOTA(如GAIA 55.3%),同时降低84.6%计算开销;相比工具集成推理(TIR)方法,突破单工具限制,支持动态多角色协作。该研究通过数据驱动训练实现复杂协作能力的模型内化,为高效多智能体推理提供新范式。 阅读详情

Chain-of-Agents

TL;DR:

研究问题:当前的多智能体系统和工具集成推理方法在复杂问题解决中存在显著局限性,包括计算开销高、泛化能力有限、缺乏数据驱动的优化能力,以及无法支持端到端的多智能体协作。

研究方法:本文提出了一种新型的LLM推理范式——Chain-of-Agents (CoA),通过多 Agents 蒸馏和 Agentic RL 训练 Agent Foundation Models (AFMs),使单个模型能够动态激活不同的工具智能体和角色扮演智能体,模拟多智能体协作的端到端问题解决流程。


Background

多 Agents 系统的问题:现在的多 Agents 系统需要研究人员为每个 Agent 设计提示词并手动编排他们之间的工作流程和通信协议,这存在多个缺点:计算效率低下、泛化能力差、无法通过数据学习持续改进。

工具集成推理:而另一条技术路线是工具集成推理(Tool-Integrated Reasoning, TIR)。这种方法训练一个 LLM 按照 ReAct 的步骤来使用 tools,这比手动提示更高效、更强大。但它本质上仍然是“单线程”的,无法模拟多智能体之间丰富的、并行的协作模式。


于是本文提出了 Chain-of-Agents(CoA)范式,旨在取两家之长,弃两家之短。它希望在一个模型内部,原生地、端到地实现复杂问题解决,其能力堪比一个多智能体系统,但其形态和效率却像一个 TIR 模型。论文将求解这类复杂问题(指原本需要多 Agents 才能解决的复杂问题)的模型称为 Agent Foundation Models(AFMs)。

本文的主要贡献:

  1. 一种名为 Chain-of-Agents 的基于 LLM 的问题求解范式,这种范式希望在单一模型中整合多智能体协作的能力。
  2. 一种多 Agents 蒸馏框架,可以将最先进的多 Agents 的能力蒸馏到一个 model 中,并设计了一种 Agentic 强化学习框架,通过强化学习来优化 Agent 模型。
  3. 使用本文提出的方法来训练 AFM,展示了 AFM 在多跳问答系统、网络搜索、代码生成和数学推理任务中均达到了新的 SOTA 水平,其性能由于 TIR 方法。

Method

Chain-of-Agents 范式

CoA 的核心思想非常直观:**为什么不把一个多智能体系统的协作过程,看作是模型内部的一种特殊“思维链”呢?**传统的思维链是“一步一步地想”,而 CoA 是“一个角色一个角色地切换着去想和做”。

在 CoA 范式中,给定一个复杂的查询后,模型不会固定地执行“想-搜-读”的循环,相反,它会在内部动态地激活不同的“子模块”或“角色”:

  • Role-playing Agents:负责高层次的认知和协调
  • 包含思维 Agent、规划 Agent、反思 Agent、验证 Agent
  • Tool Agents:负责执行具体的领域任务
  • 包括搜索 Agent、爬取 Agent 和代码生成 Agent

AFM 的训练包含了两步:

  1. Agentic SFT:通过多 Agents 系统做 sampling 得到 behavior 数据,然后将这些 behavior 数据整理成一种特殊的 trajectory 用于作为 SFT 数据。
  2. Agentic RL:通过 RL 强化 model 去更高效、更可靠地协调 tools 来解决难题。

Agentic SFT

目标是让模型“学会”CoA 的行为模式。方法是多智能体知识蒸馏。

论文首先设计了一个由多种 Agents 编排后的 workflow,并运行这个 workflow 来收集 behavior 数据:

然后将收集后的数据整理成如下格式的 trajectory 来做 SFT:

SFT 的 loss 就是 Observation Masking Loss。

具体如何做的数据清洗和质量过滤可以参考原论文。

Agentic RL

做 RL 之前也要先做训练数据的质量过滤,过滤出真实需要 Tool call 的 queries。

1)数据采样

这一步从开源数据集中筛选出那些真正需要工具才能解决的、有挑战性的查询。

  • Web Agent:先用一个强大的LLM(Qwen-72B)尝试直接回答问题,如果正确率超过30%,说明这个问题可能不需要工具或已被模型记忆,则被过滤掉。剩下的才是RL训练的“硬骨头”。
  • Code Agent:用一个较小的AFM模型尝试多次解决问题,如果一个题目每次都能被轻松解决,说明它不够难,也会被丢弃。
2)reward function 的设计
  • Web Agent 奖励(R_web):结果导向。直接使用 LLM-as-a-Judge(让另一个 LLM 当裁判)来判断最终答案是否正确。正确则奖励为 1,否则为 0。这种设计简单直接,避免了复杂的奖励塑造可能带来的问题。
  • Code Agent 奖励(R_code):结果 + 格式。奖励 = score_answer * score_format。score_answer 由代码是否通过测试或答案是否正确决定(1 或 0 )。score_format 则检查工具调用(如代码块)的格式是否正确(1或0)。这意味着,即使代码逻辑正确,如果格式错误导致无法执行,也得不到奖励。

通过 RL 优化,模型在 SFT“模仿”的基础上,进一步学会了如何更高效、更可靠地协调工具来解决难题。

实验

实验设计

论文在 Web 和 Code 两大智能体任务上进行了 exhaustive 的实验,结果真不错。

  1. 多智能体蒸馏:从先进的 MAS 系统(如 OAgents)中提取协作轨迹,转化为CoA兼容的训练数据,用于监督微调(SFT)。
  2. 智能体强化学习:在可验证的智能体任务上优化模型,设计任务相关的奖励函数(如Web Agent的二元正确性奖励和Code Agent的格式-答案联合奖励)。
  3. 评估基准:在 Web Agent(GAIA、BrowseComp、HLE)和 Code Agent(LiveCodeBench、CodeContests)任务上对比AFM与现有方法(如ReAct、TIR、传统MAS)。

结果与分析

  1. 性能提升:AFM在多个基准上达到SOTA,例如:
  • Web Agent:GAIA(55.3%)、BrowseComp(11.1%)、HLE(18.0%);
  • Code Agent:LiveCodeBench(47.9%)、CodeContests(32.7%);
  • 数学推理:AIME202.5(59.8%,较TIR方法提升10.5%)。
  1. 效率优势:相比传统MAS,AFM减少84.6%的推理令牌消耗,同时支持动态智能体编排。
  2. 泛化能力:AFM在未见过的智能体任务(如代码智能体调用搜索工具)中展现零样本适应性。

泛化性分析

一个有趣的实验是:将一个只在“代码”任务上训练过的AFM模型,突然赋予它“网页搜索”和“视觉检查”等它从未见过的工具描述,它能否正确使用?

结果是:可以! 模型能够严格遵循提示词中的格式要求,在第一次尝试中就正确协调使用了这些新工具。这证明了 CoA 范式强大的零样本泛化能力。反之,一个只在“网页”任务上训练的模型,在面对需要严格代码格式的工具时则表现不佳,这突显了代码训练带来的格式严谨性的优势。

结论

CoA 范式通过将多智能体协作能力蒸馏到单一模型中,实现了高效、可扩展的端到端复杂问题解决。AFM在性能、效率和泛化性上显著优于现有方法,为智能体模型的训练与应用提供了新方向。本文开源了模型权重、训练数据和代码,以推动后续研究。

论

CoA 范式通过将多智能体协作能力蒸馏到单一模型中,实现了高效、可扩展的端到端复杂问题解决。AFM在性能、效率和泛化性上显著优于现有方法,为智能体模型的训练与应用提供了新方向。本文开源了模型权重、训练数据和代码,以推动后续研究。

如何学习大模型 AI ?

我国在AI大模型领域面临人才短缺,数量与质量均落后于发达国家。2023年,人才缺口已超百万,凸显培养不足。随着Al技术飞速发展,预计到2025年,这一缺口将急剧扩大至400万,严重制约我国Al产业的创新步伐。加强人才培养,优化教育体系,国际合作并进,是破解困局、推动AI发展的关键。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

2025最新大模型学习路线

明确的学习路线至关重要。它能指引新人起点、规划学习顺序、明确核心知识点。大模型领域涉及的知识点非常广泛,没有明确的学习路线可能会导致新人感到迷茫,不知道应该专注于哪些内容。

对于从来没有接触过AI大模型的同学,我帮大家准备了从零基础到精通学习成长路线图以及学习规划。可以说是最科学最系统的学习路线。

在这里插入图片描述

针对以上大模型的学习路线我们也整理了对应的学习视频教程,和配套的学习资料。

大模型经典PDF书籍

新手必备的大模型学习PDF书单来了!全是硬核知识,帮你少走弯路!

在这里插入图片描述

配套大模型项目实战

所有视频教程所涉及的实战项目和项目源码等
在这里插入图片描述

博主介绍+AI项目案例集锦

MoPaaS专注于Al技术能力建设与应用场景开发,与智学优课联合孵化,培养适合未来发展需求的技术性人才和应用型领袖。

在这里插入图片描述

在这里插入图片描述

这份完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

为什么要学习大模型?

2025人工智能大模型的技术岗位与能力培养随着人工智能技术的迅速发展和应用 , 大模型作为其中的重要组成部分 , 正逐渐成为推动人工智能发展的重要引擎 。大模型以其强大的数据处理和模式识别能力, 广泛应用于自然语言处理 、计算机视觉 、 智能推荐等领域 ,为各行各业带来了革命性的改变和机遇 。

在这里插入图片描述

适合人群

  • 在校学生:包括专科、本科、硕士和博士研究生。学生应具备扎实的编程基础和一定的数学基础,有志于深入AGI大模型行业,希望开展相关的研究和开发工作。
  • IT行业从业人员:包括在职或失业者,涵盖开发、测试、运维、产品经理等职务。拥有一定的IT从业经验,至少1年以上的编程工作经验,对大模型技术感兴趣或有业务需求,希望通过课程提升自身在IT领域的竞争力。
  • IT管理及技术研究领域人员:包括技术经理、技术负责人、CTO、架构师、研究员等角色。这些人员需要跟随技术发展趋势,主导技术创新,推动大模型技术在企业业务中的应用与改造。
  • 传统AI从业人员:包括算法工程师、机器视觉工程师、深度学习工程师等。这些AI技术人才原先从事机器视觉、自然语言处理、推荐系统等领域工作,现需要快速补充大模型技术能力,获得大模型训练微调的实操技能,以适应新的技术发展趋势。
    在这里插入图片描述

课程精彩瞬间

大模型核心原理与Prompt:掌握大语言模型的核心知识,了解行业应用与趋势;熟练Python编程,提升提示工程技能,为Al应用开发打下坚实基础。

在这里插入图片描述

RAG应用开发工程:掌握RAG应用开发全流程,理解前沿技术,提升商业化分析与优化能力,通过实战项目加深理解与应用。 在这里插入图片描述

Agent应用架构进阶实践:掌握大模型Agent技术的核心原理与实践应用,能够独立完成Agent系统的设计与开发,提升多智能体协同与复杂任务处理的能力,为AI产品的创新与优化提供有力支持。
在这里插入图片描述

模型微调与私有化大模型:掌握大模型微调与私有化部署技能,提升模型优化与部署能力,为大模型项目落地打下坚实基础。 在这里插入图片描述

顶尖师资,深耕AI大模型前沿技术

实战专家亲授,让你少走弯路
在这里插入图片描述

一对一学习规划,职业生涯指导

  • 真实商业项目实训
  • 大厂绿色直通车

人才库优秀学员参与真实商业项目实训

以商业交付标准作为学习标准,具备真实大模型项目实践操作经验可写入简历,支持项目背调

在这里插入图片描述
大厂绿色直通车,冲击行业高薪岗位
在这里插入图片描述

文中涉及到的完整版的大模型 AI 学习资料已经上传优快云,朋友们如果需要可以微信扫描下方优快云官方认证二维码免费领取【保证100%免费】

在这里插入图片描述

经验时代的自我改进智体:从自进化到元进化的综述(下) 26年6月来自清华、地平线和衔远科技(frontis.ai)的论文“Self-Improving Agents in the Era of Experience: A Survey of Self- to Meta-Evolution”。 在“经验时代”(Era of Experience),智体AI(agentic AI)的定义不再仅仅取决于模型从静态数据中进行推理的能力,更取决于已部署系统如何从交互中积累、组织并复用经验。本综述探讨了已部署智体AI系统中由经验驱动的改进机制。重点关注“运行时驾驭”(ru 阅读详情

相关推荐

51c自动驾驶~合集57

多目标多头蒸馏模块:我们看到轨迹模仿学习之后的轨迹还过了其他的MLP,这就是其他头,它的目标也是不一样的,第一个是跟碰撞相关的,第二个是跟行驶区域相关的,第三个是跟舒适度相关的,也就是说不同的评判指标都有一个teacher,之前的模仿学习就是人类的teacher,那么这些teacher是怎么来的呢?本文作者提出的新的范式,就是规划模块是多模的输出,同时,目标也是多样性的,即不仅是GT的轨迹也同时引入了更多的正样本,由不同的专家给出的。还是那句话,小米汽车的成功,是小米价值观,小米模式,和小米方法论的成功。

whaosoft~aiotの开发板商城 2346

智能体新范式Chain-of-Agents,多项任务新SOTA

它巧妙地绕过了传统多智能体系统繁琐、低效的工程陷阱,通过“蒸馏”和“内化”的思想,将协作的复杂性封装进一个可端到端训练的基础模型内部。想象一下,不再是和一个简单的聊天机器人对话,而是雇佣了一个由专家组成的虚拟团队:一个负责规划,一个负责搜索信息,一个负责写代码,他们相互协作,共同解决一个复杂问题。但它本质上仍然是“单线程”的,无法模拟多智能体之间丰富的、并行的协作模式。反之,一个只在“网页”任务上训练的模型,在面对需要严格代码格式的工具时则表现不佳,这突显了代码训练带来的格式严谨性的优势。

zenRRan的博客 1255

Agentic SFT:面向智能体行为的监督微调实践与避坑指南

大模型微调中,监督微调(SFT)是基础技术,它通过输入-输出对让模型学习映射关系。但在智能体场景下,模型需要处理多步决策、工具调用与状态转移,传统SFT的静态映射思路已不适用。Agentic SFT将决策轨迹作为学习目标,让模型掌握在动态环境中“下一步最该做什么”的策略。这种训练方式强调完整轨迹数据、损失掩码设计与数据质量筛选,是提升工具调用准确率与任务成功率的关键。从客服退款到多智能体协作,Agentic SFT在工程实践中逐步成为强化学习的前置步骤,也为复杂Agent系统的落地提供了可靠支撑。本文结合真

weixin_29056101的博客 77

Chain-of-Agents重磅登场!通用智能体新范式横扫SOTA,模型代码数据全开源

即使使用更小的 Qwen-2.5-7B-Instruct 主干,AFM 仍在 HLE 任务中取得 15.6% 的成绩,仅略低于采用更大主干的 WebThinker-RL(15.8%),同时在多个基准任务中超越其他集成工具的 32B 模型。为了进一步提升智能体的多工具协作策略,在强化学习(RL)阶段,本方法进一步利用约 85k 条高质量的 Agentic 任务、数学问题和代码任务数据,通过严格的数据质量筛选与策略抽样,确保强化学习专注于最具挑战的任务,防止过拟合。

Paper weekly 337

Docker Desktop 在 Windows 上的安装和使用

WSL 指 “”,这是一个在 Windows 10\11 上能够运行原生 Linux 二进制可执行文件(ELF格式)的兼容层。它是由微软与Canonical公司合作开发的,旨在使纯正的Ubuntu、Debian等映像能下载和解压到用户的本地计算机,并且映像内的工具和实用工具能在此子系统上原生运行。这极大地拓展了Windows系统的功能,使用户能够在Windows环境中享受到Linux的强大功能。//Linux容器。

swadian2008的博客 6万+

Web渗透(一)CRLF注入简介

CRLF注入简介1、基础知识2、原理分析3、漏洞挖掘4、防御手段5、CRLF Payload: 1、基础知识 HTTP报文结构 从上图可以看到:HTTP报文由三部分组成:状态行、首部、主体。 可以看到状态行和首部中的每行都是以回车符(\r,%0d,CR)和换行符(\n,%0a,LF)结束。 十六进制编码分别为0x0d和0x0a,URL编码为%0D和%0A 这是因为HTTP规范中行应该使用CRLF结束。另外,首部和主体由两个CRLF分隔。 2、原理分析 CRLF是 “ 回车+换行 ”(\r\n)的简称。

weixin_39157582的博客 6821

【LLM & Agent & 长文本】Chain-of-Agents与Qwen-Agent引领智能体长文本处理革命

输入长度减少:RAG的方法可以减少输入长度,但这可能导致所需信息的部分丢失,影响任务解决性能。扩展LLMs的上下文长度:通过微调的方式来扩展LLMs的上下文窗口,以便处理整个输入。当窗口变长时,LLMs难以集中注意力在解决任务所需的信息上,导致上下文利用效率低下。下面来看看两个有趣的另辟蹊径的方法,使用Agent协同来处理长上下文。

余俊晖,NLP炼丹师,目前专注自然语言处理领域研究。曾获得国内外自然语言处理算法竞赛TOP奖项近二十项。 2332

电商数据分析19——数据分析在电商平台价格弹性研究中的应用

价格弹性是一个衡量产品价格变化对销量影响的经济学指标,对于电商平台而言,深入理解和有效运用价格弹性,对于制定竞争策略、优化产品定价具有重要意义。随着大数据时代的到来,通过数据分析研究产品的价格弹性,成为了电商企业制定价格策略、调整市场定位、优化促销活动的重要依据。

theskylife的博客 2835

Chain of Agents(COA):大型语言模型在长文本任务中的协作新范式

高效处理长文本:CoA框架通过将长文本分成多个块并并行处理(虽然工作代理之间的通信是顺序的,但每个工作代理的处理是独立的),显著提高了处理速度。CoA通过多个LLM的协作,实现了对长文本的高效处理,为LLM在长文本任务中的应用提供了新的思路。CoA框架的核心思想是将长文本分成多个块,并让每个工作代理处理一个块,然后将处理结果传递给下一个工作代理,形成一条推理链。最后,主代理根据推理链中的信息合成最终响应。通过调整工作代理的数量和类型,以及主代理的合成策略,CoA框架可以灵活地应对各种长文本任务。

llm_way的博客 1762

PC微信逆向) 读取内存联系人链表

首先从一些网络上搜索到的信息可以得出联系人列表是保存在内存里的,并且是全局变量不会被释放,所以我们可以通过搜索某个联系人的信息来定位

Qwertyuiop2016的博客 2919

Mujoco xml actuator

在MuJoCo中,actuator(执行器) 是用于定义外部力或力矩的机制,这些力或力矩可以作用于关节、肌腱或身体。执行器可以模拟各种类型的驱动器,如电机、液压缸、肌肉等。它们通过定义传输(transmission)和力生成机制(force generation)来实现对模型的控制。

m0_52113469的博客 2900

一文看懂 AI Agent 全栈架构:从运行环境到大模型基座的系统化落地指南,大模型入门到精通,收藏这篇就足够了!

今天,我们就基于一套完整的架构图,来系统拆解这六大模块,告诉你——一套真正可落地的AI Agent架构,究竟该怎么搭。

2301_81888214的博客 970

从配置文件加载顺序揭秘:为什么你的logback.xml读不到application.yml?

本文深入解析了Spring Boot中logback.xml无法读取application.yml配置的原因,揭示了Spring Boot配置加载机制与日志系统初始化的时序问题。通过对比logback.xml与logback-spring.xml的差异,提供了使用springProperty标签和系统属性传递等解决方案,帮助开发者有效解决日志配置问题。

weixin_29214335的博客 364

深度解析《Chain-of-Agents: End-to-End Agent Foundation Models via Multi-Agent Distillation and Agentic RL

《Chain-of-Agents》提出端到端多智能体基础模型CoA,通过智能体蒸馏和强化学习实现三大突破:1)单模型内动态角色协作,减少84.6%推理开销;2)从顶尖多智能体系统蒸馏能力,数据质量提升3.2倍;3)创新DAPO算法使GAIA任务成功率提升37%。实验显示在GAIA等基准上超越SOTA达21.3%,内存占用仅为传统系统的1/50。该框架为金融分析、工业质检等复杂场景提供高效解决方案,已开源模型权重和16.4万条训练轨迹。尽管在长程任务和领域适配方面仍存局限,其单模型多智能体架构为下一代AI系统

thesky123456的博客 1358

TC8:IPv4_HEADER_01-04

IPv4_HEADER_01: Ensure that the DUT generates an IPv4 Packet with a Total Length greater than or equal to 20 目的 确保DUT生成的IPv4报文的IP头部中的Total Length字段值大于等于20 IPv4协议头部中的Total Length字段表示整个IP数据包的长度,包括IP Header和payload之和,IP首部的长度最少就有20个字节,所以Total Length值肯定大于等于20

jasonj333 3961

Windows原生环境配置Tensorflow使用GPU

本文讲解如何在Windows原生环境搭建可调用GPU设备进行计算的Tensorflow2.x环境。 区别于WSL,使用Windows原始环境作为开发环境。

天然玩家的博客 1499

Django-CRM数据分析指南:销售漏斗与收入汇总等4大报表教你洞察业务

Django-CRM 是一款开源的 CRM 与任务管理软件,内置的 **Analytics(数据分析)模块** 专为管理者设计,提供销售漏斗、收入汇总等 8 类可视化报表,帮助你快速洞察销售转化、收入趋势与业务瓶颈,做出数据驱动的决策。📊 本指南将带新手在 10 分钟内读懂 Django-CRM 数据分析中最实用的 4 大报表。 ## Django-CRM 数据分析模块概览:8大报表一次看懂

gitblog_00663的博客 428

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

免费激活 Windows 11 和 Office 完整教程:MAS 四种方法实操指南

Microsoft Activation Scripts(MAS)是免费开源的激活工具,用 HWID、Ohook、TSforge、Online KMS 四种方式激活 Windows 10/11 与 Office,并附带问题诊断脚本。本文面向不想购买密钥的用户,讲清从选定方法到跑通激活、自查结果的完整过程。看完后你能在自己机器上执行完激活,出错时也知道下一步做什么。 ## 先过一遍这三项条件 激

gitblog_00659的博客 147

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

AIGC 应用工程师(5-10年)面试题与答案全解析(2026 前沿版)

AIGC 应用工程师面试题与答案全解析(2026 前沿版) 摘要 本文系统整理了 2026 年 AIGC 应用工程师岗位的核心面试内容,包含 19 大模块、68 道关键题目及 15+ 代码示例。内容覆盖: 岗位定位:强调工程落地能力(RAG、Agent、系统集成)与业务闭环思维 技术体系:从基础理论(Transformer、涌现能力)到前沿应用(MCP协议、多模态生成) 工程实践:包含推理优化、成本控制、安全合规等关键落地能力 评估体系:详细讲解 golden set 构建、LLM-as-judge 等评估

weixin_48053866的博客 818

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

AI4EDA / AI4Design 完整研究报告:全球论文、项目、机构与产业路线

AI4EDA 与 AI4Design 的核心变化,不是“让大模型写 Verilog”这么简单,而是把芯片工程中的规格、代码、脚本、日志、波形、STA report、formal collateral、layout image、PPA 指标、制造计算等对象统一纳入可学习、可检索、可验证、可迭代的闭环。NVIDIA 的论文谱系清晰呈现了这条路径:先建立可执行评测,再做领域模型和数据工程,然后进入工具反馈、多智能体、长上下文、verifier-guided skill evolution。

weixin_41468466的博客 931

全文 - Building AI Coding Agents for the Terminal: Scaffolding, Harness, Context Engineering, and Less

AI 编程辅助的格局正在经历一场根本性转变:从复杂的 IDE 插件转向通用的、终端原生的智能体(agent)。直接在开发者管理源代码版本控制、执行构建和部署环境的终端中运行,基于 CLI 的智能体为长程开发任务提供了前所未有的自主性。本文介绍OpenDev——一个专为这一新范式打造的开源命令行编程智能体。有效的自主辅助需要严格的安全控制和高效的上下文管理,以防止上下文膨胀和推理退化。

eloudy的专栏 455

【LLM】成为深入研究 Claude 的那一批研究者

本报告为专业研究者提供系统性研究Claude的路线图,解决三大核心挑战:研究对象多层性、文献过载与关键数据封闭。提出六层分析框架(意图/训练/表征/行为/系统/社会技术),明确外部研究者可行的三大路径——行为科学审计(L4)、开源模型机制验证(L3)与规范-行为耦合研究(L1×L4)。配套26周执行计划强调:1)宪法精读与系统卡分析;2)严格实验设计(表述族/混合效应模型/评测感知控制);3)首批成果4个月内产出。重点推荐规范遵循度基准、过度拒答测量等选题,并提供工具链(Petri/Inspect/circ

u012879957的专栏 550

原生 Agentic 基座模型——GLM-4.5体验!

给你学习,我国在这方面的相关人才比较紧缺,大模型行业确实也需要更多的有志之士加入进来,我也真心希望帮助大家学好这门技术,如果日后有什么学习上的问题,欢迎找我交流,有技术上面的问题,我是很愿意去帮助大家的!截至目前大模型已经超过200个,在大模型纵横的时代,不仅大模型技术越来越卷,就连大模型相关的岗位和面试也开始越来越卷了。没有现成的汽车模型,GLM-4.5使用立方体和圆组装了一个"汽车",下方还有"修改颜色"、"播放动画"、"更换模型"三个功能。翻译成人话:以前的模型是“我写稿,你排版”;

2401_85373898的博客 1296

一文读懂大模型智能体(Agent):从理论到实践

摘要: 大模型智能体(Agent)凭借自主决策、任务拆解和工具调用能力,正从理论走向实践。Agent通过“大模型基座+任务规划器+工具调用器”等核心模块,实现复杂任务自动化,个人可借助低代码工具(如AutoGPT)快速搭建,企业则需关注框架选型(如LangChain)和避坑指南(如任务拆解优化)。未来,Agent将在办公、客服等领域深度应用,技术趋向多模态交互与轻量化部署。 (字数:149)

2401_85378759的博客 964

Agent05——基座模型

来自github开源资料——

AnferneeA的博客 299
上一篇: 2025最全智能体框架盘点:从零代码到硬核开发,这6大工具让你轻松玩转AI!
下一篇: 别让显存拖垮你的大模型!OpenAI/谷歌都在用的FlashAttention,手把手教你落地
Python_金钱豹
博客等级 码龄5年 1万+粉丝 2835原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值