万字详解大模型应用发展:RAG、MCP、Agent的爆发之旅

关注腾讯云开发者,一手技术干货提前解锁👇

01

大语言模型发展历程摘要

大语言模型的发展历程:

  • 2017年具有革命性的Transformer架构开始,解决了早期模型(诸如循环神经网络(RNN)和长短期记忆网络(LSTM))在处理长距离依赖和顺序处理时存在的困难性,通过自注意力机制重新定义了自然语言处理(NLP)。

  • 2018-2020年,预训练Transformer模型时代,其特点是预训练模型的兴起以及对模型规模前所未有的关注。这一时期出现了两个具有影响力的模型家族:BERT和GPT,它们展示了大规模预训练和微调范式的强大力量。

    • 18年谷歌推出BERT采用了双向训练方法,使其能够同时从两个方向捕捉上下文。通过生成深度的、上下文丰富的文本表示,BERT在文本分类、命名实体识别(NER)、情感分析等语言理解任务中表现出色。

    • 通过自回归预训练专注于生成能力。通过使用Transformer的解码器,GPT模型作为用于文本生成的自回归语言模型表现出色。

  • 2020年GPT-3的发布标志着语言模型规模扩展的一个转折点。它拥有惊人的1750亿个参数,突破了大规模预训练的可能性边界。它展示了卓越的少样本和零样本学习能力,在推理过程中只需极少甚至无需示例就能执行任务。GPT-3的生成能力扩展到创意写作、编码和复杂推理任务,展示了超大规模模型的潜力。

  • 2021-2022年,训练后对齐,弥合人工智能与人类价值观的差距。这一时期专注于提高大语言模型与人类意图的一致性并减少幻觉,监督微调(SFT)和人类反馈强化学习(RLHF)等技术被用于解决模型与人类价值观、偏好和期望保持一致性以及模型 “幻觉”问题(大语言模型生成的内容存在事实上的错误,或者与输入提示相矛盾,所谓“一本正经胡说八道” )。

  • 2022年,OpenAI推出的GPT-3.5,在训练和微调方面进行了改进,主要增强功能包括通过优化数据更好地遵循指令、减少幻觉(尽管未完全消除),以及使用更多样化、更新的数据集以生成更相关、更具上下文感知的响应。并在此基础上,推进对话式人工智能ChatGPT,专门为自然的多轮对话进行微调的开创性对话式人工智能模型,又被称为 “ChatGPT时刻”,它展示了对话式人工智能改变人机交互的潜力。

  • 2023-2024年,多模态模型,连接文本、图像及更多,GPT-4V和GPT-4o这样的多模态大语言模型(MLLMs)通过将文本、图像、音频和视频集成到统一系统中。这些模型扩展了传统语言模型的能力,实现了更丰富的交互和更复杂的问题解决。

  • 2023-2024年,开源和开放权重的人工智能模型势头渐起,Hugging Face这样的平台促进协作,更进一步使得大模型得以更广泛地应用。闭源模型和开放权重模型之间的差距稳步缩小,其中LLaMA3.1 - 405B模型具有里程碑意义,它首次缩小了与闭源模型的差距。

  • 2024年,推理模型出现,受到认知心理学双过程理论的影响,从系统1思维(快速、直觉性)到系统2思维(慢速、分析性)的转变,这一时期开始强调提升模型推理能力,从简单的模式识别向更具逻辑性和结构化的思维过程迈进。OpenAI在2024年12月发布的o1系列模型,其将生成能力和推理能力相结合,创造出思维和行为更接近人类的模型的潜力。其关键特性是通过思维链(Chain of Thought,CoT)过程来增强推理能力,它能将复杂问题分解成更小、更易处理的步骤。

  • 2025年,DeepSeekR1,高性价比推理模型。24年12月DeepSeek-V3发布,可与OpenAI的ChatGPT等顶级产品相媲美,但开发成本却低得多。该模型最多有6710亿个参数,其中370亿个为激活参数,它采用了混合专家(MoE)架构,将模型划分为用于数学和编码等任务的专门组件,以此减轻训练负担。DeepSeek-V3融入了工程优化,比如在管理键值缓存方面进行了改进,并进一步推进了混合专家方法。2025年1月下旬,DeepSeek发布的DeepSeek-R1-Zero和DeepSeek-R1引起更广泛关注,并迅速破圈,这两款模型展现出了卓越的推理能力,且训练成本极低。

02

大语言模型发展历程摘要模型应用发展历程

   2.1 RAG知识库应用

RAG理论提出

在2020年之前,学术界已有将检索与生成结合的零星尝试,但尚未形成系统化的方法论。2020年,这一领域迎来了两个具有里程碑意义的工作:Facebook在论文Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks正式提出"RAG"概念并将其应用于知识密集型任务,同时Google的REALM通过在预训练阶段融入潜在知识检索器,显著提升了开放域问答的性能。

引入模型应用

2022年底ChatGPT发布后,迅速引爆大模型,然而在实际业务应用场景落地中,大模型所面临的问题,包括:

知识的局限性:模型的知识源于它的训练数据,而现有的主流大模型训练集都是基于现有的网络公开数据,对于一些实时性的、非公开的、离线的数据无法获取到,存在知识盲区;

幻觉问题:模型输出基于概率模型,存在知识边界感知不准确和因过度自信一本正经的胡说八道的情况,尤其在大模型自身不具备的某一方面的知识或者不擅长的场景该问题表现更明显;

数据安全性:对于企业来说,数据安全问题非常重要,如何保障自身私域数据的安全性是大模型应用中不得不面对的问题。

Agent代理应用中,知识库作为代理的LongMemory也是必不可少的一个基础设施。

快速发展

ChatGPT发布后,RAG研究更是进入了加速发展的黄金时期。在这个过程中,RAG技术逐渐从单一的检索-生成框架,演化为包含多跳推理、记忆增强和多模态等复杂功能的综合系统。

NaiveRAG

2020年10月,Meta团队在论文《Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks》中首次定义Naive RAG架构,确立了"索引-检索-生成"三阶段流程:

  • 索引(Indexing):索引首先清理和提取各种格式的原始数据,如 PDF、 HTML、 Word 和 Markdown,然后将其转换为统一的纯文本格式。为了适应语言模型的上下文限制,文本被分割成更小的、可消化的块(chunk)。然后使用嵌入模型将块编码成向量表示,并存储在向量数据库中。这一步对于在随后的检索阶段实现高效的相似性搜索至关重要。

  • 检索(Retrieval):在收到用户查询(Query)后,RAG 系统采用与索引阶段相同的编码模型将查询转换为向量表示,然后计算索引语料库中查询向量与块向量的相似性得分。该系统优先级和检索最高 k (Top-K)块,显示最大的相似性查询。这些块随后被用作 prompt 中的扩展上下文。

  • 生成(Generation):提出的查询(Query)和选定的文档(Chunks)被合成为一个连贯的提示,大语言模型负责生成回复。

AdvancedRAG

Advanced RAG 的雏形源于对 Naive RAG(索引→检索→生成)的局限性突破。早期研究者发现单纯依赖向量检索存在 语义鸿沟 (如用户提问模糊或需多跳推理时检索失效)和 信息冗余 (检索结果重复或无关)等问题。为此,Meta、微软等团队开始探索全流程优化框架,提出 检索前预处理 、检索后精炼以及Embedding模型优化等方向:

关键性技术突破:

  • 预索引优化

    • 多粒度分块策略:引入滑动窗口分割、语义分块等策略,解决长文本切分导致的语义断裂问题(如将文档按段落、章节动态划分)

    • 引入元数据:把元数据嵌入块中提升检索效率(标题、摘要、作者、时间、实体信息)

    • 混合索引:结合 BM25关键词匹配 与 向量语义检索,平衡精确召回与语义理解能力。

    • 假设性问题:让LLM为每个块生成一个问题,保存问题与文本块的映射关系,将这些问题存入向量数据库中。在检索时,先基于向量问题数据库进行查询搜索,找到相似问题后,然后在检索后路由到原始文本块,并将它们作为上下文发送给LLM以获得答案。这种方法通过查询与假设性问题之间更高的语义相似性,提高了搜索质量。

    • HyDE(Hypothetical Document Embeddings):通过逆向逻辑方法,让LLM给定查询生成一个假设性回应,然后使用其向量和查询向量来提高搜索质量。

  • 后索引优化:

    • ReRank:重新排序以将最相关的信息重新定位到提示的边缘是一个简单的想法。

    • Prompt Compression:重点在于压缩不相关的上下文,突出关键段落,并减少整体上下文长度。

  • Embedding:

    • Fine-tuning Embedding:微调的目的是增强检索内容和查询之间的相关性。通常,微调嵌入的方法分为在特定领域上下文中调整嵌入和优化检索步骤。特别是在处理进化或稀有术语的专业领域,这些定制的嵌入方法可以提高检索相关性。

    • Dynamic Embedding:动态嵌入根据单词出现的上下文进行调整,不同于为每个单词使用单个向量的静态嵌入,理想情况下,嵌入应该包含尽可能多的上下文,以确保“healthy”的结果。

  • 查询转换:

    • 查询转换利用LLM作为推理引擎来修改用户输入,以提高检索质量。对于更复杂的用户查询,可以基于LLM将其进行子查询拆解,分别得到子查询的关联上下文信息后整合到一起提供给LLM生成初始复杂问题的最终答案。当涉及到多轮上下文对话中,如果利用历史对话补齐当前对话信息完整性,以实现更准确的信息检索同样涉及到查询转换。

ModularRAG

Modular RAG是RAG范式的又一演变,强调灵活性、多样化和定制化。ModularRAG通过将检索和生成流程分解为独立、可重用的组件,实现了针对特定领域的优化和任务适应性。

Augmented Module

Augmented Process

技术特点:

  • Modular RAG 将传统 RAG 系统的线性流程拆分为 独立可插拔的模块 (如检索器、预处理器、生成器等),每个模块专注于特定功能(如查询优化、混合检索、生成控制),支持像“乐高积木”一样自由组合。

  • 动态流程编排能力:通过路由(Routing)、调度(Scheduling)和知识图谱融合机制,实现 多路径检索与智能决策。

  • 混合检索策略与工具集成:支持 稀疏检索(BM25)与密集检索(向量模型)结合,并集成外部 API、数据库等工具。

GraphRAG

Graph RAG 引入了知识图谱的概念,通过构建实体之间的关系网络,增强了对复杂知识的表示和检索能力。在索引阶段,Graph RAG 不仅提取文本中的实体和关系,还构建了知识图谱,将文档中的知识组织成一个结构化的网络;在查询阶段,利用知识图谱的语义信息,能够更准确地理解用户问题,检索到相关的知识。Graph RAG 在处理需要深层逻辑推理和知识关联的问题时表现出色。

Graph RAG的特点包括:

  • 节点连接性:捕获并推理实体之间的关系。

  • 层次知识管理:通过基于图的层次结构处理结构化和非结构化数据。

  • 上下文丰富:通过利用基于图的路径添加关系理解。

Graph RAG局限性:

  • 可扩展性有限:依赖图结构可能会限制可扩展性,特别是在数据源广泛时。

  • 数据依赖:高质量的图数据对于有意义的输出至关重要,限制了其在非结构化或注释不佳的数据集中的适用性。

  • 集成复杂性:将图数据与非结构化检索系统集成增加了设计和实现的复杂性。

Graph RAG适用于医疗诊断、法律研究等需要对结构化关系进行推理的应用领域。

AgenticRAG

Agentic RAG,在RAG的基础上引入了AI“代理”(Agent)。在Agentic RAG中,AI代理模块负责协调检索和生成过程,而不是简单地遵循固定的单次检索-生成流程。通过将RAG的知识检索能力与AI代理的决策能力相结合,突破传统RAG在多源异构数据整合和多跳推理任务上的局限。

技术性突破:

  • Agentic RAG不再局限于单一知识源,可以聚合来自多个地方或服务的信息。通过代理可以访问各种工具或数据源,包括用于私有文档索引的向量搜索引擎、用于通用知识或实时信息的网络搜索API、用于计算的计算器,以及其他内部API(如数据库、电子邮件等);

  • Agentic RAG引入了迭代推理和验证,不再局限于单一次的检索。Agentic RAG系统围绕Agent代理核心组织,该代理负责协调这些步骤。代理实际上位于管道的中间,决定如何路由查询和数据。这意味着Agentic RAG通常涉及反馈循环或迭代过程,而不是单次通过。

  • 此外,Agentic RAG支持多代理架构:你可以有一个路由代理,将复杂任务分配给多个专门的检索代理,每个代理负责不同的领域(一个代理负责内部文档,一个代理负责网络数据等),然后由一个协调(主)代理汇总发现结果;

  • 更好的适应性:Agentic RAG体现了“计划和执行”的范式——它可以即时调整策略以应对新的或不断发展的查询。代理的包含记忆和规划能力意味着系统可以在没有明确重新编程的情况下适应上下文变化或不可预见的情况。从静态查找思维模式转变为自适应问题解决思维模式。Agentic RAG不受开发人员预期场景的限制;代理可以利用其一般推理能力来处理新的问题类型或数据源,使系统在需求增长时更加稳健。

   2.2 Agent应用

概念

AI Agent是任何可以通过传感器感知其环境并通过执行器对环境采取行动的东西。——罗素和诺维格,《人工智能:一种现代方法》(2016 年)

技术演进

  • 符号逻辑 Agent:早期AI研究依赖符号逻辑Symbolic,通过规则和符号表示知识(如关键词),模拟人类思维,但面临处理不确定性和大规模问题的局限性。

  • 响应式 Agent:不同于符号逻辑 Agent,响应式Reactive Agent注重快速响应,直接映射输入输出,计算资源需求低,但缺乏复杂决策能力。

  • 强化学习 Agent:强化学习使Agent通过环境交互学习,追求累积奖励。深度强化学习提升了处理高维输入的能力,但面临训练效率和稳定性挑战。迁移学习和元学习被引入以提升Agent的学习效率和泛化能力,减少对新任务的样本依赖,尽管存在源任务与目标任务差异导致的挑战。

  • LLM-Based Agent:大型语言模型在语言和意图理解、推理、记忆甚至移情等方面具有强大的能力,可以在决策和规划方面发挥卓越的作用。再加上预先训练的知识,它们可以创建连贯的行动序列,并有效地执行。此外,通过反思机制,这些基于语言的模型可以根据当前环境提供的反馈不断调整决策和优化执行序列。 同样,大型语言模型在大规模语料库中进行预训练,并显示出少量泛化的能力,从而实现任务间的无缝转移,而无需更新参数。

框架构成

Agent的概念框架,由大脑、感知、行动三个部分组成。作为控制器,大脑模块承担记忆、思考和决策等基本任务;感知模块负责感知和处理来自外部环境的多模态信息;行动模块负责使用工具执行任务并影响周围环境。上述框架同样适用于所有与各种环境互动的代理,比如与物理环境互动的机器人或与软件互动的AI Agents。

一个基于大模型的LLM-Based AI Agent 系统可以拆分为大模型、规划、记忆与工具使用四个组件部分:

  • Agent智能体应用 = 大模型(LLM) + 任务规划(Planning)+ 记忆(Memory)+ 使用外部工具执行任务(Tools&Action)

  • 其中 LLM 扮演了 Agent 的“大脑”,在这个系统中提供推理、规划等能力。AI Agent 连接了大模型与业务场景,充当了价值传递桥梁。

发展摘要

设计模式

COT

思维链,Chain-of-Thought Prompting ,22年5月,谷歌发表论文Chain-of-Thought Prompting Elicits Reasoning in Large Language Models,提出方法在输入提示(Prompt)中加入人工编写的推理步骤示例,引导模型生成类似的分步思考过程,最终得出答案。通过在提示词中显式要求模型生成推理链(如“因为...所以...”),提升模型在需要逻辑、数学或符号推理的任务的准确率。通过将“黑箱”输出转化为可解释的推理过程,COT不仅提升了模型性能,也为后续的AI可解释性研究和复杂任务处理奠定了基础。

主要贡献:

方法论突破 :首次证明大语言模型可通过显式推理链提升复杂任务性能。

提出“推理即生成”(Reasoning via Generation)的新范式。

TOT

思维树 (Tree Of Thoughts),CoT通常只有一条解决问题的路径,ToT等于是CoT的一个拓展,把一条reasoning路径拓展至多条reasong paths,这样模型可以综合多条reasoning path的结果得到最终的结论。

Tree of Thoughts: Deliberate Problem Solving with Large Language Models

主要贡献:

从线性到树状推理的跃迁:ToT首次将复杂任务建模为树状搜索过程,每个节点代表一个中间状态(如数学问题的分步计算、写作任务的段落规划),并通过分支生成和动态评估探索多路径可能性。这种设计突破了传统模型仅支持单向推理(如CoT的链式结构)的限制,使模型能够像人类一样进行前瞻性探索和回溯修正,模拟人类启发式决策机制;

自主规划与评估:通过引入“状态评估器”和“搜索算法”,ToT允许模型自主评估不同推理路径的潜在价值;

建立可解释性新标准:通过可视化推理路径(如展示决策树的分支与剪枝过程),ToT增强了模型输出的透明度。

ReAct

Reasoning and Acting,受COT以及强化学习(RL)通过行动(Action)与反馈(Feedback)优化决策过程启发,22年10月,普林斯顿与谷歌发表论文ReAct: Synergizing Reasoning and Acting in Language Models,将推理(Reasoning)与行动(Acting)结合,让模型动态规划思考步骤,并在需要时调用外部工具,形成“思考-行动-观察”循环。

主要贡献:

  • 协同推理与行动的新范式:ReAct首次系统性地将语言模型的推理能力 (如逻辑推导、语义分析)与行动能力 (如调用工具、与环境交互)融合,形成动态交替的任务解决流程。突破了传统方法中孤立执行推理或行动的局限性。

  • 通过动态多跳推理以及错误抑制与反馈修正显著提升了模型在复杂场景中的表现,生成的推理轨迹(如“思考-行动-观察”步骤)使决策过程透明化,增强可解释性。

  • 不仅提升了性能表现(如准确率、效率),更是推动了AI从静态问答向动态决策的范式转变。

ReAct局限性:

  • 成本高昂:主要来自于LLM的调用成本、需要的LLM的调用次数较多、每次调用需要使用的Context很长。

  • 耗时长:需要经过多次llm交互,且循环次数不固定,完成耗时比较长。

  • 已有思考过程无法固化:每次对于同类问题都需要重复进行思考,耗费同样的费用成本。

  • 陷入死循环。

变种与后续发展:

Reflection

Reflection,反思,该模式的核心思想是让AI模型能够自动地对自己的输出进行批判性思考和改进,而不是仅仅生成一次性的最终结果。

  • Basic reflection:通过两个LLM的多轮交互结果反思,得到一个优化后的结果;Basic Reflection可以类比于左右互博。左手是Generator,负责根据用户指令生成结果;右手是Reflector,来审查Generator的生成结果并给出建议。在左右互搏的情况下,Generator生成的结果越来越好,Reflector的检查越来越严格,输出的结果也越来越有效。

  • Reflexion:在Basic Reflection的基础,上引入了强化学习的概念,通过设计解决强化学习中的如何评估生成的输出质量以及如何提供有用的反馈信息以帮助Agent改进自身的表现,使AI能够根据外部数据评估答案的准确性,并进行更有建设性的反思。Reflexion: Language Agents with Verbal Reinforcement Learning

Actor:Actor模型基于大型语言模型(LLM),被提示生成所需的文本和行动,这些行动会根据状态观察进行条件化。Actor模型可以是Chain of Thought或ReAct等。

Evaluator:Evaluator模型对Actor产生的输出进行评分,评估其在给定任务中的表现。对于推理任务,可以使用基于精确匹配的评分,确保生成的输出与预期的解决方案高度一致。对于决策任务,可以采用预定义的启发式函数。根据任务要求,提供奖励或惩罚作为反馈。

Self-Reflection:Self-Reflection模型是一个LLM,它通过生成语言反馈来提供有价值的反馈,帮助Actor进行自我改进。Self-Reflection模型分析当前轨迹和奖励信号,生成具体的反馈,并将其存储在Actor的记忆中。

记忆核心:Reflexion过程的核心是短期和长期记忆的概念。在推理时,Actor根据短期和长期记忆做出决策。短期记忆由轨迹历史组成,而长期记忆则存储Self-Reflection模型的输出。

主要贡献

将传统强化学习的参数更新机制转化为语言形式的反馈信号,通过自然语言总结错误经验并存入记忆系统,指导后续决策,模型不仅接收“失败”信号,还会获得具体错误原因的文本反馈;利用自然语言作为反馈信号,将二进制或标量环境反馈转化为文本形式的自反反馈,从而为智能体提供了更加清晰和可解释的方向;

使用长短期记忆(LSTM)网络存储自反反馈经验,以便于智能体在未来的学习过程中参考;这种记忆机制使得Agent能够记住重要的经验并应用于后续的决策过程中,从而提高了决策能力和适应性。

  • Language Agent Tree Search (LATS):

结合了 reflection/evaluation、search(蒙特卡洛树搜索) 来实现更好的任务性能。

它采用标准的强化学习(RL)任务框架,将RL代理、价值函数和优化器都替换为对一个大型语言模型(LLM)的调用。目的是帮助 Agent 适应并解决复杂任务,避免陷入重复的循环中。

搜索过程的4个步骤:

  1. 选择:根据下面第(2)步中累计的奖励来选择最佳的下一步行动。如果找到了解决方案或达到了最大搜索深度就做出回应,否则继续搜索。

  2. 展开并模拟:生成N个(在我们的案例中是5个)潜在的行动方案,并且并行执行它们。

  3. 反思+评估:观察这些行动的结果,并基于反思(可能还包括外部反馈)对决策进行打分。

  4. 反向传播:根据结果更新根路径的分数。

LATS将其他代理架构的推理、规划和反思组件统一起来,如Reflexion、思维树(Tree of Thoughts)和计划执行代理(plan-and-execute agents)。LATS还来自于基于反思和环境反馈的反向传播,用于改进搜索过程。

Planning

  • ReWoo:(ReWoo论文):

REWOO的全称是Reason without Observation,是相对ReAct中的Observation 来说的。它旨在通过以下方式改进 ReACT 风格的Agent架构:

第一,通过生成一次性使用的完整工具链来减少token消耗和执行时间,因为ReACT模式的Agent架构需要多次带有冗余前缀的 LLM 调用;

第二,简化微调过程。由于规划数据不依赖于工具的输出,因此可以在不实际调用工具的情况下对模型进行微调。

ReWOO 架构主要包括三个部分:

Planner:规划器,负责将任务分解并制定包含多个相互关联计划的蓝图,每个计划都分配给Worker执行。

Worker:执行器,根据规划器提供的蓝图,使用外部工具获取更多证据或者其他具体动作。

Solver:合并器,将所有计划和证据结合起来,形成对原始目标任务的最终解决方案。

  • Plan And Execute(Plan And Execute论文)

Plan-and-Execute这个方法的本质是先计划再执行,即先把用户的问题分解成一个个的子任务,然后再执行各个子任务,并根据执行情况调整计划。Plan-and-Execute相比ReWOO,最大的不同就是加入了Replan机制。

Plan-and-Execute架构上包含规划器、执行器和重规划器:

规划器Planner,负责让 LLM 生成一个多步计划来完成一个大任务,在书籍运行中,Planner负责第一次生成计划;

执行器,接收规划中的步骤,并调用一个或多个工具来完成该任务;

重规划器Replanner,负责根据实际的执行情况和信息反馈来调整计划

  • LLM Compiler(LLM Compiler论文)

LLM Compiler是伯克利大学的SqueezeAILab于2023年12月提出,其在ReWOO引入的变量分配的基础上,进一步训练大语言模型生成一个有向无环图(Directed Acyclic Graph,DAG,如下图所示)类的规划。DAG可以明确各步骤任务之间的依赖关系,从而并行执行任务,实现类似处理器“乱序执行”的效果,可以大幅加速AI Agent完成任务的速度。

LLM Compiler主要构成:

Planner:输出流式传输任务的DAG,每个任务都包含一个工具、参数和依赖项列表。相比ReWOO的Planner,依赖项列表是最大的不同。

Task Fetching Unit:调度并执行任务,一旦满足任务的依赖性,该单元就会安排任务。由于许多工具涉及对搜索引擎或LLM的其他调用,因此额外的并行性可以显著提高速度。

Joiner:由LLM根据整个历史记录(包括任务执行结果),决定是否响应最终答案或是否将进度重新传递回Planner。

MultiAgent

多智能体协作MAS(Multi-agent collaboration): 由多个智能体组成的集合。这些Agent可以是不同的软件程序、机器人、传感器等,它们各自具备一定的智能和自主性,并处理各自擅长的领域和事情。MAS的核心思想是通过多个Agent的协作与协调,共同完成一个复杂任务,从而实现单个Agent无法完成的复杂目标。

相比单Agent系统,Multi-Agent系统具备以下优势:

  • 分布式处理:MAS支持分布式应用,可以将大型复杂系统分解为多个小型、易于管理的子系统。这使得MAS具有良好的模块性、易于扩展性和设计灵活性,降低了系统的总成本和维护难度。

  • 协同工作:MAS中的Agent可以相互通信、协商和协作,共同完成一个任务。通过这种协同工作方式,MAS能够处理单个Agent无法解决的问题,从而提高系统的整体性能和鲁棒性。

  • 自适应性:MAS中的Agent可以根据环境变化自主调整行为和策略,这种自适应性使得MAS具有优秀的稳定性和灵活性,能够应对各种复杂场景。

MAS形态

社会模拟型:例:斯坦福小镇 《Generative Agents :interactive simulacra of human behavior》

任务导向型:例:软件开发团队

开源框架:

MetaGPT(GitHub - FoundationAgents/MetaGPT: 🌟 The Multi-Agent Framework)

Phidata( https://www.phidata.com/ )

OpenAI Swarm( https://github.com/openai/swarm )

Microsoft Autogen( https://www.microsoft.com/en-us/research/project/autogen/ )

CrewAI( https://www.crewai.com/ )

Vertex AI( https://cloud.google.com/vertex-ai )

协同框架:

SingleAgent: 整个系统重只有一个Agent负责处理所有的工作;

Network:每个Agent都可以与其他所有Agent通信。任何Agent都可以决定接下来要调用哪个其他Agent;

Supervisor:每个Agent只与一个Supervisor Agent通信,Supervisor Agent作为团队指挥官,决定接下来应该调用哪个Agent;

Supervisor As Tools:这是Supervisor架构的一种特殊情况。单个Agent可以被表示为一个工具。在这种情况下,Supervisor Agent使用一个tool-call调用LLM来决定调用哪个Agent工具;

Hierarchical:可以定义一个具有多个Supervisor的多Agent系统。这是Supervisor架构的一个泛化,允许更复杂的控制流程;

Custom:每个Agent只与部分Agent通信。流程的部分是确定性的,只有某些Agent可以决定接下来要调用哪个其他Agent;

Why MAS Failed

https://arxiv.org/abs/2503.13657

规范问题 :「地基」没打好 或 「规章制度」有问题,诸如不遵循任务要求、步骤重复以及不知何时终止等问题;

沟通问题:系统执行过程中,是 Agent 之间沟通不畅、协调失误、目标不一致导致的。就像一个团队,成员之间互相误解、信息不流通、各行其是;

任务验证问题:「质检环节」形同虚设,该类失败与最终结果的质量控制有关。要么是没检查,要么是检查了但没查出问题,要么是还没完成就提前收工了;

改进建议:

改进提示与角色规范:明确任务终止条件、增强验证步骤。

标准化通信协议:减少非结构化文本交互的模糊性。

强化验证机制:结合领域知识(如符号验证、单元测试生成)。

概率置信度集成:智能体在低置信度时暂停行动,请求更多信息。

通信协议

LLM的快速进步,Agent智能体正在各种行业得到越来越广泛的应用。然而,随着应用场景范围不断扩大以及来自不同供应商、具有不同结构的智能体不断涌现,智能体与实体之间的交互规则变得日益复杂。这一发展过程中的关键瓶颈在于缺乏标准化协议。这种缺失严重阻碍了智能体与前述资源的互操作能力,限制了它们利用外部功能的潜力。

Agent生态中三个核心角色 用户、Agent、外部世界,不同协议定位主要面向不同角色之间的链接。

FunctionCall

FunctionCall 最早由 OpenAI 于 2023 年引入,最初用于支持 ChatGPT 插件系统。这项能力使 Agent 可以通过标准接口请求宿主程序调用外部插件、API 或服务,从而突破模型固有知识边界和算力限制。OpenAI 提供了基于 JSON Schema 的函数定义方式,要求开发者为每个工具(即函数)定义名称、描述、输入参数类型和结构。模型一旦识别出用户的问题属于某个工具所能处理的范围,就会生成符合 JSON 格式的调用请求,而宿主应用接收请求、执行对应操作并返回结果,模型继续生成最终答复。

局限性:

缺乏统一标准:各大模型平台的调用机制、参数格式等不同,难以实现完全兼容;

上下文不统一:每个模型对工具行为的解释可能不同,可能出现调用失败、误判等情况;

扩展复杂度提升:当工具数量众多或有调用依赖关系时,开发者需要构建中间调度逻辑,增加了代码复杂度和维护成本;

MCP

MCP(Model Context Protocol)以更简单、更可靠的方式将LLM智能体连接到包括外部数据、工具和服务在内的各类资源。MCP的高度标准化有效解决了不同基础LLM和工具提供商带来的系统分散问题,显著提升了系统集成能力。同时,MCP的标准化也为LLM智能体的工具使用带来了极强的可扩展性,使它们能更容易地集成各种新工具。

基本组成

MCP Host:运行 MCP Client 的宿主环境,可能是 Claude 桌面端、IDE、企业 Copilot 系统等。

MCP Client:代表模型一侧发起任务请求的客户端 SDK,封装成标准协议消息发送给 MCP Server。

MCP Server:暴露功能或数据接口的服务提供者,可是本地数据库、文件系统,也可以是远程 API。

数据源或远程服务:MCP Server 后端连接的数据或服务。

Functioncall VS MCP

FunctionCall:函数调用,它允许 LLM 根据用户的自然语言输入识别它需要什么工具以及格式化的工具调用的能力;

MCP:提供了一个通用的协议框架来发现、定义、以及调用外部系统提供的工具能力;

A2A

A2A旨在实现不同平台和生态中的 AI 智能体之间的安全、标准化协作,无论它们基于何种框架或由哪家公司构建。协议的核心目标是打通智能体间的互操作性,支持跨平台、多模态的协同工作。通过 A2A,智能体可以彼此通信、发现对方能力、协商任务分配,并协作完成复杂的企业级流程,即便它们来自不同的技术体系。

其功能特性主要有以下四点:

Capability discovery: 代理可以使用 JSON 格式的“Agent Card”来宣传其能力,从而允许客户端代理识别能够执行任务的最佳代理并利用 A2A 与远程代理进行通信。

Task management: 客户端与远程代理之间的通信以任务完成为导向,代理负责执行最终用户的请求。此“Task”对象由协议定义,并具有生命周期。它可以立即完成,或者,对于长时间运行的任务,每个代理可以进行通信,以彼此保持同步,了解任务的最新完成状态。任务的输出称为“Artifact”。

Collaboration: 代理可以互相发送消息来传达上下文、回复、Artifact或用户指令;通过引入认证/授权机制,保证 Agent 之间的身份互信。

User experience negotiation: 每条消息包含“部分”,即完整形成的内容片段,例如生成的图像。每个部分都有指定的内容类型,允许客户端和远程代理协商所需的正确格式,并明确包含对用户 UI 功能(例如 iframe、视频、Web 表单等)的协商,这意味着 A2A 不仅关注 Agent 之间的语义协作,还主动考虑最终用户界面呈现方式的兼容性和体验质量,这是前所未有的细节设计。

AG-UI

AG-UI,即智能体用户交互协议(Agent User Interaction Protocol),是由CopilotKit公司于2025年推出的一个开放、轻量且基于事件的协议。它旨在通过标准的HTTP或可选的二进制通道,以流式方式传输一系列JSON事件,标准化AI智能体与前端应用程序之间的交互。

AG-UI关键特性:

实时交互:支持实时事件流,确保用户与AI状态同步

人机协作:允许用户介入AI决策过程,适合需要人工确认的复杂工作流

传输灵活性:支持多种传输方式,如SSE、WebSocket等

轻量设计:最小化依赖,易于集成到各种规模的项目中

标准化事件:定义统一的事件类型,简化开发流程

通用Agent与应用

伴随多模态技术成熟和大模型能力突破,OpenAI推出的Operator以及Monica的Manus,标志着AI技术从被动响应迈向主动执行的跨越。

Computer Use

24年11月,Anthropic官宣了Claude 3.5的同时,也低调官宣了一个Beta版本的能力 Computer Use,目前处于公开测试阶段,这项功能允许 Claude 像人类一样使用计算机,具体表现为:用户可以指导 Claude 像人类一样使用计算机 —— 通过查看屏幕、移动光标、单击按钮和输入文本,来完成各类任务。https://www.anthropic.com/news/3-5-models-and-computer-use

贡献:

Agent工具使用范式的重构,从 API软件能力到Action 操作系统;

Operator

25年1月,OpenAI发布名为Operator的Agent代理,旨在通过模拟人类在浏览器上的操作(如打字、点击和滚动)来完成各种重复性任务,从而扩展 AI 的实用性。

Operator 由名为 Computer-Using Agent (CUA) 的新模型驱动。CUA 结合了 GPT-4o 的视觉能力和通过强化学习获得的先进推理能力,使其能够与图形用户界面 (GUI) 进行交互。Operator 可以“看到”(通过屏幕截图)和“交互”(使用鼠标和键盘的所有操作)浏览器,无需自定义 API 集成即可在 Web 上执行操作。

这款发布的AI agent主要应用场景是面向GUI,其框架主要分成perception reasoning action三部分。perception就是截图作为视觉信息,然后用多模态模型来理解;reasoning过程的训练用了reinforcement learning,用step-by-step慢推理的方式;action就是模仿人类鼠标操作。

Manus

2025年3月,由Monica推出的Manus引发了广泛关注与讨论。Manus 采用了多智能体协同架构(Multiple Agent Architecture)。简单来说,就是在一个任务中由多个专门的 AI Agent 分工合作,由一个中央决策模块(“大脑”)进行规划和协调。

Monica.im 官方介绍 Manus 运行在独立的虚拟机沙盒中,类似于 Anthropic 的“Computer Use”模式。在这个隔离的环境中,Manus 可以安全地调用各种工具,包括代码编辑器/执行环境、浏览器、文档处理器等,实现对电脑的操作。与传统单一LLM(大型语言模型)直接对话不同,Manus 会自主产生一系列思维链(Chain of Thought)和待办事项清单来逐步完成复杂任务。它具有出色的任务规划与执行能力:能够将复杂任务自动分解为子任务,并行或顺序执行,直到完成最终目标。Manus 还内置长短期记忆模块,可以在对话和执行过程中记录关键信息和用户偏好,实现持续学习与自我调整。

人机协作Agent范式:

Manus的贡献在于重新定义了AI Agent的产品形态,推动了AI从“对话交互”向“人机协作”的范式跃迁:

从“生成答案”到“执行闭环” :通过多Agent架构(规划、执行、验证模块协同)实现了任务全流程自动化。例如,在简历筛选中,它能解压文件、逐页分析内容并生成排名报告,展现了类似人类的分步工作模式。这种“思考-规划-执行”闭环突破了传统AI仅提供建议的局限,直接交付成果(如PPT、代码、分析报告);

技术整合与工程化创新 :Manus未依赖底层模型原创突破,而是通过集成现有大模型(如Claude、DeepSeek)、强化学习算法和工具包生态,构建了高效的工程化编排能力。其核心在于动态调度多模型资源,例如在股票分析中调用数据抓取、建模和可视化模块协作生成报告;

虚拟机环境与安全机制 :借鉴Anthropic的“ComputerUse”架构,Manus在隔离的云端虚拟机中执行任务,支持非在线异步处理(用户可关闭设备等待结果),并通过沙盒环境验证代码可行性以降低风险;

模型Agent

Alexander Doria(The Model is the ProductActual LLM agents are coming)

Shunyu Yao(The Second Half – Shunyu Yao)

下一代Agent范式:

端到端Agent,模型即产品。

研究与市场发展趋势

  • 通用型模型的扩展,遇到了瓶颈。GPT-4.5 发布时传递的最大信息就是:模型的能力提升只能呈线性增长,但所需算力却在指数式地飙升。尽管过去两年 OpenAI 在训练和基础设施方面进行了大量优化,但仍然无法以可接受的成本推出这种超级巨型模型。大模型增长的Scaling Law似乎失效了。

  • 定向训练(Opinionated training)的效果,远超预期。强化学习与推理能力的结合,正在让模型迅速掌握具体任务。这种能力,既不同于传统的机器学习,也不是基础大模型,而是某种神奇的第三形态。比如一些极小规模的模型突然在数学能力上变得惊人强大;编程模型不再只是简单地产生代码,甚至能够自主管理整个代码库;又比如 Claude 在几乎没有专门训练、仅靠非常贫乏的信息环境下,竟然也能玩宝可梦。

  • 推理(Inference)的成本,正在极速下降。DeepSeek 最新的优化成果显示,目前全球所有可用的 GPU 资源,甚至足以支撑地球上每个人每天调用一万个顶尖模型的 token。而实际上,目前市场根本不存在这么大的需求。简单卖 token 赚钱的模式已经不再成立,模型提供商必须向价值链更高层发展。

基础模型 => 推理模型

在靠语言模型预训练的Scaling Law这个经典物理规律遇到瓶颈后,包括OpenAI在内的多家模型公司资源中心发生转变,走向了从快思考走向慢思考的道路:

  • 2024年9月12日,OpenAI发布的o1-preview标志着人工智能能力的重大飞跃,尤其是在解决复杂推理任务(如数学和编程)方面。与传统LLMs不同,推理模型采用了「长链思维」(Long CoT) — — 即内部的推理轨迹,使模型能够通过分解问题、批判自己的解决方案并探索替代方案来“思考”问题。这些CoTs对用户是隐藏的,用户看到的是一个总结性的输出。

  • OpenAI-o1:2024年12月5日,OpenAI的完整版o1模型进一步提升了性能,在美国AIME 2024数学考试中排名前500名学生之列,并显著超越了GPT-4o(解决了74%-93%的AIME问题,而GPT-4o仅为12%)。此外,o1-mini作为更便宜且更快的版本,在编码任务中表现出色,尽管其成本仅为完整版o1的20%。

  • OpenAI-o3:2025年1月31日,OpenAI发布了o3与o4 mini,这是其推理模型系列的最新突破,在应对复杂现实任务时,比 OpenAI o1 减少了 20% 的重大错误。

o3 和 o4-mini 两款模型都可以自由调用 ChatGPT 里的各种工具,包括但不限于图像生成、图像分析、文件解释、网络搜索、Python。

此外,o3 和 o4-mini 首次实现了将图像直接融入思维链的能力,它们不仅“看得见”图像,更能“通过图像思考”。这带来了视觉与文本推理的全新融合方式,显著提升了它们在多模态任务中的表现。

  • 2024年12月下旬,「深度求索-V3」(DeepSeek-V3)作为一种成本高效的开放权重LLM出现,为AI的可访问性设定了新标准。DeepSeek-V3与OpenAI的ChatGPT等顶级解决方案相媲美,但开发成本显著降低,估计约为560万美元,仅为西方公司投资的一小部分。

  • 2025年1月下旬,DeepSeek通过发布DeepSeek-R1-Zero和DeepSeek-R1再次引起轰动,这些模型展示了卓越的推理能力,训练成本极低。利用先进的强化学习技术,这些模型证明了高性能推理可以在没有通常与尖端AI相关的巨额计算费用的情况下实现。

同时DeepseekR1通过把它的「思考过程」,也就是思维链(Chain-of-Thought, CoT)以文字的方式展示出来, 这不仅大幅提升了用户的体验,也让模型的可解释性再一次成为关注的焦点。

DeepResearch

OpenAI 推出的 DeepResearch是典型的「模型即产品」的案例,端到端实现(All-IN-One)Agent的典范。

25年2月,OpenAI 推出的 DeepResearch,关于 DeepResearch,很多人存在误解,这种误解随着大量仿制版本(开源和闭源)的出现,变得更严重了。实际上,OpenAI 并非简单地在 O3 模型外面套了层壳,而是从零开始训练了一个全新的模型: https://cdn.openai.com/deep-research-system-card.pdf

OpenAI 的官方文档:

  • 这个模型能直接在内部完成搜索任务,不需要外部调用、提示词或人工流程干预;

  • 「该模型通过强化学习,自主掌握了核心的网页浏览能力(比如搜索、点击、滚动、理解文件)……它还能自主推理,通过大量网站的信息合成,直接找到特定的内容或生成详细的报告。」

  • DeepResearch 不是标准的大语言模型(LLM),更不是普通的聊天机器人。它是一种全新的研究型语言模型(Research Language Model),专为端到端完成搜索类任务而设计。任何认真用过这个模型的人都会发现,它生成的报告篇幅更长,结构严谨,内容背后的信息分析过程也极为清晰。

强化学习+推理

模型化Agent:内生智能

强化学习 RL:与传统智能体类似,LLM 智能体也通过强化学习进行训练。这里的「maze」是所有可能的文本组合,而「way out」或「reward」则是最终的目标。验证是否达成奖励的过程被称为「verifier」——William Brown 新开发的验证器库正是为此而生。目前,验证器主要用于形式化结果,如数学方程或编程代码。但 Kalomaze 的研究表明,通过训练专门分类器,也可为非严格可验证的输出构建验证器。值得注意的是,语言模型在评估方面的表现优于生成,因此即使用小型 LLM-as-judge,也能显著提升性能和奖励设计。

草稿模式(Drafts):LLM 智能体的训练依赖于生成草稿并同时评估。这一选择并非显而易见,因为早期研究主要集中在扩展搜索到整个 token 序列。计算限制和「推理」模型的突破推动了这一转变。典型的训练过程是让模型生成逻辑序列,假设能得出正确答案的序列更可能是正确的。这可能导致反直觉的结果(如 DeepSeek-R0偶尔在英语和中文间切换)。然而,正如苦涩的教训所示,强化学习只关注结果的有效性,甚至允许非正统或计划外的捷径。就像智能体在迷宫中寻找出路,语言模型必须通过纯粹推理找到路径 —— 没有预定义提示,只有奖励和获取奖励的方式。

结构化输出(rubric):LLM 草稿通常被预定义为结构化数据部分,以便于奖励验证,并在一定程度上简化整体推理过程。这是一种「评分标准工程」,既可以直接作为奖励函数进行管理,也可以在大型实验室的训练设置中通过后训练阶段实现。

多步训练:LLM 智能体的训练需要大量草稿和多步骤迭代。搜索领域的情况尤其如此:我们不会一次性评估搜索结果,而是评估模型获取资源、处理结果、进一步获取资源、调整计划、回溯等能力。因此,DeepSeek 的 GRPO结合 vllm 的文本生成成为当前首选方法。计算需求的降低将是未来几年强化学习和智能体设计普及的关键因素。

03

Build Your Agent

Anthropic:https://www.anthropic.com/engineering/building-effective-agents

Openai:a-practical-guide-to-building-agents

Google:https://www.kaggle.com/whitepaper-agents

使用场景与选择依据

  • 简单优先原则:在构建 LLM 应用时,建议优先寻找最简单的解决方案,仅在必要时增加复杂度,甚至有时可能根本无需构建智能体系统。

  • 权衡考量:智能体系统通常以增加延迟和成本为代价来提升任务性能,因此需要谨慎考虑这种权衡是否合理。

  • 工作流与智能体的适用场景:工作流适用于任务明确、对可预测性和一致性要求较高的场景;智能体更适合大规模需要灵活性和模型驱动决策的任务。但多数应用场景下,通过检索和上下文示例优化单次 LLM 调用就已足够。

框架使用建议

  • 可用框架列举:如 LangGraph、Amazon Bedrock 的 AI Agent 框架、Rivet 和 Vellum等,这些框架简化了调用 LLM、定义和解析工具、串联调用等底层任务,便于快速上手。

  • 框架的弊端:它们增加了抽象层,会使底层提示和响应难以查看,加大调试难度,还可能诱导开发者在简单设置就能满足需求时增加不必要的复杂度。

  • 使用建议:建议开发者先直接使用 LLM API,很多模式用几行代码就能实现。若选择使用框架,务必理解其底层代码,避免因对框架内部机制的错误假设而导致问题。

多智能体使用建议

  • 我们的总体建议是首先最大化单一智能体的能力。更多智能体可以提供概念上的直观分离,但可能会引入额外的复杂性和开销,因此通常一个配备工具的单一智能体就足够了。

  • 对于许多复杂的工作流程,将提示和工具拆分到多个智能体中可以提高性能和可扩展性。当您的智能体无法遵循复杂的指令或持续选择错误的工具时,可能需要进一步拆分系统,引入更多独立的智能体。

  • 拆分智能体的实用指南包括:

在LLM应用中,成功的关键不在于打造最复杂的系统,而在于找到适合自身需求的最佳方案。从简单的提示词开始,通过全面评估优化其效果,仅当简单方法不足以满足需求时再考虑引入多步骤智能体系统。

在构建智能体时,建议遵循以下三项核心原则:

  • 保持简洁性:设计尽量简单,避免不必要的复杂化。

  • 注重透明性:通过清晰展示智能体的规划步骤,增加系统的可理解性,建立用户信任。

  • 评估体系构建 :建立量化指标以驱动持续优化。

-End-

原创作者|李会珠

感谢你读到这里,不如关注一下?👇

你对本文内容有哪些看法?同意、反对、困惑的地方是?欢迎留言,我们将邀请作者针对性回复你的评论,欢迎评论留言补充。我们将选取1则优质的评论,送出腾讯云定制文件袋套装1个(见下图)。1月27日中午12点开奖。

相关推荐

大模型的Agent Skill功能,在LLM HTTP底层交互流中是怎么承载的?

网络文章文本的 skill,昨天我实现了之后也就开始好奇起 Skills 的底层原理了——相比起各种花里胡哨的 agrnt 应用,我一直以来都很对大模型在纯粹的 HTTP 交互层面是如何交互的更感兴趣。Skill 的全部"魔法"都发生在 system prompt 的措辞和 SKILL.md 文件的编写质量上——本质上是一种 prompt engineering + 文件系统的组合。但是各种天花乱坠的 skills,是如何在底层的 HTTP 中,与大模型——这个只会嘴遁的工具交互的呢?

QcloudCommunity的博客 407

万字入门AI Infra:深入理解大模型中的数学与Infra优化

关注腾讯云开发者,一手技术干货提前解锁👇AI Infra科普、入门或者进阶 ~~ 不到 5 万字,带你融会贯通理解大模型的数学、算法、硬件到系统工程。任何问题欢迎沟通交流。可怕,我竟然有点认同这句话。当然大概率是因为姚顺宇太懂AI了,而我则是因为无知者无畏。不过仔细想想,大模型推理中的数学逻辑确实不复杂,很多原理只需要高中数学知识就能看懂。但是为什么像 vLLM 这种推理系统这么复杂呢?本文将拆解大模型中几个核心操作(RMSNorm、Softmax、Causal Mask、Sampling)背后的数学与

QcloudCommunity的博客 1168

平平无奇的源码,竟藏着Agent的核心秘密?

System Prompt 是剧本,Skill 是剧本的扩展包,Agent Loop 是演员按剧本行动。欢迎留言,我们将邀请作者针对性回复你的评论,我们将选取1则优质的评论,送出腾讯云定制文件袋套装。,让 Agent 能主动"巡逻",而不只是被动等待用户消息。OpenClaw 的 System Prompt 分层结构。的"行为底线",任何 Skill 或用户命令都无法覆盖它。精华 2:Skill 的"按需加载"避免 token 浪费。精华 1:System Prompt 是"分层乐高积木"

QcloudCommunity的博客 426

QQ音乐Harness Engineering实践

一个看似简单的需求,背后可能牵动服务调用链、配置、灰度、埋点、错误码、接口契约和历史兼容性。当 AI 开始快速生成大量代码,真正的瓶颈就不再是"写不出来",而是"看不完、想不清、管不住"。在对话式编码阶段,一种典型的工作模式逐渐流行:开发者把需求丢给 AI,扫一眼输出"看起来对"就直接采纳,不审 diff、不追问逻辑、不验证边界。以音乐商业化业务为例,一个需求可能从 TAPD 单开始,经过需求评审、技术方案、服务影响面分析、IDL 契约变更、业务代码实现、测试验证、CR、灰度上线,最后才进入稳定运行。

QcloudCommunity的博客 715

从Prompt、Context到Harness,工程的三次进化与终局之战

同时,强制要求散落各处的决策记录(Slack、邮件、文档)全部迁移至代码仓库,确保 Agent 的唯一信息来源是可信的、版本受控的仓库。更坑爹的是,研究表明,当上下文过长时,模型会出现"中间遗忘(Lost in the Middle)"现象:它对开头和结尾的内容记忆较好,对中间大段内容的关注度大幅下降。这篇文章,我想带你完整走一遍这三次进化的逻辑:它们分别解决了什么问题,它们之间是什么关系,它们的边界在哪里,以及:当三者融合,AI 工程师的终极形态究竟是什么?大语言模型的本质,就是这位金鱼助理。

QcloudCommunity的博客 719

让Skill自己训练自己:8阶段Loop、3层评测、5维AND门控,从此实现自进化

所以每一轮改动都是有据可查的,不是「感觉这里可以优化」,而是「Case 41 挂了,因为 agent 把离职问题路由到了邮箱分类,但正确答案在通讯录,所以我改 root_index.md 加个易混淆提示」。但让我最后决定把它记录下来的,不是这的个「吸收」过程,而是它真的在替我探索我不想费脑力触达的边界,这看起来更像是一个机器智能应该有的样子。不准跨层,每轮只改一层的东西。但我经过这 19 轮之后觉得,更准确的描述是互补——你在明处看着,AI 在暗处替你试错,你看不见的那一半就是 AI 能贡献的地方。

QcloudCommunity的博客 1127

只加两行代码,为什么要两天?一文深度理解业务系统的复杂性

关注腾讯云开发者,一手技术干货提前解锁👇业务系统复杂性一直是令开发者头痛的问题。复杂的不是增加一个需求需要耗费多少时间,而是在增加一个需求后带来的蝴蝶效应:其它功能会不会受到影响、要如何去找到这些影响,最终如何实现系统正常运行......功能之间隐秘增加的耦合、不可避免的代码腐化在导致业务复杂性增加。大家都在说的软件开发提效到底在提什么?程序员日常工作中应该如何提升开发效率?敏捷开发、瀑布流式开发孰是孰非?欢迎阅读。业务背景与目标我依然非常清晰地记得某个时候,我所在团队 Leader 曾讲过一段话:“我担

QcloudCommunity的博客 713

从零设计生产级 Multi-Agent Harness:架构、评估、记忆、成本与 MCP 工具接入全拆解

在 AI Agent 领域,Multi-Agent Harness 指的是把多个 Agent 的能力、工具、状态、通信、编排、监控统一收束在一个运行时之内的框架。第三,Agent 路由。一个输入框,一个大模型,几个工具,一段写得很漂亮的 System Prompt,再配上一个炫酷的前端,看起来就像一个能干活的“数字员工”。Multi-Agent 完全不一样——它有计划、有中间步骤、有工具调用、有 Agent 协作、有重试、有反思、有最终合成。增加 Budget、权限、重试、压缩、轨迹评估、审计、回归测试。

QcloudCommunity的博客 710

拆完Hermes源码,我发现Agent的“自我进化“根本不需要训练模型

两个月 5.2 万 Star,Hermes Agent 用一个"LLM 审判官"机制实现了 Agent 的自我进化——不改模型权重,只改"怎么用模型"的策略。OpenClaw(社区昵称"龙虾"🦞)是 2025-2026 年最火的开源 Agent 框架,30 万+ Star,插件市场 ClawHub 里有数千个插件,能接入 Telegram、WhatsApp、Slack、飞书、企业微信——几乎是一个"个人 AI 操作系统"。Skill 是英语写的,Memory 是英语写的,审查 Prompt 也是英语写的。

QcloudCommunity的博客 910

AI Infra 其实没有多少新东西

传统 Infra 追求横向扩展,而 AI Infra 呈现 “AI 大型机”特性,是因为传统后台服务的可以容忍毫秒级延迟,但 AI 集群不行,GPU 的算力是 CPU 的数百倍,微秒级的延时等待也会造成很大的算力损耗,需要硬件的高度集成。在可预见的1-3年的未来,这样的专用硬件+网络的集中式架构很难发生比较大的改变。与之相似,模型推理的批处理就是将多个输入样本打包(batch),将原本串行的 N 次轻量的推理计算,合并为 1 次重量的计算,实现单位时间内处理更多的请求,提高了 GPU 利用率。

QcloudCommunity的博客 826

程序员越早想通这些越好

永远没有正确架构,你永远无法偿还完所有的技术债务,如同你永远不会设计出完美的界面,请避开完美主义的陷阱,永远没有完美的代码,能够满足当前需求,又为未来不管是自己还是他人留有扩展空间,就很好了。我们努力的方向就是将现实世界映射到有限的数据结构中,这就需要用户自定义类型,如果你的代码中包含类似 trader portfolio 这样的概念,你就可以使用他们的名称来建模,而不是使用基本数据类型复杂嵌套表述你的目的。从另一个角度看,代码里的注释都是补丁,是碎片化的,局部的注释很难推导模块整体的顺序及耦合关系。

QcloudCommunity的博客 466

RAG已死?不,是Grep回归了!

这样一来可以直接复用已有的计算缓存,只为新增的增量部分付全价,前面累积的大头按约 1/10 的缓存价计费。所以实际的工具组合方式是灵活的:Grep(默认模式)→ Read 是最常见的路径,但 Grep(content 模式)可以独立使用,LLM 也可以直接调 Read(如果已经知道文件路径),或者一次同时发起多个 Grep 并行搜索。它从零开始构建自己的对话历史,不继承主对话的消息,这意味着它搜索过程中产生的大量 grep 结果、代码片段都留在自己的 context 里,主对话只收到一段总结性的文本结论。

QcloudCommunity的博客 576

深入浅出Harness Engineerring之核心模式与理念

在智能体生命周期的关键节点(如会话开始、工具调用后)自动触发预设动作(如代码格式化),由系统确保关键流程被执行,不依赖可能被模型遗忘的指令。简单讲就是利用向量存储这个技术,来实现模糊检索,原理是:即使字面不同,但语义相近的文本,其向量在数学空间中的位置也很接近。根据命令类型、参数和影响,自动评估其风险等级(安全、有风险、危险),并采取自动执行、请求确认或直接拦截等不同策略。关键特性是可隔离、可重建、可扩展。不是一次判断就定终身,允许你改变、允许情况复杂,通过不断观察、思考、调整,越来越懂真实的你。

QcloudCommunity的博客 624

Harness Engineering实践心得:如何高效驾驭AI?

但如果这些经验被拆成一条条 Rule、一个个 Skill、一项项 Script 检查——"XAML 不能有中文"、"编译要用这个路径的 MSBuild"、"SVN 命令必须带认证参数"——AI 就能在秒级时间里"吸收"十年的踩坑经验。然后可以看到下方的图,我的PM会很顺利的调度其他agent分别负责不同的事项,遇到问题的时候也能准确的找到合适的agent。MCP 本质上是在扩展 AI 的"感知范围"——Rule 管"该怎么做",Skill 管"怎么操作",MCP 管"能看到什么、能碰到什么"。

QcloudCommunity的博客 843

从第一性原理思考 Agentic Engineering

需要注意的是,这一结论是有条件的:如果 AI 缺乏领域知识,过早介入反而可能引入 1.2 节所述的"似是而非"损耗——因此上下文供给(实践 1)是 AI 全链条参与的前提,而非结果。通过一个专门的自迭代 Skill 实现——当 AI 在协作过程中识别到自己被纠正(用户否定了 AI 的输出并给出了正确方向),它自动评估这个错误的根因,搜索现有的 Rules 和 Skills 中是否已有针对该类问题的处理规则。事实上,越是复杂的项目,工程师的认知负担越重(公理 3),AI 分担认知负担的潜在边际价值也越大。

QcloudCommunity的博客 757

万字干货!Harness Engineering如何工程化落地?

关注腾讯云开发者,一手技术干货提前解锁👇Harness Engineering 的概念已经火了有一阵了,全网很多文章基本都是在讲理念,讲为什么今天做 AI 开发,不能只靠一段提示词,也不能把模型当一个“更聪明的代码补全”。但与此同时,一个问题也在持续地发酵:这个问题特别重要。因为 Harness 这个词听上去很大,很像一个抽象的方法论,但它如果不能落到工程、目录、文档、脚本、工作流里,那它最后就只是一句漂亮的话。事实上,不同项目落地出来的 Harness,表面上可能完全不一样。有的项目是 CI 很强,有的

QcloudCommunity的博客 1170

全方位对比:Hermes VS OpenClaw

多账号矩阵运营 如果你的业务涉及同时管理多个社交媒体账号、多个平台的内容分发、多渠道的客户互动——OpenClaw是目前市场上的"无可替代的底座"。一个有专业背景的个人,现在可以快速构建一个垂直领域的AI助手:比如"财务分析Hermes"、"法律咨询Hermes"、"技术架构Hermes",直接通过微信提供服务,积累自己的专业IP。跨平台生态融合 如果你的工作流涉及飞书、Slack、Discord等多个平台的深度集成,需要这些平台之间的数据流转和联动——OpenClaw的生态支持是强大的。

QcloudCommunity的博客 1217

一文讲透:Harness Engineering即控制论!

而研发模式的升级我认为将会是一个飞跃的过程,之所以现在我们仍然需要需要参与编码,一个非常大的原因就是缺乏传感器和基建,仍然需要人来串流程,比如需要人来验证UI是否正确、需要人来告诉AI代码不符合代码规范,因此在有些场景我们仍然感觉 AI 完成的很吃力,但这不是 AI 能力不行,而是我们并没有为 AI 提供友好的环境……控制论中的突变理论介绍了矫枉过正和飞跃现象之间的矛盾,如果质变中经历的中间过渡态是不稳定的,那么他就是一个飞跃的过程,如果中间过渡态是稳定的,那么他就是一个渐变的过程。但是这些阶段要解决的。

QcloudCommunity的博客 1204

神级开源插件!一句话让QClaw变3D小镇,Agent工作可视化,赛博云监工

这个架构是翻了几次车才想通的—原有AI的实现机制是用 setTimeout 猜动画时长导致了幽灵 NPC、工位撞车、越改越崩,后面我停下来换了思路,推翻原有的架构,按照“意图+回传”的架构进行重构,之前的问题一次性全部解决。15 天,我和 AI 吵了 185 次架, 4.5 万行代码,开发了一款 QClaw / OpenClaw 的UGC游戏插件,这可能是人类跟 Agents 交互的新范式,插件已完全开源,有需要的欢迎自取~我天天用,用着用着我就在思考,Agent 产品现在的交互体验,基本都一个样。

QcloudCommunity的博客 1197

一文搞懂Hermes:新顶流Agent如何从经验中自我进化

Voyager 是一个能在 Minecraft 中自主探索、学习技能、无限积累能力的 AI Agent,它提出了 "Skill Library"(技能库)的概念——Agent 将成功的行为序列编码为可复用的技能函数,存储在一个持续增长的代码库中。如果 Skill 的名称和描述不够精准,或者用户的任务描述与 Skill 的触发条件有语义差距,Agent 可能会错过相关的 Skill。如果进程在写入过程中崩溃,目标文件要么是旧内容(还没被替换),要么是新内容(替换已完成),绝不会出现写了一半的损坏文件。

QcloudCommunity的博客 2636

自掏腰包一万元,拥抱AI这一年,我的工具、实践和思考

其实也很好理解,过往的每个领域(比如前端、后端、设计、测试等等)都主要是这个领域的从业者在为它添砖加瓦,但是大模型时代的 AI 应用领域却几乎是所有使用 AI 的人类一起在迭代,无分领域,无分文理,无分老少。因为每个时期的 AI 都有着不同的特点,很多时候当我费尽心思去钻研,自以为有点弄明白 AI 应该怎么玩的时候,基座模型和行业范式常常就会迎来颠覆式的变革,很多过往的经验都会倾覆,然后只能从头再来。过去一年多,被热议的 AI 范式大概是沿着四个阶段递进演化,每一个阶段其实都在解决前一个阶段的核心问题。

QcloudCommunity的博客 627

办公Agent的CI/CD时刻到来了

核心观点是:企业给员工配了一堆 AI 工具,试点跑了几百个,但真正拖慢 AI 转型速度的瓶颈不在模型能力,在"最后一公里":AI 输出和实际工作流之间的那道鸿沟。代码写完,打个 tar 包,开 FTP 传到服务器上,SSH 进去解压,改配置文件,重启服务,刷一下页面祈祷别 500。你复制,切窗口,粘贴到腾讯文档里,发现 Markdown 格式全乱了,手动调标题层级,代码块重新标记语言类型,表格散架了重排一遍。模型是越来越聪明了,但"生成"到"落地"之间那段路,还是你自己在走,一步一步,手动搬运。

QcloudCommunity的博客 608

4亿token买来5个教训:让6个AI Agent连写4天代码发生了什么?

Watchdog 检测到崩溃 → 启动诊断 Agent 分析原因 → 诊断 Agent 跑满 20 轮没搞定 → Watchdog 判定“已修复”,重启系统 → 重启的系统因为诊断 Agent 留下的环境变量被继承,连续 3 次拒绝启动 → 触发连续失败保护退出 → Watchdog 第 3 次巡检,发现进程和记录文件都没了,尝试手动重启,自己也停了。启动前我翻了论文、做了架构设计、写了监控+修复异常的脚本。这个发现让我的情绪从沮丧变成了兴奋——不是那种"终于修好了"的释然,是"我找到根因了"的快感。

QcloudCommunity的博客 584

赛博斗蛐蛐:9大模型决战三国志,天命在谁?

我猜是这样的,当Gemini面临决策的时候,一系列关键词比如 守城,劣势,粮草,三国等等,在语义层面的关联性中LLM发现了竖壁清野这个关键词概率非常高,所以以此为策略,然后再根据这个策略完美执行操作。MiMo 的外交是三方中最精明的。Kimi作为国产模型,也同样颠覆了我对他的看法,最后的比赛他甚至一度是优势者,存在很多夺冠的可能性,要知道他的对手可是claude和gemini,而他经常出兵慢,回过头来想想或许正是他的策略,毕竟中后期他的优势都来自于稳健的发展和较少的战斗频率(和claude比).

QcloudCommunity的博客 874

Claude Code是怎么知道你在骂他的?这 12 条发现值得关注

确实存在——5,500+ 行,集成了消息队列、工具装配、MCP 编排、会话状态、权限、分析、文件持久化和优雅关闭,基本上一个文件干了所有事。对抗虚假声明——"不要在输出显示失败时声称所有测试通过,不要压缩或简化失败的检查来制造绿色结果"。完整的 KAIROS 是一个持续驻留的守护进程,能感知你在不在电脑前、主动寻找有用的工作做,更像是住在终端里的全职同事。源码里藏着一个叫 "Buddy" 的电子宠物系统,完整度令人惊讶——这不是一个 TODO,而是一个从数值系统到 ASCII 动画都实现了的完整功能。

QcloudCommunity的博客 701

逆向深扒Claude Code源码,我发现了什么!?

Anthropic 内部用户获得更严格的质量控制 prompt、更好的验证机制(独立 Verification Agent)、以及针对 model 弱点的专门对策(如 Capybara v8 的 29-30% 错误声明率对策)。这不是代码混乱的标志——它是整个 Agent Loop 的心脏,所有的流式处理、工具调度、上下文压缩、子代理管理都在这个文件中协调。这种"胖核心"设计是刻意的:保持核心循环的原子性,避免分散到多个模块导致的协调复杂度。核心价值:Fork 代理的工具输出不会回到主代理的上下文窗口。

QcloudCommunity的博客 892

一文讲透如何构建Harness——六大组件全解析

本文将从"裸模型的四个硬伤"出发,逐一拆解 Harness 的六大组件——文件系统、Bash + 沙箱、记忆(AGENTS.md)、Web Search + MCP、上下文工程、编排 + Hooks——带你看清 AI Agent 真正的竞争壁垒,不在模型层,而在 Harness 层。如果你用过 Agent 做复杂任务,你一定有过这样的体验:一开始 Agent 的表现很好,但随着对话变长,它开始"变笨"——遗忘之前的约定,重复之前犯过的错误,甚至对同一个问题给出前后矛盾的回答。对于简单的问答场景,这无所谓。

QcloudCommunity的博客 761

Harness Engineering 来了,SDD 还有意义吗?

他们的解法是把「品味」编码进规则,然后用一个定期运行的「doc-gardening」Agent 自动扫描漂移、发起修复 PR——「技术债务就像一笔高息贷款,不断地以小额贷款的方式偿还,总比让债务不断累积要好」。代码仓库本地的、已版本化的工件,才是 Agent 所能看到的全部。在 Vibe Coding 模式下(即不做规划、随意向 AI 提需求的开发方式),大量设计决策、跨服务约定、「为什么不选另一个方案」的讨论,全部停留在一次性的 AI 对话里——下一个人,或者下一次 AI 会话,完全无从获取。

QcloudCommunity的博客 419

零废话!一文讲透从0构建AI Agent

每个工具都要写一套"定义→解析→执行"的胶水代码。上下文管理就是在"记住足够多"和"别超标"之间找平衡,常见策略包括滑动窗口、摘要压缩、RAG 检索增强。上下文窗口是 Agent 的"工作记忆",但它有硬性限制。LLM 负责"动脑"决策,代码负责"动手"执行。这是从"聊天机器人"进化到"Agent"的关键一步。每次调 API 都把完整对话历史发过去,LLM 本身是无状态的,"记忆"完全靠客户端的数组模拟。这样 Agent 一开始就知道自己"在哪里"、"手头有什么",不需要先花一轮工具调用去探索环境。

QcloudCommunity的博客 711

距离AI把小编我裁掉还有72小时

这是一个基于 OpenClaw 开源生态打造的本地化 AI Agent 助手,已于上周开启全量公测,无需复杂配置,三步即可上手,自带安全防护,支持微信直连绑定,内置多款优质国产大模型,现阶段也是完全免费使用,基本上前面提到过的痛点都可以靠它解决。对了,这里特别强调一点,上面的截图让产品同事汗流浃背,再三找我确认 QClaw 思考过程中优美的“草”字说法,不会是默认出现的吧?AI 好,AI 得学,但更重要的是,在你的工作和生活里,哪些东西是能结构化地被 AI 所接入的,不要死守着那些脏活累活不放。

QcloudCommunity的博客 674
上一篇: <span class=“js_title_inner“>本周六!北京成都两地技术人专属活动来袭,仅剩少量席位报名从速!</span>
下一篇: 反思软件工程,超越Vibe Coding
腾讯云开发者
腾讯云开发者 企业官方账号 企业官方账号
博客等级 码龄10年 6291粉丝 1962原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值