什么是Agent?工作原理是什么?以及如何评测Agent

部署运行你感兴趣的模型镜像

文章详解AI Agent与大模型的区别、工作原理及评测方法。Agent作为具备自主决策能力的系统可独立完成任务,而大模型仅提供方法需人工执行。文章解析了Agent的感知、决策、执行、目标等核心构成,以及从任务完成度、效率、鲁棒性等维度评测Agent的方法,并提供AI大模型学习资源,帮助读者入门和进阶。


一、什么是Agent

大家有没有想过这样的问题:

“已经有大模型了,为什么还要做Agent?大模型不是也能得到Agent中得到的结果吗?

“Agent与大模型之间具体有什么区别呢?”

首先让我们先从定义上看看这两者有什么区别:

大模型是基于深度学习、拥有数十亿至数千亿参数的人工智能模型,能通过海量数据学习复杂模式,具备文本生成、逻辑推理等多任务处理能力,是当前 AI 领域的核心突破方向。

而AI Agent呢,他拥有llm这个大脑,且具备自主决策和行动能力的系统,它可以根据目标,自主地使用工具、调用 API、规划步骤、执行任务。他是让AI真正实现自主完成任务,代表人类去完成具体任务的AI

所以从上述来看,大模型只提供任务方法,具体行动还是需要人去做执行;而agent则可以独立做出决策、主动执行,帮助人类执行任务,从而直接得到想要结果,这样的一个人工智能系统。

二、Agent工作原理及评测

1、Agent内部工作原理:

在 LangChain 官方文档《How to migrate from legacy LangChain agents to LangGraph》一节中,通过 magic_function(3)的示例,展示了语言模型(LLM)如何调用外部工具的完整流程,包括工具的定义、与模型的绑定、工具调用的生成与执行,以及最终结果的返回。

在 LangChain 框架中,通过结构化的方式将外部函数集成到 LLM 的推理过程中,从而增强模型的功能和灵活性。它是理解 LangChain Agent 与工具交互机制的关键示意图之一。

而这张图展示了AI Agent 调用机制以及他的原理,语言模型(LLM)如何通过绑定的外部工具,实现对用户指令的理解与执行。当用户以自然语言提出问题时,LLM 将其解析为结构化的工具调用请求,并根据工具定义发起调用,获取结果后再生成最终回答。这一过程体现了 Agent 具备“理解 → 决策 → 行动 → 回答”的能力,是其完成复杂任务的基础机制。

2、Agent评测

在评测 Agent 时,对他的工具调用决策与行为的评估逻辑是:当 Agent 接收到用户问题后,语言模型需要判断是否使用工具,并做出相应的调用。如果调用工具,则进入工具执行阶段,并基于结果继续推理;否则直接回答。评测过程不仅关注最终的回答是否接近参考答案(蓝色箭头),还关注模型是否按预期正确地调用了工具(红色箭头)以及调用顺序是否合理(橙色箭头)。这体现了对 Agent 的行为路径最终输出的双重评估标准。

图中通过一个工具调用agent(tool-calling agent)的示例,展示了语言模型(LLM)如何判断是否调用工具、如何执行工具调用,以及如何返回最终结果的完整流程。

3、Agent 的核心构成

通常,一个 Agent 包含以下几个部分:

  • **感知(Perception):**从环境中获取信息,比如读取传感器、接收用户输入、获取API数据等。示例:一个客服Agent从用户输入里提取问题意图。
  • **决策(Reasoning / Planning):**基于感知到的信息,判断当前情况,并决定下一步要做什么。可能用到规则系统、机器学习、强化学习、逻辑推理等技术。
  • **执行(Action):**执行决策的动作,比如调用API、发送消息、控制机器人动作等。
  • **目标(Goal)或任务系统(Task):**Agent通常有一个明确的目标,比如完成订单、回答问题、规划路径等。
  • **反馈与学习(可选):**一些高级Agent具有自我反馈机制,比如通过强化学习不断优化行为策略。

三、如何评测Agent

测评 Agent(智能体)的过程,本质上是评估它是否 高效、准确、稳定地完成任务目标,通常包括以下几个维度:

维度说明典型指标 / 方法
任务完成度Agent 是否成功完成了指定任务成功率(Success Rate)、准确率
效率(效率性)完成任务所花费的时间、资源或步骤是否合理步数(Step Count)、耗时、调用频率
鲁棒性 / 稳定性在面对不同输入、异常或环境变化时是否能保持正确行为异常处理成功率、崩溃率
泛化能力在未见过的新任务或新数据下,是否还能正常工作迁移测试、新场景任务表现
智能程度 / 推理能力Agent 是否展示出推理、规划、记忆、适应等智能行为人工评分、自动推理链评估(如CoT)

以及主要看任务完成度与流程正确性:

  • ✅ 是否按预定流程走完?
  • ✅ 是否能处理异常输入?
  • ✅ 是否成功调用对应API?

例如你训练了一个能够帮用户“查询天气并写日报”的 Agent,可以如下测评:

  1. 输入任务:“今天北京天气如何?请写一段日报总结。”

  2. 评估点:

    1. 是否正确使用了天气 API 工具?
    2. 是否写出了结构完整、内容合理的日报?
    3. 是否在遇到API失效时能优雅降级?
    4. 总共调用了几步?是否冗余?

零基础如何高效学习大模型?

你是否懂 AI,是否具备利用大模型去开发应用能力,是否能够对大模型进行调优,将会是决定自己职业前景的重要参数。

为了帮助大家打破壁垒,快速了解大模型核心技术原理,学习相关大模型技术。从原理出发真正入局大模型。在这里我和鲁为民博士系统梳理大模型学习脉络,这份 LLM大模型资料 分享出来:包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴,可以 扫描下方二维码免费领取🆓**⬇️⬇️⬇️

在这里插入图片描述

【大模型全套视频教程】

教程从当下的市场现状和趋势出发,分析各个岗位人才需求,带你充分了解自身情况,get 到适合自己的 AI 大模型入门学习路线。

从基础的 prompt 工程入手,逐步深入到 Agents,其中更是详细介绍了 LLM 最重要的编程框架 LangChain。最后把微调与预训练进行了对比介绍与分析。

同时课程详细介绍了AI大模型技能图谱知识树,规划属于你自己的大模型学习路线,并且专门提前收集了大家对大模型常见的疑问,集中解答所有疑惑!

在这里插入图片描述

深耕 AI 领域技术专家带你快速入门大模型

跟着行业技术专家免费学习的机会非常难得,相信跟着学习下来能够对大模型有更加深刻的认知和理解,也能真正利用起大模型,从而“弯道超车”,实现职业跃迁!

图片

【精选AI大模型权威PDF书籍/教程】

精心筛选的经典与前沿并重的电子书和教程合集,包含《深度学习》等一百多本书籍和讲义精要等材料。绝对是深入理解理论、夯实基础的不二之选。

在这里插入图片描述

【AI 大模型面试题 】

除了 AI 入门课程,我还给大家准备了非常全面的**「AI 大模型面试题」,**包括字节、腾讯等一线大厂的 AI 岗面经分享、LLMs、Transformer、RAG 面试真题等,帮你在面试大模型工作中更快一步。

【大厂 AI 岗位面经分享(92份)】

图片

【AI 大模型面试真题(102 道)】

图片

【LLMs 面试真题(97 道)】

图片

【640套 AI 大模型行业研究报告】

在这里插入图片描述

【AI大模型完整版学习路线图(2025版)】

明确学习方向,2025年 AI 要学什么,这一张图就够了!

img

👇👇点击下方卡片链接免费领取全部内容👇👇

在这里插入图片描述

抓住AI浪潮,重塑职业未来!

科技行业正处于深刻变革之中。英特尔等巨头近期进行结构性调整,缩减部分传统岗位,同时AI相关技术岗位(尤其是大模型方向)需求激增,已成为不争的事实。具备相关技能的人才在就业市场上正变得炙手可热。

行业趋势洞察:

  • 转型加速: 传统IT岗位面临转型压力,拥抱AI技术成为关键。
  • 人才争夺战: 拥有3-5年经验、扎实AI技术功底真实项目经验的工程师,在头部大厂及明星AI企业中的薪资竞争力显著提升(部分核心岗位可达较高水平)。
  • 门槛提高: “具备AI项目实操经验”正迅速成为简历筛选的重要标准,预计未来1-2年将成为普遍门槛。

与其观望,不如行动!

面对变革,主动学习、提升技能才是应对之道。掌握AI大模型核心原理、主流应用技术与项目实战经验,是抓住时代机遇、实现职业跃迁的关键一步。

在这里插入图片描述

01 为什么分享这份学习资料?

当前,我国在AI大模型领域的高质量人才供给仍显不足,行业亟需更多有志于此的专业力量加入。

因此,我们决定将这份精心整理的AI大模型学习资料,无偿分享给每一位真心渴望进入这个领域、愿意投入学习的伙伴!

我们希望能为你的学习之路提供一份助力。如果在学习过程中遇到技术问题,也欢迎交流探讨,我们乐于分享所知。

*02 这份资料的价值在哪里?*

专业背书,系统构建:

  • 本资料由我与鲁为民博士共同整理。鲁博士拥有清华大学学士美国加州理工学院博士学位,在人工智能领域造诣深厚:

    • 在IEEE Transactions等顶级学术期刊及国际会议发表论文超过50篇
    • 拥有多项中美发明专利。
    • 荣获吴文俊人工智能科学技术奖(中国人工智能领域重要奖项)。
  • 目前,我有幸与鲁博士共同进行人工智能相关研究。

在这里插入图片描述

内容实用,循序渐进:

  • 资料体系化覆盖了从基础概念入门核心技术进阶的知识点。

  • 包含丰富的视频教程实战项目案例,强调动手实践能力。

  • 无论你是初探AI领域的新手,还是已有一定技术基础希望深入大模型的学习者,这份资料都能为你提供系统性的学习路径和宝贵的实践参考助力你提升技术能力,向大模型相关岗位转型发展

    在这里插入图片描述在这里插入图片描述在这里插入图片描述

抓住机遇,开启你的AI学习之旅!

在这里插入图片描述

您可能感兴趣的与本文相关的镜像

Llama Factory

Llama Factory

模型微调
LLama-Factory

LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调

<think> 嗯,用户这次想了解OpenCompass评估Agent的具体方法和指标。从对话历史看,用户之前对Agent技术已经有基本认知(比如引用[1]提到过画图Agent的实现原理),现在转向评估层面的专业问题。 用户提问很聚焦,说明ta可能正在做相关研究或开发,需要具体的技术参数。OpenCompass作为主流评估框架,其评估逻辑需要从三个维度拆解: 1. 基础能力评估:这是大模型Agent的根基,包括常识、推理等通用能力。OpenCompass会直接调用MMLU/C-Eval等经典基准测试集,用准确率等传统指标衡量(比如$acc=\frac{N_{correct}}{N_{total}}$)。这部分和普通大模型评估一致。 2. 工具交互能力:Agent的核心特色。需要设计特殊测试集模拟工具调用场景,重点考察指令理解、参数提取、调用顺序合理性。例如评估画图Agent时,不仅要看生成图像质量,更要检查JSON参数是否正确传递了"resolution=1024x768"这类细节。 3. 任务完成度:最高阶的评估。通过多轮对话任务测试Agent的规划能力,比如"查天气-订机票-生成行程表"这样的链式任务。成功率$S_{task}$和步骤优化比$R_{optim}=\frac{T_{step}}{T_{optimal}}$是关键指标。 用户可能没意识到的是评估数据的构建难度——工具交互测试集需要人工设计大量带歧义的指令,比如"画一只斑马但不要条纹"这种需要逻辑否定的案例。这部分的评估成本比普通QA测试高一个量级。 考虑到用户的技术背景,可以补充说明OpenCompass的模块化设计:它的评估管道(pipeline)支持自定义工具API描述文件,这样就能用同一套框架测试不同Agent。不过具体到文生图这类多模态任务,还需要额外接入CLIP等图像语义匹配模型打分。 最后生成的问题既要覆盖技术细节(分布式评估的实现),也要考虑实用场景(实际项目中的评估报告长什么样),帮助用户建立从理论到落地的完整认知。 </think> OpenCompass 评估 Agent 的方法和指标主要围绕其**核心能力**(如任务理解、工具调用、多步规划)和**领域适应性**设计,具体如下: --- ### **一、评估方法** 1. **静态能力评测** - **基础能力测试**:使用标准化数据集(如 MMLU、C-Eval)评估 Agent 的语言理解、逻辑推理等通用能力,例如数学问题求解: $$ \int_0^1 x^2 dx = \frac{1}{3} $$ - **工具调用验证**:构造需调用外部工具的指令(如画图、查询 API),验证参数解析和插件触发准确性。 2. **动态交互评测** - **多轮对话任务**:模拟复杂场景(如预订行程),评估任务分解、状态记忆和错误恢复能力。 - **工具链测试**:设计需连续调用多个工具的任务(如「查天气→生成旅行报告→画图表」),检验工作流协调能力。 3. **领域专项评测** - **垂直场景测试**:针对具体应用(如智能客服、编程助手)构建领域特有数据集,验证专业任务表现。 --- ### **二、核心评估指标** 1. **任务完成度** - **成功率**(Success Rate):完成任务的比例 - **步骤优化比**:$$ R_{optim} = \frac{\text{实际步骤数}}{\text{理论最小步骤数}} $$ 2. **工具使用能力** | 指标 | 说明 | |---------------------|-----------------------------| | 工具调用准确率 | 参数正确性 & 触发时机合理性 | | 无效调用率 | 错误调用工具的次数占比 | | 工具链中断率 | 多工具协作失败的概率 | 3. **效率指标** - **响应延迟**:从输入到输出的平均时间 - **Token 效率**:$$ \eta_{token} = \frac{\text{有效输出长度}}{\text{总 Token 消耗}} $$ 4. **鲁棒性** - **抗干扰能力**:在输入噪声(如错别字、歧义指令)下的性能保持度 - **错误处理得分**:对无效请求的合理响应比例 --- ### **三、技术实现特点** 1. **模块化评估管道** ```mermaid graph LR A[任务生成] --> B[Agent 执行] B --> C[工具模拟器] C --> D[自动评分] D --> E[多维度报告] ``` 2. **支持自定义场景** - 通过配置文件扩展工具 API 描述和测试用例 - 支持接入真实 API 或模拟器(如画图插件[^1]) 3. **分布式评估框架** 可并行测试数百个 Agent 实例,加速大规模评估。 --- ### **典型评估报告片段** > **任务**:”生成一张分辨率为 1024x768 的星空图,并写一首短诗“ > **评分结果**: > - 工具调用准确率:1.0(正确触发文生图插件[^1]) > - 诗歌相关性:0.9(符合主题) > - 总分:92/100 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

程序员一粟

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值