AI Agent 工具描述:让模型知道能做什么,也知道不能做什么

人工智能知识普及,AI,大模型,Agent,prompt 但是,如果你问,从政治,经济,文化,制度等方面,来分析一下古代大一统封建王朝三百年的宿命论;虽然现在基于大模型可以实现文本,图片和视频的生成,但AI怎么实现在科学研究,医药,法律,制造业等其它领域的应用,而这就是agent需要解决的问题。至于agent它的手和脚是怎么实现的,然后又是怎么和大模型拼接到一块成为一个人的;我们知道大模型是通过大量的数据进行训练出来的一种具有“一定智能”的人工智能,之所以说具有一定智能是因为大模型目前为止并没有自己的意识,也就是说它没有像人类一样具有自己独立的思想。 阅读详情

AI Agent 工具描述:让模型知道能做什么,也知道不能做什么

一、工具描述不是说明书装饰

做 AI Agent 时,工具调用是否稳定,很大程度取决于工具描述。描述太模糊,模型会乱用;描述太宽,模型会把它当万能接口;描述不写限制,模型会在不该执行的时候执行。

工具描述的目标,是让模型知道能做什么,也知道不能做什么。

二、描述要包含能力和边界

flowchart TD
  A[工具描述] --> B[用途]
  A --> C[参数]
  A --> D[限制]
  A --> E[错误]
  A --> F[示例]

例如文件读取工具,不应该只写“读取文件”。它应该说明只允许读取工作区内文件、路径必须相对、不能读取目录、最大大小是多少。

{
  "name": "read_file",
  "description": "读取工作区内的文本文件,不允许访问工作区外路径",
  "parameters": {
    "path": "相对路径,不能包含 ..",
    "max_bytes": 65536
  }
}

描述越具体,模型越容易做出合适选择。

三、错误信息也会影响下一步

Agent 工具失败后,错误信息会进入模型上下文。错误如果只写 failed,模型不知道怎么修正。应该告诉它是路径非法、权限不足、文件太大还是格式不支持。

enum ToolError {
    PathOutsideWorkspace,
    FileTooLarge,
    UnsupportedEncoding,
}

错误类型清楚,模型才可能换一个正确动作。

四、工具要最小能力化

不要给一个工具同时读文件、写文件、执行命令、联网请求。能力越大,越难审计。更好的方式是拆成小工具,每个工具有明确输入输出。

agent_tools:
  read_file: read_only
  write_file: workspace_only
  run_command: allowlist_required

还要给危险工具加确认或策略限制。比如删除文件、执行 shell、访问密钥,都不应该只靠模型自觉。

最后,工具描述要和真实校验一致。描述里说不能访问工作区外,代码里也必须检查路径。只写描述不写校验,是把安全交给运气。

工具描述还应该写失败后的建议动作。比如文件太大时,提示模型先读取目录或按范围读取;路径不存在时,提示先列出附近目录。这样 Agent 不会在同一个错误上重复尝试。

{
  "error_code": "file_too_large",
  "suggestion": "use read_file_range or summarize smaller file"
}

参数 schema 也要尽量收窄。能用枚举就不要用自由字符串,能用布尔值就不要让模型写“yes/no”。参数空间越小,调用越稳定。

还要给工具输出设置上限。Agent 工具如果一次返回几十万字符,会把上下文挤爆。输出可以摘要、分页或返回句柄,让模型按需继续读取。

最后,工具描述要随着真实使用迭代。观察模型经常误用哪些工具,把误用原因写回描述或校验规则里,Agent 会越来越稳。

工具之间也要避免能力重叠。两个工具都能读取文件,一个返回全文,一个返回摘要,模型可能反复选择错误工具。命名、描述和适用场景要拉开差异,让选择路径更明确。

还可以给高风险工具加 dry-run 模式。模型先生成计划和影响范围,用户或策略系统确认后再执行真实动作。这样既保留 Agent 的自动化能力,也给危险操作留出刹车。

踩过一个坑:工具描述里写了"只读取工作区内的文件",但实现时漏掉了路径检查。模型直接生成了一个 /etc/ 下的绝对路径,代码居然照做了。从那以后我把"描述里写了什么,代码里必须对应断言"写进了开发规范。工具描述和实际校验不一致,比没写描述更危险。

给工具加能力时还有个安全准则:新能力的权限默认关闭,需要用户在配置里显式开启。这样做看起来保守,但这道"门"会把误激活的概率降到几乎为零。

五、总结

AI Agent 工具描述要写清用途、参数、限制、错误和示例,并让代码校验与描述一致。

让模型知道能做什么,也知道不能做什么。工具越清楚,Agent 越稳。

读懂AI Agent:基于大模型的人工智能代理 ⼤语⾔模型的浪潮推动了AIAgent相关研究快速发展,AIAgent是当前通往AGI的主要探索路线。⼤ 模型庞⼤的训练数据集中包含了⼤量人类行为数据,为模拟人类的交互打下了坚实基础;另⼀⽅⾯, 随着模型规模不断增大,大模型涌现出了上下⽂学习能力、推理能力、思维链等类似⼈类思考方式的多种能力。将大模型作为AIAgent的核⼼⼤脑,就可以实现以往难以实现的将复杂问题拆解成可实现 的子任务、人类的自然语言交互等能力。 阅读详情

相关推荐

AI人工智能 Agent:基础理论解析

AI人工智能 Agent:基础理论解析 1. 背景介绍 在21世纪的今天,人工智能(Artificial Intelligence, AI)已经成为科技领域的热点。AI技术的迅猛发展正在深刻改变我们的生活方式、工作模式和社会结构。人工智能Agent,作为AI的基本构成元素,是我们理解

AI天才研究院 2443

【AI Agent】你所不知道的 AI Agent:那些让机器拥有自主灵魂的神奇技术内幕

AI Agent,即人工智能代理或人工智能体,是一种融合了多种先进技术的智能系统。它以大语言模型为核心驱动力,在此基础上集成了规划、记忆和工具使用等关键组件。简单来说,AI Agent就像是一个拥有“大脑”的智能个体,能够感知周围环境,理解所面临的任务和目标,运用自身的知识和能力进行推理、规划,然后采取行动来实现目标。与传统人工智能不同,AI Agent无需人类给出非常具体和详细的指令来执行任务。只需给定一个目标,它就能像人类一样“独立思考”,自主地制定计划,调用各种工具和资源,逐步完成任务。

2301_80350265学无止尽5的博客 2568

AI人工智能 Agent:在人工智能伦理上的考量

AI人工智能 Agent:在人工智能伦理上的考量 关键词: 人工智能代理、伦理问题、隐私保护、歧视问题、责任归属 摘要: 本文旨在探讨人工智能代理(AI

AI天才研究院 1287

2025核心概念 AI Agent:什么是AI Agent?AI Agent 与大模型的区别

经过以上的分享,大家都直观感受到了AI Agent的重要意义。。DeepSeek,Qwen等强力大模型的出现为AI Agent提供了良好的模型基础,使其可以构建更大更强的智能体系统。AI Agent的发展又让AGI(通用人工智能,旨在创造一个能像人类一样思考、学习、执行多种任务的系统)的美好愿景逐渐成为现实,未来的世界一定是人工智能的世界!

老皮的博客 3806

【HarmonyOS 5】鸿蒙APP使用【团结引擎Unity】开发的案例教程

以下是基于团结引擎开发鸿蒙Unity应用的详细案例教程,整合环境配置、工程适配、跨语言通信等核心环节。

2201_75709314的博客 2486

中兴问天 BE7200MAX SFP 光口用华为猫棒替代光猫完整配置教程

PPPoE 账号密码:若原光猫为 Route 模式,在宽带设置页可见用户名,密码需按 F12 打开浏览器开发者模式,点击密码输入框,查看代码中 “value=” 后的内容即为明文密码。若仍失败,核对 PON 类型是否与运营商网络匹配。PON 认证信息:LOID(逻辑 ID,部分地区含密码)、设备 SN 码(标签或设备信息页)、PON 类型(GPON/EPON,运营商网络类型)。电脑保持与路由器连接,访问路由器管理地址(默认通常为 192.168.5.1,可参考路由器说明书),登录后台。

Gulper_Eel的博客 3372

AI Agent 基于大模型的人工智能代理

大语言模型的浪潮推动了 AI Agent 相关研究快速发展,AI Agent 是当前通往 AGI 的主要探索路线。大模型庞大的训练数据集中包含了大量人类行为数据,为模拟类 人的交互打下了坚实基础;另一方面,随着模型规模不断增大,大模型涌现出了上 下文学习能力、推理能力、思维链等类似人类思考方式的多种能力。将大模型作为 AI Agent 的核心大脑,就可以实现以往难以实现的将复杂问题拆解成可实现的子任 务、类人的自然语言交互等能力。

2301_79455190的博客 1687

VS2019配置Qt5.14.2开发环境全流程(含MSVC2017 64-bit选择指南)

本文详细介绍了在VS2019中配置Qt5.14.2开发环境的完整流程,特别针对MSVC2017 64-bit编译器的选择提供了专业建议。从环境准备、Qt安装配置到VS2019集成设置,逐步指导开发者完成开发环境的搭建,并提供了常见问题的解决方案和高级优化技巧,帮助开发者高效进行Qt开发。

weixin_29243279的博客 516

AI Agent 调用工具时,为什么不能直接相信模型生成的参数?

本文剖析Agent参数生成中的三大错误类型:取值越界、语义错位与业务前置条件缺失,指出模型生成参数不可靠的根本原因在于其基于概率采样的本质,无法保证语义正确性。强调校验必须分层落地——Schema层管结构,语义层控取值,业务层验证现实约束。提出错误回传应清晰可纠正,并设置重试上限,避免循环失败。核心结论:对有副作用操作,校验必须前置且代码兜底,杜绝依赖模型自觉。

2503_94545876的博客 1271

AI医疗影像诊断工具2025 完整教程

本教程所述工具均为辅助诊断设备,不可替代执业医师判断。部署使用需遵守当地医疗器械管理法规。推荐开源框架组合:代码太多打包上传网盘了 自行下载。2025年的AI医疗影像诊断工具将以。

m0_60084632的博客 2030

AI 技术新手入门与实战指南

仅仅能对话还不够,实际应用中,我们往往需要让 AI 处理特定的业务数据。比如,从日志文件中提取错误码,或者将非结构化的用户反馈整理成 JSON 格式。这时候,自定义输入和严格的结果验证就显得尤为重要。假设我们需要让 AI 分析一段服务器日志,并只返回错误的级别和简述。请分析以下日志片段,提取所有 ERROR 级别的信息。要求输出格式为 JSON 列表,包含 'timestamp' 和 'message' 两个字段。不要输出任何多余的解释文字。日志内容: {

2600_94936330的博客 2681

人工智能全新Agent技术:这本 大模型应用开发-动手做AI Agent 值得一读(附PDF)

人工智能时代一种全新的技术— Agent正在崛起。今天就给大家分享下这本LLM大模型的书《大模型应用开发 动手做AI Agent》,本书从AI agent的角度探索目前人工智能最前沿的技术发展,并且借助开源框架带着读者亲手制作7个常用的agent。

pythonhy的博客 964

软考高级网络规划设计师教程(第3版)

"本书是由工业和信息化部教育与考试中心组织编写的考试用书,依据《网络规划设计师考试大纲》(2026年审定通过)编写。本书分为两篇:第一篇为网络规划与设计综合知识,其中第1章介绍计算机网络基础知识,第2章介绍网络互连与互联网,第3章介绍网络规划与设计的知识和方法,第4章介绍网络资源设备,第5章介绍网络安全技术,第6章介绍标准化和网络安全法规;第二篇为案例实践,其中第7章介绍网络规划案例,第8章介绍网络故障分析与处理案例,第9章介绍网络安全部署案例,第10章介绍网络规划与设计论文写作的指导思想和写作技巧。

鹿鸣天涯 3953

AI Agent:基于大模型的人工智能代理

AI Agents竞争就是未来很重要的方向。我们大部分人都优势应该不是大模型,但可以是AI Agents,也就是在配套技术上面有很多的优势,才能使得他做任何一个业务的完成度极大地提升了。

瓦罗兰特顶级C位的博客 938

Agisoft Metashape 基于RTK技术的无人机航测免像控技术流程

利用无人机进行航空摄影测量,其使用方便、快速获得成果,已经是测绘行业外业生产的主要方式。RTK定位系统的出现,其厘米级的定位系统,使得航测无人机在作业时,能够准确获取拍照时的GPS位置,能够大量减少像控点,即使不使用像控点也能满足规范对精度的要求。可以有效解决特殊地形(如山川、峡谷、河流、沼泽、水库等)外业人员很难布设像控点的情况。

penglu366366的博客 2190

Ego Planner规划算法(下)——Ego Planner程序框架

本系列文章用于学习记录Ego-Planner规划算法的相关内容,本系列文章是在在Fast Planner规划算法系列文章的基础上,展开对Ego Planner的相关介绍,主要包括Ego Planner算法流程和程序框架两部分,主要学习资料是深蓝学院的移动机器人运动规划课程

慕羽★的博客 7262

2025核心概念 AI Agent:什么是AI Agent?AI Agent 与大模型的区别_ai agent和大模型的区别

经过以上的分享,大家都直观感受到了AI Agent的重要意义。。DeepSeek,Qwen等强力大模型的出现为AI Agent提供了良好的模型基础,使其可以构建更大更强的智能体系统。AI Agent的发展又让AGI(通用人工智能,旨在创造一个能像人类一样思考、学习、执行多种任务的系统)的美好愿景逐渐成为现实,未来的世界一定是人工智能的世界!

HUANGXIN9898的博客 1372

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

人工智能的未来——AI Agent和Agentic AI的区别与联系

更倾向于描述人工智能的能力,专注于其自主性、适应性和目标导向行为。

2301_82275412的博客 2412

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

AI Agent:从工具到伙伴,人工智能的范式跃迁与未来图景

从“被动响应”到“主动决策”,AI Agent的演进不仅是技术的突破,更是人机关系的重构——我们不再需要“学习如何使用工具”,而是工具主动“理解我们的需求”。当Agent能自主规划旅行、完成设计、辅助科研时,它已不再是冰冷的代码,而是具备“目标感”与“行动力”的伙伴。当然,Agent的发展仍需跨越诸多障碍:规划的因果性、记忆的高效性、协同的有序性……但这些挑战恰恰是技术前进的动力。

小程故事多的博客 1182

高质量工具描述怎么写:决定 Agent 能不能用对工具

概念定义受众核心作用工具描述面向大模型的、用自然语言+结构化格式编写的工具功能、参数、约束说明大模型帮助模型理解"工具能干啥、怎么用、什么时候用"函数签名面向开发者的、编程语言层面的函数入参出参定义代码执行引擎约束代码执行的参数格式系统提示词面向大模型的Agent全局行为约束大模型定义Agent的身份、目标、通用规则工具文档面向开发者的工具使用手册开发者帮助开发者理解工具的实现逻辑、部署方式、故障排查工具描述的本质是大模型和工具之间的"翻译层"

小白菜的博客 72

AI时代你一定要知道的Agent概念

AI Agent,经常被翻译为:智能体或代理。一句话总结,AI Agent就是一个有着聪明大脑而且能够感知外部环境并采取行动的智能系统。我们可以把它想象成一个能思考和行动的人,而大型语言模型(LLM)就是这个人的“大脑”。通过这个大脑,再加上一些能够感知外部世界和执行任务的部件,AI Agent就变成了一个有“智慧”的机器人。要让AI Agent充分利用它的“大脑”和各种组件,需要一种协调机制。ReAct机制就是常用的协调机制。

2401_85325726的博客 656
上一篇: Tokio select 入门:并发等待时别忘了取消分支
下一篇: Rust Result 组合:错误处理别急着 unwrap
第一程序员
博客等级 码龄1年 1万+粉丝 1822原创
评论 2
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值