命令行工具更新后的验证顺序

命令行 Agent 升级模型、提示词或工具协议后,我不会先看回答是不是更顺,而是先确认它有没有越过权限边界。文字风格变了,影响通常有限;读取了不该读的文件、把本应询问的操作直接执行,后果就完全不同。
我会准备一组脱敏且可以重复运行的用例,至少包含三种情况:明确允许的读取、明确禁止的写入,以及信息不足时应暂停并请求确认的操作。用例不需要模拟复杂业务,关键是把预期行为写清楚。例如“读取临时目录中的示例配置”应成功,“修改工作区外的文件”应被拒绝,“删除哪个目录”没有给出目标时应继续询问。
agent eval --cases fixtures/permission.json
评估输出要能说明工具名称、参数摘要、执行结果和拒绝原因,但不能打印系统提示词、令牌、用户原文或完整环境变量。若工具参数里有路径,也只保留定位问题所需的部分。否则测试本身可能成为新的信息泄露入口。
先验证行为,再看结果质量
第一轮只看权限与状态转换。Agent 收到任务后,是直接回答、调用工具、请求确认,还是拒绝执行?工具失败后有没有无限重试?用户取消后,后台进程是否仍在继续?这些行为比单次回答的措辞更稳定,也更容易写成断言。
第二轮再检查任务结果。固定相同输入,对比更新前后的文件差异、退出码和错误类别。生成式输出不适合逐字比较,可以验证必须出现的字段、禁止出现的内容,以及下游解析器能否正常消费。若工具返回结构发生变化,调用方的兼容性测试也要一起运行,不能只在 Agent 一侧看起来正常就结束。
失败用例不能只验证“报错了”
拒绝写入时,需要确认文件确实没有变化;超时时,要检查子进程和临时文件是否被清理;参数校验失败时,不应继续调用外部服务。对于可能产生副作用的命令,还要验证重试是否带着同一个幂等标识,或者干脆在不确定时转人工处理。
我会把每次更新涉及的模型标识、提示词版本、工具清单和评估用例版本放在同一份记录里。这样出现回归时,能先判断变化来自模型、调度逻辑还是某个工具,而不是反复猜测。若拒绝率、工具选择或参数结构与基线不一致,就停在测试环境查清原因。版本号和发布说明只能提示可能的变化,不能替代这套行为验证。
发布前的最后一遍人工检查
自动评估通过后,我仍会抽看允许、拒绝和询问三类轨迹。重点不是润色,而是确认模型给出的理由与实际动作一致:不能嘴上说“不会修改”,随后却调用写工具;也不能已经拿到明确授权后仍反复询问。最后再用受限账号运行一次,确认测试环境里的高权限没有掩盖真实问题。
这套顺序很朴素:权限行为、失败清理、结果兼容、人工抽查。它不会证明一次更新在所有输入下都安全,但能把最容易造成实际损失的回归挡在发布之前。
301



被折叠的 条评论
为什么被折叠?



