系统级 Agent 命令白名单:让模型先申请,再执行

DeepSeek Harness解析:Agent开发中模型与工具之间的执行外壳 Agent开发的核心不只是模型推理能力,更在于如何让模型生成的动作可靠地变成真实工具调用。Harness正是构建模型与外部工具之间执行循环的关键层,负责工具调度、上下文管理和错误恢复。在实际工程中,模型是大脑,Harness是执行四肢与神经系统,它把“调用工具—获取结果—再交给模型”的流程通用化,让DeepSeek等大模型能够稳定完成自动修改文件、执行测试、排查Bug等多步骤任务。理解Harness的定位,是评估Agent框架与编排工具差异、优化工作流稳定性的前提。从最小可用路径到团队工程化,Harness 阅读详情

系统级 Agent 命令白名单:让模型先申请,再执行

一、Agent 自动执行命令最需要刹车

AI Agent 能读取文件、运行测试、修改代码和调用工具,效率很高,也很危险。模型生成一条命令时,可能并不知道它会删除文件、上传密钥、修改系统配置或跑很久。系统级 Agent 的第一条原则应该是:模型只能申请执行,宿主决定是否允许。

命令白名单不是为了让工具变笨,而是把高风险动作挡在边界外。允许 cargo test、rg、ls 这类只读或低风险命令,限制 rm -rf、网络上传、系统权限修改和不可控脚本。初学者写 Agent 时尤其要克制,别把本机交给一个会猜命令的模型。

二、执行链路:解析、审查、确认、记录

flowchart TD
    A[模型提出命令] --> B[命令解析]
    B --> C[白名单匹配]
    C --> D{风险等级}
    D -->|低风险| E[执行]
    D -->|高风险| F[用户确认]
    E --> G[记录审计]
    F --> G

白名单应基于命令和参数一起判断。只允许 git status 不等于允许全部 git 命令;允许 cargo test 不等于允许执行任意 cargo run。很多危险都藏在参数里,例如输出重定向、管道、子 shell、通配符和路径逃逸。

更稳的做法是不用 shell 拼字符串,而是把命令拆成程序名和参数数组。这样可以减少注入风险,也更容易审查。模型生成自然语言或 JSON 请求,宿主解析后决定是否转换成真实进程。

三、规则示例:命令策略要可读

下面是一份简化的命令策略配置。真实项目还要处理路径、超时和环境变量。

commands:
  allow:
    - program: "cargo"
      args_prefix: ["test"]
      risk: "low"
    - program: "rg"
      args_prefix: []
      risk: "low"
    - program: "git"
      args_prefix: ["status"]
      risk: "low"
  deny:
    - program: "rm"
    - program: "curl"
    - program: "chmod"

策略要默认拒绝。没有匹配到允许规则的命令,一律需要人工确认或直接拒绝。这样新风险不会自动进入执行范围。白名单可以随着使用场景逐步扩展,不要一开始就放开所有命令。

路径也要限制。Agent 如果被允许读写工作区,就不应该访问家目录、SSH 密钥、系统配置和浏览器数据。可以把所有文件操作限制在 workspace root 下,并拒绝 .. 路径逃逸。路径校验最好使用规范化后的绝对路径。

四、执行细节:超时、输出和审计不能少

每个命令都要设置超时。模型可能请求运行长时间服务或卡住的测试,如果没有超时,Agent 就会挂住。输出也要限制大小,防止命令刷出大量日志把上下文撑爆。终端工具最怕无限输出。

审计记录应包含模型请求、最终命令、工作目录、开始时间、退出码、耗时和输出摘要。这样用户可以回看 Agent 做了什么。出现问题时,审计日志比“模型刚才好像运行了什么”可靠得多。

最后,高风险命令需要用户确认,而且确认页面要展示真实命令和影响范围。不要只写"是否继续执行操作"。用户需要知道将在哪个目录执行、会修改哪些文件、是否访问网络。确认要具体,才有意义。

有一次同事的 Agent 在 CI 里跑了整整 40 分钟的脚本循环,因为白名单只检查了命令名,没限制参数和子命令。后来加上参数白名单和超时上限,问题就没再出现。少一个限制,就可能多一个事故。

超时设置还要注意:同一命令在开发机和 CI 容器里的执行时间可能差 10 倍。建议超时值做成环境变量,方便不同环境调参。

五、总结

系统级 Agent 执行命令时,模型应该先申请,宿主再审查。白名单、参数解析、路径限制、超时、输出限制和审计日志,是最小安全边界。让 Agent 能做事之前,先让它不能乱做事。

哪个更安全?白名单还是黑名单?Agent端对监控指标黑白名单的支持 “实际上,agent端指标的白名单和黑名单也是Zabbix培训中的一个重要主题。”   ——Kaspars Mednis , 全球培训师负责人,Zabbix SIA   本文整理自Kaspars 在2020Zabbix中国峰会的演讲,ppt获取链接见文末。更多演讲视频可关注官方Bilibili账号主页(ID:Zabbix中国)。   目录 一 为什么需要agent端指标的白名单和黑名单 二 如何保障安全性 三 关于通配符 四 关于功能注释 五 哪个更安全?白名单还是黑名单?   为什么需要agent端指标的 阅读详情

相关推荐

AI Agent治理实战:权限边界、工具白名单与审计追踪

随着AI Agent从对话机器人演进为具备工具调用、数据访问和执行能力的系统行为体,模型能力已不再是核心瓶颈,真正的挑战在于如何让代理在授权范围内可控运行。这要求开发者深入理解Agent的身份模型、数据边界、行为权限与审计机制,并建立一套可落地的治理框架。从最小权限原则到工具白名单设计,从沙箱执行到结构化日志追踪,治理的核心是让每一次工具调用都有据可查、每一个越权动作都被拦截。本文结合工程实践,梳理了Agent治理的五个关键维度,以及权限配置、日志缺失、数据越权等常见问题的排查思路,为AI Agent开发、

weixin_34297704的博客 330

VS Code Agent终端自动放行:字符串白名单为什么不够

Agent频繁请求执行终端命令,逐次确认会打断工作流;直接全部放行,又会扩大误操作和提示词注入风险。本文拆解VS Code当前的终端自动审批机制:为什么需要先解析Shell语法,如何逐个检查子命令与内联命令,允许规则和拒绝规则怎样组合,以及文件写入检测和自动审批仍有哪些边界。最后给出一份可以直接参考的最小权限配置

海波的专栏 372

AI智能体安全执行Shell命令:agent-shell项目实战与安全设计

在AI智能体(Agent)开发领域,如何让大语言模型(LLM)驱动的智能系统安全、可靠地执行操作系统命令,是实现其从“思考”到“行动”的关键一步。其核心原理在于构建一个受控的执行环境,通过命令过滤、资源隔离与会话管理等技术,在赋予AI操作能力的同时,严格防范命令注入、路径遍历等安全风险。这一技术价值在于极大扩展了智能体的应用边界,使其能够直接处理文件系统检查、日志分析、系统监控等自动化运维任务,成为连接AI认知与系统底层的实践桥梁。本文以agent-shell项目为例,深入探讨了如何通过沙箱机制、白名单策略

weixin_33716154的博客 429

系统级工作流工具链:让任务执行命令前先过安全闸

系统级 Agent 工具链必须在命令执行前加入白名单、参数校验、权限分级和人工确认。模型可以提出动作,但动作能否执行应由确定性安全策略决定,这是系统工具可靠性的底线。

no1coder的博客 1073

Dora:基于Bash的轻量级AI Agent,让LLM安全执行系统命令

LLM Agent作为人工智能与系统交互的桥梁,其核心原理是通过自然语言理解、任务规划与工具调用来完成复杂操作。在工程实践中,Agent的价值在于将人类意图转化为可执行动作,实现自动化与效率提升。传统Agent框架往往集成复杂工具链与状态管理,适用于企业级应用场景,但也带来了环境隔离、工具定义繁琐等部署负担。针对本地化、系统级的自动化需求,轻量级Agent通过聚焦核心能力——如安全执行Bash命令——提供了更敏捷的解决方案。Dora正是这一理念的实践,它将Bash作为元工具暴露给LLM,结合黑名单过滤与权限

weixin_33725515的博客 429

Prometheus安装部署说明

1. 安装Prometheus Server   Prometheus基于Golang编写,编译后的软件包,不依赖于任何的第三方依赖。用户只需要下载对应平台的二进制包,解压并且添加基本的配置即可正常启Prometheus Server。 1.1 下载并解压二进制安装包 通过Prometheus的官方网站:https://prometheus.io/download/,下载最新版本的Prometheus安装包 #下载、解压、创建软链接 cd /export/ wget https://githu..

m0_38100619的博客 5014

Rust Agent 子进程执行:Command 之前,先定义输入和超时

Rust Agent 子进程执行要有命令白名单、参数校验、工作目录限制、超时和输出截断。不要把模型字符串直接交给 shell。Command 很强,也很危险。让 Agent 会执行命令之前,先让执行器会拒绝命令。

no1coder的博客 2955

基于CubeMX与lwip的STM32轻量级HTTP服务器搭建及VSCode高效开发指南

本文详细介绍了如何在STM32单片机上,利用STM32CubeMX图形化配置工具和轻量级TCP/IP协议栈lwIP,快速搭建一个轻量级HTTP服务器。通过结合VSCode的高效代码编辑能力,提供了一套从硬件连接到动态网页交互(SSI/CGI)的完整开发指南,旨在为嵌入式设备提供零成本、跨平台的Web交互界面。

weixin_29163857的博客 585

Conductor Agent CLI 工具实战:用命令白名单构建沙箱化 Shell 的 Agent

Conductor 的 Agent 能力允许模型在受控条件下调用真实 Shell 命令,而 `cli_commands` + `cli_allowed_commands` 组合正是这套能力的边界控制开关。本文基于官方 Cookbook 配方 [agent-cli-tools.md](https://link.gitcode.com/i/959b63990f7d697954ddaf9b17ab2a7

gitblog_00649的博客 773

EG800K 4G模块AT指令避坑指南:让你的STM32物联网项目稳定连接云端

本文详细解析了EG800K 4G模块在STM32物联网项目中的AT指令应用避坑指南,涵盖从底层协议到云端稳定的全链路优化策略。通过实战案例和防护机制,帮助开发者解决常见通信陷阱,提升云端通信的稳定性和效率。

weixin_26834815的博客 290

保姆级教程:在Ubuntu 22.04上用Python3.10和pysoem搞定EtherCAT电机回零与位置控制

本文提供在Ubuntu 22.04上使用Python3.10和pysoem实现EtherCAT电机回零与位置控制的详细指南。涵盖环境搭建、权限配置、EtherCAT主站架构解析、CiA402协议核心机制及工业级精度控制实现,帮助开发者快速掌握Python在工业自动化中的应用。

weixin_30952535的博客 330

Maka Agent计划模式是什么?让AI助手先规划再执行的完全指南

Maka Agent 计划模式(Plan Mode)是 Apache Maka 这款本地优先(local-first)AI Agent 工作区里的核心协作能力:开启后,AI 助手**先只读地勘察代码库、讨论方案,输出一份带步骤和风险的结构化计划,经你批准后才开始执行**,全程进度可追踪、可中断、可恢复。本文将带你快速理解计划模式的工作原理、完整流程与最佳实践。 [![Maka AI Agent

gitblog_00618的博客 863

手把手教你用支付宝密钥工具生成RSA2密钥对(含Windows/Mac操作截图)

本文详细介绍了如何使用支付宝密钥工具生成RSA2密钥对,包括Windows和Mac平台的操作步骤与截图。从工具下载、安装到密钥生成、配置支付宝平台,再到开发环境集成实战,手把手教你完成支付宝支付接口对接。特别强调密钥安全管理和最佳实践,帮助开发者避免常见安全隐患。

mongodb5scout的博客 261

EvoFlow是什么?一文读懂「进化的工作流」AI员工平台:规划、执行、沉淀全闭环

EvoFlow 是一个「进化的工作流(Evolutionary Workflow)」AI 员工平台:由 EvovexAI 打造的智能体编排框架,能把一件多步的事真正做完——先规划、再拆解执行、全程可观测可干预,跑完的经验还会沉淀下来,让下一轮任务少从头教。对新手来说,它的定位很清晰:**不止是聊天窗,而是帮你把长任务跑通、验收、复用的 AI 工作车间**。 [![EvoFlow 智能体员工平台主

gitblog_01005的博客 648

2024年11月架构设计师案例分析真题回顾,附参考答案、解析及所涉知识点(一)

软考高级系统架构设计师考试包含三个科目:信息系统综合知识、案例分析和系统架构设计论文。考试形式为机考。本文主要回顾2024年下半年(2024-11-10)系统架构设计师考试上午第二科案例分析的题目,同时附带参考解答、解析和所涉知识点。

一几文的编程学习笔记。 2420

Oracle EBS R12 主 / 辅助分类帐(主 / 辅助帐套)落地

本文提供了Oracle EBS R12主/辅助分类帐实施的全套文档模板,包含主帐套(法定帐套)和辅助帐套的完整配置清单、科目映射规则模板、4类典型调整分录示例(存货跌价、折旧差异、往来重分类、外币折算)以及税会/IFRS案例分录。重点阐述了主/辅助帐套的配置要点、SLA子分类帐关键配置、科目映射规则(一对一、多对一、重分类等类型)以及调整分录的自动生成逻辑。文档可直接用于项目实施,包含总体架构图、科目映射矩阵表、会计规则集配置等交付物,并附有Excel版模板便于直接使用。适用于需要实现多准则并行记账、税务调

金牌架构师 389

Agent-Reach 实战:让 AI Agent 安全执行命令的工程指南

AI Agent 的核心能力在于理解意图并执行动作,而 CLI 作为最通用的程序化接口,成为连接大模型与真实系统的关键桥梁。其原理是通过命令生成、安全校验与结果回传,让 Agent 具备操作文件系统、调用程序的能力。技术价值在于将重复性命令操作自动化,同时通过白名单、超时和人工确认等机制保障安全。典型应用场景包括日志分析、环境检查与批量文件处理。Agent-Reach 正是这一路径的工程实践,帮助开发者在 Python 环境中搭建可控、可扩展的命令执行链路。

weixin_29029995的博客 311

Hermes 教程 05:多 Agent 编排

本文介绍了Hermes v0.13.0中的四种多Agent协作模式:1)delegate_task快速子任务模式,适合2-3个独立并行任务;2)spawn子Agent模式,实现零成本并行多步流水线;3)tmux交互子Agent模式,支持长期自主任务;4)全新Kanban看板系统,提供持久化AI团队协作框架。各模式在隔离级别、时长、工具访问和适用场景上存在差异,其中spawn模式通过独立上下文窗口实现零上下文成本。文章详细说明了每种模式的使用方法、限制条件和典型应用场景,并提供了具体代码示例和可视化流程图。K

程序猿_三产 539

Maka Agent系统级沙箱如何工作?macOS Seatbelt、Linux bubblewrap与Windows AppContainer全解析

**Maka Agent 的系统级沙箱(AI Agent Sandbox)** 是 Apache Maka(Incubating)这个本地优先 AI Agent 工作区最核心的安全机制:当 Agent 执行 shell 命令、读写文件时,Maka 会自动把命令包装进操作系统的原生沙箱——macOS 用 Seatbelt、Linux 用 bubblewrap、Windows 用 AppContain

gitblog_00463的博客 873

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

数据库 Agent 安全执行:SQL 白名单、审批与只读账号

数据库 Agent 不应拿到可随意写入的高权限连接。解析 SQL、限制语句类型、人工审批高风险动作,并用只读账号执行查询,才能把模型错误限制在可控范围。

iymei4986533030的博客 5162

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件,这是C++版本的破解文件

Agent-Reach 实战:构建安全可落地的命令行执行型 AI Agent

AI Agent 的核心挑战在于从意图理解到实际执行的断层,而命令行界面(CLI)凭借其通用性、可组合性与可追溯性,成为连接智能体与系统操作的关键触达层。通过分层架构设计,将自然语言指令转化为安全的 CLI 命令,并引入命令白名单、参数校验与沙箱隔离等机制,可有效控制执行风险。在工程实践中,任务队列、并发调度与失败隔离策略进一步保障了生产环境的稳定性。Agent-Reach 正是这一思路的典型实现,为开发者提供了从零搭建执行型智能体的完整参考。

weixin_28222493的博客 227

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

RCE Agent: 安全高效的远程命令执行工具

RCE Agent: 安全高效的远程命令执行工具 1. 项目基础介绍与主要编程语言 RCE Agent 是一个基于 gRPC 的远程命令执行(RCE)的开源项目,它旨在提供一个替代传统 SSH 和其他远程执行代码的方法。该项目主要使用 Go 语言开发,以其高效性和安全性获得了广泛的认可。 2. 项目的核心功能 安全性:使用 TLS 加密和认证,确保客户端和服务器之间的通信安全。通过使用私有的证书...

gitblog_00491的博客 374

AI Agent 执行权限安全指南:从工具链隔离到系统级沙盒

随着 AI Agent 从对话工具演进为能直接执行命令、读写文件的操作实体,其权限边界已成为工程安全的核心命题。当模型与外部内容交互时,提示注入等攻击可能诱导 Agent 在宿主机上执行危险操作,因此如何限制其“破坏半径”至关重要。从最基础的目录级隔离——通过 x-cmd 等机制将运行时与依赖装入独立目录,到系统级沙盒——利用 Docker 只读容器或 Firejail 提供一次性、无网络、无特权的执行环境,不同风险等级需要匹配不同强度的防护方案。生产环境中还需结合非 root 用户、能力裁剪、网络白名单与

weixin_30983353的博客 234

Agent安全执行命令:命令分级+Hook+读写锁

先问个问题:你有没有让 AI 帮你跑过命令?我跑过。那次我说"帮我清理一下磁盘",它沉默了三秒,然后开始敲sudo rm。我差点原地升天。很多人以为,让一个能执行命令的 Agent 变安全,就是在 system prompt 里写一句"请勿执行危险命令、请勿访问敏感文件"。这基本等于在你家狗面前放一块红烧肉,然后叮嘱它:"别看,忍住。"狗确实点头了。你转身的功夫,肉没了。为什么这招没用?原因有两层。回到开头那个问题:怎么让一个能执行命令、能写文件的 Agent 不敢乱来?

我是 二川兄,对Web开发、GIS开发、3D模型、机器学习、面试技巧等方面都有一些涉猎~ 欢迎您加入技术交流圈!你可以在我的文章末尾找到我~ 206

搭建一个轻量 Agent Harness——让 AI Agent 安全地执行命令、读写文件

几十行 Python 实现 Agent 安全沙箱:命令白名单、目录隔离、危险操作审批。搭配 LLM 实现安全的自主 Agent。

天风的博客 243

AI Agent Skill Day 9:Shell Command技能:系统命令执行与权限控制

Shell Command技能允许AI Agent根据自然语言指令生成并执行操作系统命令(如lsgreppscurl等),并将执行结果结构化返回供后续决策使用。命令解析:将用户意图映射为合法、安全的shell命令。权限隔离:限制可执行命令范围,防止越权操作。输出捕获:标准化stdout/stderr的返回格式。超时控制:避免长时间阻塞或资源耗尽。环境沙箱:在受限环境中运行命令(如Docker容器、chroot jail)。该技能的功能边界明确限定于只读或有限写入操作,禁止执行高危命令(如。

在未来等你的专栏 916
上一篇: Tokio 取消任务:异步代码不能只会 spawn
下一篇: Rust 错误处理分层:库代码别急着打印日志
第一程序员
博客等级 码龄1年 1万+粉丝 1822原创
评论 14
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值