AI 驱动的命令行工具开发与智能 Agent 构建:权限边界应该划在哪里
Agent 最安全的默认权限是只读。它可以分析用户显式提供的文本和已选文件,输出命令建议或 diff;真正执行、写文件、访问网络都应由用户单独确认。
输入范围要显示出来,不能偷偷扫描整个目录。输出如果包含 shell 命令,先解释影响的文件和副作用。人工审阅 diff、运行 cargo test 后再接受。对话和审计记录只保留必要元数据,避免保存源文件正文、密钥、个人路径和终端历史。
权限设计不是让工具显得谨慎,而是在工具判断错误时给人留下刹车。
1746



被折叠的 条评论
为什么被折叠?



