命令行智能工具:先定输入边界再接模型能力

【AI面试准备】语言模型、语音、多模态等模型能力评估指标和能力边界 面试岗位提出这个要求:掌握语言模型、语音、多模态等模型能力评估指标和能力边界。 阅读详情

命令行智能工具:先定输入边界再接模型能力

把命令的输入当成不可信数据

这个工具的第一版不递归扫描目录,也不接受 URL,更不跟随 Markdown 里的本地链接。参数解析后先转成规范路径,再确认它仍在允许的工作目录中;符号链接、过大的文件和二进制内容都直接拒绝。这样做听起来保守,但命令行工具一旦默认“顺手帮忙找文件”,实际使用时就很容易读到调用者没打算交出的内容。

标题提取也不该靠一条宽松的正则结束。空标题、代码围栏里的 ##、引用块里的示例都要排除。解析器返回的是标题文本、行号和层级,不直接返回改写后的文件内容。模型只看到这些已经裁剪过的结构化字段,不能从提示词中获得原始文档的其余部分。模型返回结果先按 JSON schema 校验:字段未知、建议索引越界、置信说明为空,都当作无效建议处理。

让写入动作足够显眼

--dry-run 的输出应列出每一项候选合并:原来的两条标题、预计保留哪一条、修改所在行。用户若要写回,必须显式传 --write,并且工具在落盘前再检查文件的修改时间;文件在预览后被其他程序改过,就停止而不是覆盖。写入时采用临时文件加原子替换,失败不会留下半截 Markdown。

我还会把退出码约定写清楚:参数或权限问题是一类,解析失败是一类,模型不可用则单独返回一个可识别的状态。调用脚本据此决定重试还是提示用户,不需要从自然语言错误里猜意思。日志只记录命令版本、输入字节数、规则命中数和请求结果,不记录标题正文。

用小样例维护行为

样例不需要很多,但要覆盖会误伤的情况:两个相邻的同名标题、标题中带反引号、引用中的假标题、未闭合代码围栏,以及只读文件。每次修改解析逻辑,先比较这些样例的预期输出。发现模型建议变得飘忽时,也先检查传给模型的候选列表是否变化,而不是马上调整提示词。

这个边界让工具的能力很有限:它不能替人判断一篇文章的结构是否合理。不过它能稳定完成“找出可能重复的二级标题,并把决定交给用户”这一件事。对于刚接入模型的命令行工具,这样的限制比看似聪明的自动改写更容易维护。

我先把需求写成一条可验收的命令,而不是让 Agent 直接“做完功能”。这次练习的目标是:输入一个公开的 Markdown 文件,输出其中的二级标题;模型只负责建议标题是否需要合并。

产品侧给出两类样例:重复标题和正常标题。研发侧把输入大小、允许读取的目录、模型输出 JSON 格式写进 README。命令先跑本地规则,再把候选项交给模型:

tool outline demo.md --dry-run

我会人工核对 --dry-run 的差异,确认后才允许 --write。模型不能执行 shell,也不能读取命令参数以外的文件。这样讨论不会停在“效果好不好”,而能落到同一份输入和输出上。

模型只评估,不负责发现结构

标题扫描、层级判断和相邻关系应由本地解析器完成。模型拿到的只是两条候选标题、层级和行号,不能自行从正文补出一条“看起来像标题”的内容。候选为空或只有一条时不发请求;返回中出现换行、未知字段或超出候选范围的索引,就丢弃整条建议。这样能减少无效请求,也避免模型输出反过来改变解析器的职责。

建议可以区分“可合并”“疑似重复”和“不处理”。前两类都显示理由,但理由不能直接变成写入指令。两个标题都带“配置”不一定重复:读取配置和热更新配置可能正好需要分开导航。用户在预览里看的是原文 diff,不是模型替他下的结论。

写回前重新核对文件

网络超时或 schema 不通过时,工具仍应输出本地规则找出的候选,并允许 --no-model 离线运行。写回前再读取一次文件并重新解析;若预览后的行号或候选关系变了,就要求重新预览。这样用户确认的是哪两条标题,落盘时改的也仍是那两条,而不是被别人插入内容后偏移的位置。

Agent安全不是单点补丁:输入、能力、状态三条边界 随着 AI Agent 接入工具、记忆与多 Agent 协作,大模型安全从提示词防护扩展为系统工程。其原理在于:自然语言中指令与数据同构,模型难以稳定区分可信指令与外部内容;一旦执行面拥有权限,风险便从文本层溢出到工具调用、数据流与状态存储。技术价值在于把安全拆成可枚举、可观测的边界:输入边界负责提示注入与内容净化,能力边界负责最小权限、沙箱与出网白名单,状态边界负责记忆污染、RAG 索引权限与跨租户隔离。应用在客服、办公自动化、代码代理、企业知识库等场景。输入、能力、状态三条边界各有失效模式,不能互相替代 阅读详情

相关推荐

全国30米分辨率逐年植被覆盖度(FVC)数据集

植被覆盖度是描述地表植被的重要参数与生态环境的基本指标,在大气圈、土壤圈、水圈和生物圈中都占据着重要的地位,区域及全球范围的植被覆盖度估算对植被及相关领域的研究具有重要意义。分别对LANDSAT 5/7/8系列数据计算FVC,其中Landsat5 和Landsat 7NDVI计算利用 B4和B3波段,Landsat8 和Landsat9 NDVI计算利用 B5和B4波段。算法从当年所有观测数据中,以低云、低探测角度和最高NDVI值为标准,选择最佳的可用像元值,并进行换算。(3) FVC的计算。

地球资源数据云的官方博客 1809

WebAssembly AI 插件权限:导出函数之前先定义能力边界

我刚开始觉得"记录日志"是运维的事,和写代码关系不大。直到有一次插件行为异常,我完全不知道它当时读了哪些文件、调了哪些能力,才意识到审计的重要性。/// 审计事件记录/// 发生的 Unix 时间戳/// 发起操作的插件名称/// 调用的能力名称(如 read_file, model_call)/// 能力调用的参数摘要/// 本次调用是否被允许/// 拒绝原因(如果被拒绝)// 记录到文件或 stderr,不要在 stdout 输出以免干扰用户eprintln!}",

no1coder的博客 3416

Changer: Feature Interaction Is What You Need forChange Detection

还有“交换“交互是一种完全不需要参数和计算的操作,它是通过交换空间或通道维度上的双时态特征映射来实现的,交换的特征在经过后续的卷积或令牌混合时进行混合。方法二:提出了两种简单的交互策略,AD和特征“交换”,大量的实验表明,它们可以极大地提高MetaChanger的性能,特别是特征“交换”,即使嵌入到复杂的网络中或应用于具有挑战性的数据集。在这里,我们用虚线勾勒本文的重点。这是变化检测任务的基本问题,双时相图像提供了同一地区在不同时间点的图像数据,通过对比这两个时间点的图像,我们可以检测出该地区的变化。

yokon的博客 1625

探索模型能力的边界

使用CompassArena中来探索模型的能力边界

天黑请闭眼~缓解下眼睛疲劳 1359

保姆级教程:用AD20破解版从安装到汉化,一次搞定PCB设计环境搭建

本文提供AD20从安装到汉化的保姆级教程,详细解析环境配置、核心功能及高效操作技巧,帮助电子设计工程师快速掌握PCB设计工具。涵盖系统准备、界面定制、原理图设计、PCB布局布线等关键步骤,特别适合初学者避开常见陷阱。

weixin_30555125的博客 220

别再花屏了!手把手教你用STM32CubeIDE搞定LVGL 8.3移植(附完整源码)

本文详细介绍了如何在STM32CubeIDE环境下成功移植LVGL 8.3,解决常见的花屏问题。从环境配置、显示驱动优化到编译警告处理,提供完整的实战方案和源码示例,帮助开发者快速实现流畅的嵌入式GUI界面。特别针对STM32平台的DMA2D加速和内存管理进行了深度优化。

weixin_33739646的博客 244

让命令行智能工具先学会旁观

我会给这类工具再留几条反例:输入为空、外部依赖拒绝、重复执行和中途取消。断言不仅检查 Result,也检查状态是否被提前修改、临时文件是否清理。这样失败时可以直接判断是契约改变,还是某条收尾分支漏掉了。错误信息也要指向用户能处理的位置。说明哪个参数或文件有问题,保留必要的底层上下文,不把一长串内部调用栈当作提示。可预测的失败路径比“尽量自动修复”更适合小工具。我会把 dry-run 的输出做得像一份待执行清单:读了哪些文件、识别出哪些对象、每一步原本会调用什么。

no1coder的博客 5143

前端埋点的实践

1、前言 开始正文前先介绍一下埋点的概念~,(熟悉的朋友可以略过) 前端埋点: 是一种手段,它的目的是上报相关行为数据,相关人员以数据为依据来分析产品在用户端的使用情况,根据分析出来的结果辅助产品优化、迭代。 BI:商业智能,公司内部做数据分析相关的部门。 2、背景 在流量红利逐渐消失的现在,数据的采集、分析和精细化的运营显得更加重要,所以埋点的需求在互联网产品中是很常见的,目的上面也提到了。我们的追求就是又快又好的做好埋点工作,但是现实却不那么美好;目前我们团队在前端埋点方面存在一些痛点: 在构造埋点字段

Arui_0的博客 1773

智能工具时代的工程能力

顾时安处理研发工具里的“智能工具时代的工程能力”时,通常不会先讨论工具多不多,而是先把任务压到一个具体场景:谁在什么条件下发起操作,系统需要留下什么结果,哪一步出错必须停止。只要这个场景还说不清,后面的架构图和参数表就很容易变成装饰。跨角色协作里最容易丢的是交接信息。谁提供输入、谁对结果负责、问题应该回到哪里,都需要在接口或任务描述中写明。把责任拆清不等于增加流程,而是避免一个异常在群里被反复转发。当需求改变时,先更新约束和验收点,再改实现。

2401_83508463的博客 3576

如何用DETR(detection transformer)训练自己的数据集

DETR(detection transformer)简介 DETR是Facebook AI的研究者提出的Transformer的视觉版本,是CNN和transformer的融合,实现了端到端的预测,主要用于目标检测和全景分割。 DETR的Github地址:link

weixin_50233398的博客 3万+

七天征服AutoSAR/SomeIP_04理解SoAD_LdCom_SD模块

本文深入解析了AUTOSAR平台下SOME/IP协议栈的架构设计与模块交互逻辑。重点剖析了SD模块(服务发现)和LdCom模块(通信适配层)与SoAD(Socket适配层)之间的复杂关联关系。文章通过详细配置表格和代码示例,阐述了服务注册发现机制、PDU路由控制策略、数据收发流程等核心功能,并形象地将三模块关系类比为"三极管结构"。特别强调了SD模块通过RoutingGroup实现通信路径的动态开关控制,以及LdCom模块在协议栈中的透传转发作用,帮助开发者理解配置规则背后的底层原理,提

大叔带刺的博客 204

【AI面试准备】掌握语言模型、语音、多模态等模型能力评估指标和能力边界

面试要求:掌握语言模型、语音、多模态等模型能力评估指标和能力边界。

u011537504的博客 1392

ERROR conda.core.link:_execute(502): error occurred while installing conda-forge::setuptools 解决方案

本文主要介绍了ERROR conda.core.link:_execute(502): An error occurred while installing package mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge::setuptools-65.5.1-pyhd8ed1ab_0.FileNotFoundError(2, 系统找不到指定的文件。, None, 2) 解决方案,希望能对新手有所帮助。 文章目录 1. 问题描述 2. 解决方案

weixin_43178406的博客 8万+

【AI Agent基础 | 第一篇】AI模型的能力边界与分类

AI模型能力边界与分类学习心得 本文分享了关于AI模型分类及能力边界的学习体会。文章指出,AI产品看似全能的表现实际是多种模型协同工作的结果,而非单一模型的能力。重点分析了三类主流AI模型:大语言模型(LLM)擅长文本理解与生成,多模态模型突破文本局限处理多种内容形式,向量模型则专注于语义关联分析。这三类模型各司其职,共同支撑起AI产品的多样化功能。最后提出模型协同与任务决策需要更高层级的Agent来实现,为后续学习埋下伏笔。文章以通俗易懂的方式帮助初学者建立对AI模型的正确认知框架。

h52412224的博客 3014

WINCC7.3破解文件

WINCC7.3硬件够破解文件,有需要的下载!WINCC7.3硬件够破解文件,有需要的下载!

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Spring AI 接入实践:先封装边界,再替换模型

A[业务服务] --> B[AI 应用服务]B --> C[模型调用接口]C --> D[供应商适配器]D --> E[模型 API]业务服务只关心任务语义,比如摘要、分类、问答,不关心具体模型名和供应商参数。接口按任务定义,比按模型 API 定义更稳定。Spring AI 接入时,先把模型调用封装成任务级边界,再用适配器处理供应商差异,并统一治理路由、审计、限流和评测。模型可以换,业务语义不能乱。边界封装好,后端系统才有长期演进空间。

alex_goden的博客 4772

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

普通人学AI:大模型的能力边界在哪里?

从技术的方向来说,大模型能够进行自然语言处理(NLP),计算机视觉处理(CV)。而从应用的角度来说,目前大模型主要应用于对话(问答)类,内容生成——包括文字,图片,视频等;以及代码开发和智能体(AI Agent)。但具体大模型能做什么,目前为止大多数企业都处于探索阶段,没有一个统一的定论。

2301_81888214的博客 1537

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

给命令行 Agent 做测试集,我先写清工具边界

我给命令行助手做练习时,不会先凑题量,而是先把边界写清楚。每条样本只留任务描述、允许调用的工具、预期结果和是否应该拒绝;真实路径、账号和命令历史都不用。涉及文件时,临时目录加虚构文件名就够了。

no1coder的博客 3270

AI 驱动的命令行工具开发与智能 Agent 构建:先收紧输入、状态与退出边界

我刚开始做 Rust 命令行工具时,总想把检索、规划、自动执行都塞进第一版。后来发现,连一条报错能不能被稳定解释清楚都还没验证,功能越多越难查问题。我现在给第一版留一个小闭环:用户主动粘贴一段已经脱敏的编译错误;工具只把这段文本和固定问题模板交给模型;模型只返回建议的下一步和原因;最后由人确认是否执行本地命令。它不读取整个仓库,不自动修改文件,也不把日志上传到模型以外的地方。

no1coder的博客 2151

大模型的智力之源与能力边界:揭秘 AI 的工作原理与应用边界

大模型是强大的工具,但并非 “万能神”。它的 “智能” 是对人类语言规律的统计模拟,优势在于高效处理重复性文字任务,局限在于依赖概率生成答案。作为使用者,我们需要:了解其工作原理,不高估也不低估;利用其擅长的领域(如写作、辅助编程),避开其短板(如精确计算);结合业务场景选择合适模型,通过提示词工程和工具链提升效果。在 AI 快速发展的时代,真正的竞争力不是 “使用 AI”,而是 “理解 AI 并让它为我所用”。

轻描时光 1286

模型候选路由的边界怎么定:先判断要不要再调用一个模型

一个工单请求进来,系统先问模型:“这件事应该交给哪个模型?”拿到答案,再发第二个请求处理正文。这条链路容易画,也容易不加区分地用到所有任务上。但如果当前只剩一个合格候选,前面的选择器还能决定什么?如果业务入口已经明确写着“提取固定字段”,又为什么要让模型重新猜任务类别?预算配置里通常能看到执行模型的费用,选择器这次请求却容易藏在路由组件后面。本文只讨论这次额外调用是否必要。候选模型的能力、数据地域、权限和任务质量底线,仍由服务端规则先检查。这里的 A、B 都是构造示例中的候选标识,不代表实际产品;

好代码自己会说话,烂代码才需要注释来圆谎 3024

「完整」AI文档库 | 终于等到你,《复旦大学:大语言模型能力来源与边界》

又到了一个星期分享AI相关文档的时候了。AI学习不但需要实践,同时也需要阅读一些相关的文档,来增强理论知识。

u014527622的博客 1100

复旦大学:大模型能力与边界(几十个实验,讲清楚大模型能耐)

现在很多人对大模型能做什么、做不到什么,认知都很碎,尤其在“理解”和“推理”这些任务上,很多表现看上去很强,但真到细节就经不起推敲。复旦这份报告就是专门围绕这个问题写的,研究它的能力到底来自哪里,哪些边界短期内很难突破。

大模型教程的博客 1603

人机的功能与能力边界

人机界面中的功能与能力边界指的是在特定的系统或技术框架下,用户与计算机系统之间交互的界限。这个边界既反映了系统能够执行的任务,也明确了系统无法处理或不适合处理的任务。理解这一边界对设计有效、可用且安全的系统至关重要。1.功能边界功能边界指的是人机系统能够执行或提供的功能和服务的范围。这些功能通常是根据目标用户群体的需求和应用场景来定义的。功能边界的表现:系统能力的上限与下限:系统能够完成的任务有...

人机与认知实验室 1242

《AI大模型应知应会100篇》第3篇:大模型的能力边界:它能做什么,不能做什么

在人工智能飞速发展的今天,大语言模型(LLM)已经成为许多领域的核心技术。然而,尽管它们展现出了惊人的能力,但也有明显的局限性。本文将通过分析大模型的核心能力与实际局限,结合具体案例和实验,帮助读者建立对大模型的合理预期,并探讨未来的发展方向。

yweng18的博客 1537

【AI-33】如何衡量AI模型能力边界

衡量 AI 模型能力边界是一个复杂的过程,需要从多个维度进行综合评估,以下是一些常见的方法和考虑因素:

qq_45611002的博客 1678

探索 InternLM 模型能力边界

在中选择双模型对话,与InternLM2.5及另外任意其他模型对话,收集InternLM2.5 输出结果不如其他模型的对话案例。

GYX67的博客 1118
上一篇: 工作区拆分到什么程度才合适
下一篇: 错误处理设计:先分清可恢复与不可恢复错误
第一程序员
博客等级 码龄1年 1万+粉丝 1827原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值