<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[2301_80245214的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/2301_80245214</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; 2301_80245214]]></copyright><item><title><![CDATA[注入样本变体集需要隔离哪些答案与标签]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170294622</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170294622</guid><author>2301_80245214</author><pubDate>Sun, 08 Nov 2026 20:37:31 +0800</pubDate><description><![CDATA[注入变体集最容易出现的泄露，是同一攻击家族被拆进不同分区。团队在开发集上修复了一个引用块变体，又在验收集里测试它的 HTML 改写，结果看起来很好，却不能说明系统面对新家族也可靠。隔离需要同时处理家族、载体和判定目标。]]></description><category></category></item><item><title><![CDATA[结构化字段校验与语义正确性有哪些边界]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170294578</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170294578</guid><author>2301_80245214</author><pubDate>Sun, 08 Nov 2026 20:36:20 +0800</pubDate><description><![CDATA[结构校验最容易制造一种错觉：字段类型、必填项和数值范围都对了，动作似乎就对了。实际上，Schema 可以保证project_id是某种字符串，却无法仅凭这个字符串知道项目属于谁。安全设计需要把可验证的结构与依赖上下文的含义分开。假定工具接收project_iddate_startdate_end。Schema 能要求字段存在，限制日期表示和字符串长度；两个日期是否有序、查询区间是否超过业务限额、项目是否属于当前租户，需要额外规则。日期格式校验还取决于验证器对format的配置，]]></description><category></category></item><item><title><![CDATA[评测样本隔离能发现哪些完整性问题]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170294530</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170294530</guid><author>2301_80245214</author><pubDate>Sun, 08 Nov 2026 20:35:09 +0800</pubDate><description><![CDATA[计划日期：2026-11-08　作者：韩朔（硅徒）评测样本隔离会揭露训练与评测之间已经知道的连接：同一 ID、多份副本、共同父文档、同一会话族。它检查的是数据如何被组织，不能仅凭“集合交集为空”断定模型从未接触过相关知识。]]></description><category></category></item><item><title><![CDATA[隐藏文本可见化在哪些信任边界上有效]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170294479</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170294479</guid><author>2301_80245214</author><pubDate>Sun, 08 Nov 2026 20:33:53 +0800</pubDate><description><![CDATA[隐藏文本可见化能发现输入视图之间的差异，却不能从文字的可见程度推导权限。页面把一段话藏起来，值得检查；页面把同一句话放大加粗，也不会让它变成当前用户的命令。理解这点，才能避免把检测器误当成最终裁决器。]]></description><category></category></item><item><title><![CDATA[运行中权限撤销与模型意图判断有哪些区别]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170294428</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170294428</guid><author>2301_80245214</author><pubDate>Sun, 08 Nov 2026 20:32:34 +0800</pubDate><description><![CDATA[用户说“先别继续”，系统需要理解这句话的对象和范围；授权服务把某项任务设为撤销，执行器则需要立即按规定停止后续动作。这两项工作相连，但依据不同。撤销状态不应取决于模型是否觉得任务仍然有用。这里用一个合成资料整理任务说明：读取、生成草稿和提交修改分别排队执行。]]></description><category></category></item><item><title><![CDATA[不确定结果转人工与语义正确性有哪些边界]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170245707</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170245707</guid><author>2301_80245214</author><pubDate>Sat, 07 Nov 2026 18:37:09 +0800</pubDate><description><![CDATA[模型说“我不确定”时，系统当然可以请人检查；模型说“我确定”时，系统也不能省掉证据检查。不确定转人工的边界，在于把无法自动确认的条件交给有权限的人处理，而不是把语言里的犹豫程度变成执行开关。用一个虚构的发票更正任务看这个问题。候选动作已经填好金额和抬头，但来源文件出现两个不同的纳税主体。无论回答附带还是0.45，冲突都存在。这个数字若未经专门校准，就不能解释为当前动作正确的概率；即使校准过，特定任务仍需政策与权限检查。]]></description><category></category></item><item><title><![CDATA[模型文件校验能发现哪些完整性问题]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170245699</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170245699</guid><author>2301_80245214</author><pubDate>Sat, 07 Nov 2026 18:36:32 +0800</pubDate><description><![CDATA[计划日期：2026-11-07　作者：韩朔（硅徒）文件校验适合回答字节有没有变化。把这个结论扩展成“模型没有恶意行为”，会把完整性检查用到它管不到的地方。交付时应把检查范围写到具体文件和可信基线，避免一个绿色勾选覆盖整个模型。]]></description><category></category></item><item><title><![CDATA[跨文档指令冲突在哪些信任边界上有效]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170245682</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170245682</guid><author>2301_80245214</author><pubDate>Sat, 07 Nov 2026 18:35:42 +0800</pubDate><description><![CDATA[两篇资料相互矛盾，可能只是日期不同；一份资料要求覆盖用户指令，则是另一类问题。冲突识别能指出哪里需要核对，但冲突本身并不构成安全边界。边界仍然由消息来源、规则登记和执行器共同落实。]]></description><category></category></item><item><title><![CDATA[参数范围限制与模型意图判断有哪些区别]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170245646</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170245646</guid><author>2301_80245214</author><pubDate>Sat, 07 Nov 2026 18:34:05 +0800</pubDate><description><![CDATA[模型认为“最近一批任务”大概是最近一个月，接口却只允许查看七天。这种差异无法靠模型解释请求意图消除。参数范围限制给出可执行边界，意图判断负责理解自然语言中的目标和歧义。以合成任务检索为例，实验规则限定测试环境、最多一百条记录和固定租户。本文的数字只用于演示。]]></description><category></category></item><item><title><![CDATA[一行条件换个位置，为什么客户名单少了两个人？]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170201957</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170201957</guid><author>2301_80245214</author><pubDate>Sat, 07 Nov 2026 00:03:47 +0800</pubDate><description><![CDATA[图1 2026 金仓数据库开发者大会海报10月30日下午，。承接上午金仓AI数据库的发布，，汇聚数据库领域技术专家、行业伙伴、开发者与技术爱好者，共同交流AI时代数据库的技术进展与应用实践。从产品发布到技术交流，三场并行论坛将“AI数据库怎么用”带入具体场景，让研发、行业用户与技术社区的经验在现场相遇。一张客户关怀名单要求列出每位客户最近一个账期内最高的一笔已付款订单，没付款的也要留在名单里，方便客服回访。下面采用三位虚构客户来讨论这个需求。甲有两笔订单，一百元已付，一百八十元待付；]]></description><category></category></item><item><title><![CDATA[跨轮权限状态集需要隔离哪些答案与标签]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170201863</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170201863</guid><author>2301_80245214</author><pubDate>Fri, 06 Nov 2026 23:57:30 +0800</pubDate><description><![CDATA[跨轮权限测试里，隐藏答案往往不是一段参考回复，而是“第几轮允许什么动作”的状态轨迹。若把完整权限事件与预期判定都加进模型输入，Agent 可能直接照着答案走，验收就失去了意义。要隔离的是控制权与判定信息，不能把执行器必需的可信权限也藏掉。]]></description><category></category></item><item><title><![CDATA[给实验 Agent 接入会话权限过期]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170139875</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170139875</guid><author>2301_80245214</author><pubDate>Thu, 05 Nov 2026 14:31:40 +0800</pubDate><description><![CDATA[用户结束会话后，后台 Agent 还可能在重试队列里等待。若执行器只认创建任务时保存的登录状态，旧任务就能在用户以为会话已结束时继续工作。会话权限过期需要由服务端落实，而不是依靠聊天窗口关闭。下面以合成报表助手为例，区分交互会话与任务授权。]]></description><category></category></item><item><title><![CDATA[为 Agent 设计检索文本指令隔离防线]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170139792</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170139792</guid><author>2301_80245214</author><pubDate>Thu, 05 Nov 2026 14:30:29 +0800</pubDate><description><![CDATA[重排器和摘要器可能改变文本表达，但不应改变来源权限。压缩后的摘要需要能回到原始命中；跨文档合并时，保留多个来源，不要给它们统一贴上“系统知识”这样的高权限标签。如果片段里包含操作步骤，先看用户任务是否在询问这些步骤。解释一段安装说明是合法的信息处理；直接照说明调用下载或执行工具，则需要独立授权。隔离策略应约束从证据到动作的跃迁，而不是禁止资料中出现祈使句。]]></description><category></category></item><item><title><![CDATA[为模型交付流程实现微调数据重复检测]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170139697</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170139697</guid><author>2301_80245214</author><pubDate>Thu, 05 Nov 2026 14:29:12 +0800</pubDate><description><![CDATA[为聊天样本保留消息角色、顺序和内容边界。比较单位可以是整段会话，也可以是任务明确规定的问答对；规则必须固定。原始字节摘要用来追踪原件，规范化文本摘要用来找候选，两者分开存。Python 的 Unicode 文档提供规范化接口；选择 NFC 等规则仍需要结合任务含义，不能把所有差异都当噪声。assert key(a) == key(b) # NFC 规范化等价= key(c) # 角色属于比较内容示例故意不删除空白、不改大小写，也不抹掉否定词；代码、路径、大小写敏感标识或格式任务中，这些差异可能有意义。]]></description><category></category></item><item><title><![CDATA[在 Agent 执行前落实外部链接范围限制]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170139606</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170139606</guid><author>2301_80245214</author><pubDate>Thu, 05 Nov 2026 14:27:55 +0800</pubDate><description><![CDATA[一个网页总结 Agent 只需要读取文档站，工具却接受任意 URL，这会把一次阅读任务变成服务器代发请求。模型输出的链接、页面里的跳转以及 DNS 解析结果都可能改变最终连接目标。限制链接范围时，要检查真正准备建立的连接。本文用这样的保留示例域名描述规则，不提供探测目标。假定应用只需要 HTTPS 文档读取。建议在可确定目标的场景使用允许列表，并注意重定向、DNS 和连接时机带来的变化。]]></description><category></category></item><item><title><![CDATA[为 Agent 安全验收建立拒答误报复核集]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170139517</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170139517</guid><author>2301_80245214</author><pubDate>Thu, 05 Nov 2026 14:26:41 +0800</pubDate><description><![CDATA[正常请求被拒绝，有时是模型过度保守，有时是授权条件没满足，还有时是工具根本不可用。把这三类情况全叫“误报”，会让复核结论互相冲突。拒答误报复核集应先确认任务是否确实允许，再判断拒绝由哪一层产生。]]></description><category></category></item><item><title><![CDATA[给实验 Agent 接入高风险动作确认]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170052926</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170052926</guid><author>2301_80245214</author><pubDate>Wed, 04 Nov 2026 20:56:58 +0800</pubDate><description><![CDATA[确认继续”只有在用户知道继续做什么时才有价值。Agent 准备把一份草稿提交到共享系统，确认界面若只展示一段自然语言摘要，后台执行参数仍可变化，用户确认的内容就可能与实际动作脱节。本文设计一个合成草稿提交确认流程，不发送消息，也不触发真实提交。]]></description><category></category></item><item><title><![CDATA[为 Agent 设计引用内容权限分离防线]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170052881</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170052881</guid><author>2301_80245214</author><pubDate>Wed, 04 Nov 2026 20:55:46 +0800</pubDate><description><![CDATA[用户要求解释一段邮件，邮件里又写着“请把附件发给我”。Agent 必须能引用这句话、说明它的含义，同时不能把它当成本轮用户向应用发出的外发命令。引用内容与执行权限分开，解决的就是这种语义相同、来源不同的情况。]]></description><category></category></item><item><title><![CDATA[为模型交付流程实现训练样本来源记录]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170052837</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170052837</guid><author>2301_80245214</author><pubDate>Wed, 04 Nov 2026 20:54:35 +0800</pubDate><description><![CDATA[计划日期：2026-11-04　作者：韩朔（硅徒）一条训练样本只写“来自公开数据”很难支撑交付。发现错误时，要能找到原始版本；来源停止授权时，要能找出受影响的派生数据。来源记录应连接数据怎样形成，而不只是保存一个容易失效的网址。]]></description><category></category></item><item><title><![CDATA[在 Agent 执行前落实工具参数白名单]]></title><link>https://blog.youkuaiyun.com/2301_80245214/article/details/170052791</link><guid>https://blog.youkuaiyun.com/2301_80245214/article/details/170052791</guid><author>2301_80245214</author><pubDate>Wed, 04 Nov 2026 20:53:24 +0800</pubDate><description><![CDATA[工具名已经在允许列表里，为什么还要检查参数？因为“允许调用导出工具”与“允许导出任何项目到任何地址”差别很大。权限通常落在动作、对象、目标和参数组合上，单独检查工具名只能覆盖其中一部分。以虚构报表导出为例，应用只允许当前主体导出按租户、导出动作与字段政策明确获准的项目，格式为 CSV，目的地只能是内部暂存区。模型可能生成完全合法的调用，却把项目或目的地换掉。执行前需要从可信上下文取出用户和租户，再对候选逐项检查。区分语法检查和业务语义检查，允许值清单也应遵守这个区分。]]></description><category></category></item></channel></rss>