<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[AI147AI的博客]]></title><description><![CDATA[]]></description><link>https://blog.youkuaiyun.com/AI147AI</link><language>zh-cn</language><generator>https://blog.youkuaiyun.com/</generator><copyright><![CDATA[Copyright &copy; AI147AI]]></copyright><item><title><![CDATA[中期训练和强化学习各做什么？读懂SWE-2 Flash的训练过程]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/170198154</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/170198154</guid><author>AI147AI</author><pubDate>Fri, 06 Nov 2026 18:04:04 +0800</pubDate><description><![CDATA[文章解析Cognition发布SWE-2 Flash的训练流程，强调区分“中期训练”与“强化学习”两个阶段：前者优化数据组合与训练顺序，提升模型对知识的吸收效率；后者通过任务多样性与反馈机制改进行为表现。指出不能仅凭最终成绩倒推各阶段贡献，因缺乏独立对照实验。提醒读者注意参数概念混淆、权重未公开、评测结果依赖整体方案等问题，倡导理性解读模型进展，避免因果误判。]]></description><category></category></item><item><title><![CDATA[模型训练分数很高，为什么学到的却是捷径？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/170198143</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/170198143</guid><author>AI147AI</author><pubDate>Fri, 06 Nov 2026 18:03:10 +0800</pubDate><description><![CDATA[模型在训练中可能依赖捷径（如胸腔引流管）而非真实病变，导致实际应用时失效。研究揭示：高准确率不等于正确推理，需检验模型使用何种线索。通过机制分析与约束训练（如reliance/expression shaping），可减少对错误线索的依赖，但需多指标评估任务能力与副作用。数据筛选不足或测试集未打破捷径，仍可能导致误判。关键在于：分数提升后，应追问“模型如何达成”，并验证其行为路径是否合规。]]></description><category></category></item><item><title><![CDATA[为什么安全评测里的模型表现，和实际使用时不一样？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/170050695</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/170050695</guid><author>AI147AI</author><pubDate>Wed, 04 Nov 2026 18:05:25 +0800</pubDate><description><![CDATA[模型评测分数不能直接预示上线表现，因评测与真实场景在任务理解、约束处理和测试条件上存在差异。OpenAI研究发现，模型在生产环境中的安全成功率比评测高出10.2至37.4个百分点，源于评测定义狭窄、上下文理解偏差及测试目标误判。评测成功不等于业务完成，且模型行为受提示目标影响显著。训练验证需控制变量、区分数据来源、分析失败原因，并在真实环境中持续验证，避免将“分数提升”误认为能力增强。]]></description><category></category></item><item><title><![CDATA[改提示词、加Skill和后训练，到底有什么区别？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/170050682</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/170050682</guid><author>AI147AI</author><pubDate>Wed, 04 Nov 2026 18:04:45 +0800</pubDate><description><![CDATA[给AI增加一份Skill文件以后，它更会按要求做事，这算把模型训练好了吗？判断的第一步，是看有没有更新模型参数。提示词和Skill通常改变本次执行所能看到的指令、资料和流程。模型据此产生不同回答，但它的权重可以完全没有变化。后训练则是在已有模型的基础上，通过训练过程继续更新参数。11月3日，OpenHands介绍了与Snowflake配合开展代理后训练的方案。这个案例恰好把几件容易混淆的事情放在同一个工作流里，可以用来说明，配置代理、采集执行过程和训练模型各自做了什么。]]></description><category></category></item><item><title><![CDATA[第一次微调，学习率、批大小和训练轮次到底控制什么？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/169949152</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/169949152</guid><author>AI147AI</author><pubDate>Tue, 03 Nov 2026 18:05:11 +0800</pubDate><description><![CDATA[初次微调常误将学习率、批大小与轮次当作可照搬的“标准参数”。实则三者相互影响：学习率决定更新幅度，批大小通过梯度累积影响有效样本量，轮次则反映数据重复使用程度。有效批量、更新次数与处理token数才是关键指标。应固定模型、数据与评估方式，系统记录实际训练条件，结合验证表现与任务目标判断效果。训练损失下降不等于任务提升，需警惕过拟合与能力退化。真正有效的微调，是基于可解释的实验设计，而非盲目填参。]]></description><category></category></item><item><title><![CDATA[大模型之外再训练一个小模型：读懂OpenAI的激活分类器]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/169949135</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/169949135</guid><author>AI147AI</author><pubDate>Tue, 03 Nov 2026 18:04:37 +0800</pubDate><description><![CDATA[本文介绍OpenAI在GPT-5.6中引入的“激活分类器”（probe）技术，通过分析大模型内部激活信号实现风险内容实时检测。该方法不需重训练大模型，而是基于中间层特征训练轻量分类器，结合标签定义、数据隔离与独立评估，构建可复现的安全防御链路。强调标签质量、数据分组、阈值权衡与版本维护的重要性，提醒入门者：真正的训练在于清晰的任务设计与系统化流程，而非盲目复现。]]></description><category></category></item><item><title><![CDATA[模型训练完，怎样判断它真的学会了？从Figma公开的评测方法讲起]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/169846544</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/169846544</guid><author>AI147AI</author><pubDate>Mon, 02 Nov 2026 17:53:20 +0800</pubDate><description><![CDATA[训练模型不能仅凭loss下降或输出更“像样”就交付。应拆解“看起来不错”的模糊评价，聚焦目标任务是否真正完成：检查结构可解析性、请求履行度、内容保留、布局影响等维度，设计具体评估卡，区分“改对了”与“没改错”。测试集需覆盖普通题与高难度场景，保留回归题，避免掩盖退化。比较训练前后须保持条件一致，综合评估成功率、重试次数、人工修正与成本。核心是：先定义“完成”，再逐项验证，而非依赖单一指标或照搬他人案例。]]></description><category></category></item><item><title><![CDATA[第一次做模型微调，怎样把一份资料整理成合格的训练样本？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/169846441</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/169846441</guid><author>AI147AI</author><pubDate>Mon, 02 Nov 2026 17:50:17 +0800</pubDate><description><![CDATA[手上有一份文档，能不能直接拿去微调？技术上可能存在可接收整段文字的训练方式，但如果你的目标是让模型按要求回答问题，一份文档通常还不等于一组能教会目标行为的样本。资料记录的是知识和规则，训练样本还要展示：用户给出什么条件，模型应该依据什么，输出怎样的答案，缺少信息时又该怎么办。准备数据的第一步，是把这几个问题说清楚。Hugging Face的TRL文档说明，SFT Trainer支持语言建模与提示—补全等任务形式，也支持纯文本和结构化对话格式。]]></description><category></category></item><item><title><![CDATA[从漏洞线索到修复验证：安全模型训练数据如何留证]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/169461994</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/169461994</guid><author>AI147AI</author><pubDate>Thu, 29 Oct 2026 17:43:49 +0800</pubDate><description><![CDATA[安全任务训练数据不应仅保留“一问一答”的结论，而需构建四层可追溯记录：任务上下文、原始材料、生成过程与验证结果。证据链缺失时应标记“信息不足”，失败样本也应保留以训练模型识别边界。脱敏需保护数据关系，避免误删关键上下文。最终数据须通过五项验收：证据可查、授权合规、修复匹配、数据隔离、可回溯。唯有如此，模型才能真正学会在证据充分时判断，在不确定时停步。]]></description><category></category></item><item><title><![CDATA[AI发现漏洞以后，如何把一次成功变成可复现的安全测试流程？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/169461985</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/169461985</guid><author>AI147AI</author><pubDate>Thu, 29 Oct 2026 17:43:03 +0800</pubDate><description><![CDATA[AI在安全研究中可有效辅助漏洞发现，如OpenAI与NASK合作揭示MikroTik漏洞。但其价值不在于直接“自动攻破”，而在于构建可落地的五阶段流程：线索、待复现、已确认、已修复、已验证。需固定评测条件、隔离复现环境、严格区分状态证据，避免模型越权或误报。评分应关注误报率、关键遗漏与人工介入次数。唯有通过授权、隔离、复现、验证等环节的闭环流程，才能实现安全自动化可控落地，真正降低风险。]]></description><category></category></item><item><title><![CDATA[模型训练完为什么还要做评测？从真实工作任务看模型验收]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/169265197</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/169265197</guid><author>AI147AI</author><pubDate>Tue, 27 Oct 2026 17:32:39 +0800</pubDate><description><![CDATA[模型榜单高分不代表可直接交付，真实任务需人工检查。Epoch AI评测显示，即使顶级模型在实际工作中仅完成约65%的评分条目。原因在于真实任务隐含要求多，如信息密度、风格一致性、工具调用等，且评测设置本身可能影响结果。训练与评测应分离，避免过拟合。初学者应建立验收流程：明确定义标准、使用多样化样本、保留独立测试集、拆解失败原因。蒸馏也需警惕“模仿表面”而非“掌握能力”。最终，关键不是分数，而是模型能否在新任务中按标准可靠完成工作。]]></description><category></category></item><item><title><![CDATA[从“删掉数据”到“学回来”：预训练数据过滤到底改变了什么？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/169265187</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/169265187</guid><author>AI147AI</author><pubDate>Tue, 27 Oct 2026 17:32:08 +0800</pubDate><description><![CDATA[英国AI安全研究所（AISI）实验表明，过滤预训练数据可削弱模型在特定领域（如病毒蛋白）的能力，但该能力可通过后续微调恢复，说明“删除训练数据”并非真正“遗忘”。模型能力依赖参数与数据模式的共同作用，而非单一数据条目。研究强调：数据治理需贯穿预训练、后训练与访问控制；评估应区分目标与保留能力；必须记录数据版本与过滤规则，并测试恢复可能性。这提醒我们，真正的“忘记”需综合多维度验证，而非仅看训练集删减。]]></description><category></category></item><item><title><![CDATA[AI找到漏洞，模型就学会安全研究了吗？先把蒸馏验收拆开]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/168770868</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/168770868</guid><author>AI147AI</author><pubDate>Thu, 22 Oct 2026 17:57:15 +0800</pubDate><description><![CDATA[PHP 10月21日修复两个严重远程代码执行漏洞，凸显安全研究的复杂性。对模型蒸馏而言，关键在于将“发现能力”拆解为可验证的子任务：线索定位、复现检验、影响评估与修复建议。需设计分项评分机制，控制工具与环境条件，避免结果归因偏差。测试集应包含未公开样本与误报案例，确保泛化性。评分须基于证据而非表述气势，强调独立验证与多次运行可靠性。最终结论应具体、可证伪，明确学生在特定条件下表现如何，而非宣称具备专家能力。]]></description><category></category></item><item><title><![CDATA[安全蒸馏数据怎么留证据：从教师版本到修复验证]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/168770846</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/168770846</guid><author>AI147AI</author><pubDate>Thu, 22 Oct 2026 17:56:25 +0800</pubDate><description><![CDATA[安全数据训练需超越简单问答，保留版本、环境、验证状态等证据链。建议分设输入、原始材料、教师输出与核验标签四类对象，确保判断可追溯。关键在于标记“信息不足”而非补全结论，区分修复各阶段状态，避免证据缺口。脱敏须谨慎，防止破坏上下文。高风险字段应强化核验，避免样本污染。数据版本与关联记录支持错误溯源，保障模型可修正性。]]></description><category></category></item><item><title><![CDATA[网页隐藏指令如何混入蒸馏样本？教师数据的溯源与对照检查]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/168659056</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/168659056</guid><author>AI147AI</author><pubDate>Wed, 21 Oct 2026 17:43:46 +0800</pubDate><description><![CDATA[一条教师回答看起来事实正确，仍可能不适合进入学生模型的训练集。原因不一定是它编造了什么，也可能是它服从了网页作者写给另一个机器人的限制，漏掉了用户真正需要的信息。Redact在北京时间10月20日发布调查，称其此前检查的545个WhatsApp帮助页面中，80页包含隐藏AI文本，共102块。大部分是普通说明，争议集中在不推荐数据保护监管机构，以及用户提到律师或法律行动后不引用、解释部分隐私法律等限制。调查的更新说明称，10月18日复查时，这些隐藏文本已全部移除；]]></description><category></category></item><item><title><![CDATA[Agent蒸馏怎么验收？从DeepSeek的Agent成绩到学生模型的任务级测试]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/168659033</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/168659033</guid><author>AI147AI</author><pubDate>Wed, 21 Oct 2026 17:43:11 +0800</pubDate><description><![CDATA[教师模型表现提升与学生模型损失下降，不足以证明蒸馏后Agent能有效执行任务。关键在于将验收从文本输出转向真实任务结果，通过独立环境测试验证其行为合规性、权限控制与最终交付。需设置三组对照（训练前/后学生、教师），并设计涵盖新场景的测试集，关注任务达标、规则遵守、人工介入等多维度指标。验收应基于可验证状态而非表面成功，避免误判。失败归因应区分模型缺陷与系统问题，确保评测闭环。最终，唯有在真实任务中稳定交付，才能判定蒸馏有效。]]></description><category></category></item><item><title><![CDATA[搜索 API 返回了结果，为什么学生模型还是会引用错？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/168450755</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/168450755</guid><author>AI147AI</author><pubDate>Mon, 19 Oct 2026 17:55:49 +0800</pubDate><description><![CDATA[搜索接口上线虽令人振奋，但真正挑战在于如何有效蒸馏工具调用过程。学生模型需学习的不仅是答案，更是查询生成、证据筛选与不确定性判断。训练数据应保留任务条件、查询词、候选结果及判断依据，避免仅传递最终答案。常见错误包括误引、误判失败、关键词滥用。验收应设计四类任务：资料充分、分散、矛盾及不足，以检验真实推理能力。唯有如此，模型才能从“会查”迈向“会思”。]]></description><category></category></item><item><title><![CDATA[模型名没变，教师已经变了：蒸馏数据如何应对 DeepSeek Flash 版本漂移]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/168450730</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/168450730</guid><author>AI147AI</author><pubDate>Mon, 19 Oct 2026 17:55:16 +0800</pubDate><description><![CDATA[DeepSeek-V4.1-Flash-1017 更新虽未改调用方式，但模型行为可能已变化。文章强调：仅靠模型名无法追踪版本漂移，需分离记录服务版本、系统指令、工具定义等关键字段。版本更新可能影响答案风格、工具选择与错误分布，导致蒸馏数据失效。建议冻结旧数据、对比新旧教师表现、分类差异并建立独立回归集，避免将基准提升误判为学生收益。真正可靠的蒸馏项目应能回答“样本来源”“合格依据”和“能力保留”三问。]]></description><category></category></item><item><title><![CDATA[用自然语言找蒸馏样本，怎样避免漏掉工具报错？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/167918920</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/167918920</guid><author>AI147AI</author><pubDate>Wed, 14 Oct 2026 17:57:31 +0800</pubDate><description><![CDATA[LangSmith的AI Search虽支持自然语言检索智能体轨迹，但受限于8K token预算，关键工具结果可能被截断，影响对“模型忽略报错”等行为的准确判断。为确保训练数据可信，需先通过多条件查询构建候选池，再回溯原始轨迹核对时间顺序、工具状态与上下文关联，避免误标。应区分诊断过程与学习目标，保留证据链并脱敏敏感信息，同时评估召回率以防止遗漏复杂案例。最终训练样本须基于完整轨迹设计，确保标签可追溯，而非依赖搜索结果本身。]]></description><category></category></item><item><title><![CDATA[用自然语言找蒸馏样本，怎样避免漏掉工具报错？]]></title><link>https://blog.youkuaiyun.com/AI147AI/article/details/167918904</link><guid>https://blog.youkuaiyun.com/AI147AI/article/details/167918904</guid><author>AI147AI</author><pubDate>Wed, 14 Oct 2026 17:56:19 +0800</pubDate><description><![CDATA[LangSmith的AI Search虽支持自然语言检索智能体轨迹，但受限于8K token预算，关键工具结果可能被截断，影响对“忽略错误”等行为的准确判断。为确保训练数据质量，需分步处理：先用多条件查询构建候选池，再回溯完整轨迹核对证据，避免误标。标签应基于时间顺序与真实状态，区分重试、成功与虚报。还需检查日志完整性、脱敏一致性，并通过抽样验证召回率。最终训练样本应按任务分组、保留上下文，明确标注学习目标，确保可追溯、可验证。]]></description><category></category></item></channel></rss>