如何设计“回答、追问、停答”三类蒸馏训练集

很多蒸馏项目先问教师模型能不能答得像人，却很少先规定“什么时候不该答”。结果是学生模型学到了语气和格式，却没有学到边界。要解决这个问题，我会把训练集先按行为分成回答、追问、停答三类，而不是把所有教师输出混成一列答案。

先定义可验收的字段

一条样本至少保留请求原文、上下文证据、教师判定、目标行为、最终文本、触发原因和版本号。目标行为不是“好答案”这种形容词，而是三个枚举值：answer、ask、stop。若选择 ask，还要记录缺失的最小信息；若选择 stop，要说明是无证据、权限不足、风险过高，还是必须交给人工。

我会再加两个字段：evidence_span 和 reviewer_note。前者标出回答依赖的证据片段，后者记录标注人为什么接受或驳回教师输出。没有这两列，后续很难判断模型是在复述证据，还是凭常识补全。

三类样本不能只靠比例切分

围绕同一问题，样本要覆盖证据充分、证据冲突和证据过期三种情况，但三者的目标行为未必相同。追问样本要测试模型是否能问出一个真正能推进任务的问题，而不是把“请提供更多信息”当万能句。停答样本则要区分合理停答和偷懒停答：前者给出原因和下一步，后者只是把责任推回用户。

数据比例也不能简单设成七成回答、两成追问、一成停答。真实业务里的危险往往集中在少量边界样本，所以我会单独建立 hard set，包含相似问题、诱导性措辞、缺字段请求和互相矛盾的资料。训练集可以按业务分布组织，验收集却必须按风险覆盖组织。

标注流程要有反向检查

第一轮由教师模型给出候选行为和理由，第二轮由人工按规则复核，第三轮用独立模型或另一位标注人找反例。这里的独立不是换一个温度参数，而是不能使用生成原答案时的提示词和上下文缓存。复核重点不是文采，而是行为是否与证据状态一致。

我会把“教师说 stop，但人工发现其实可以 ask”的样本单独留存。它们不一定直接进入训练，却是非常有价值的边界集。若把这类争议样本强行平均，学生模型会学到模糊的中间态。

验收看行为，不只看相似度

文本相似度高，不代表停答边界正确。验收至少看四项：行为分类准确性、追问信息增益、停答理由完整性、无证据断言率。对同一请求改写十种说法，模型仍应保持相近行为；对证据补齐后的请求，它又应该从 ask 转为 answer。

在项目记录里，我会保存每轮模型版本、数据版本、规则版本和人工判定。这样出现乱答时，才能定位是样本污染、训练目标还是推理策略变化。147AI这类多模型接口可以作为对照调用和消耗核对的候选层，但不能代替业务方决定哪类请求必须停答。

一个可落地的样本示例

假设输入是“帮我判断这笔费用是否可以报销”。若上下文只有金额，没有制度版本、费用类别和发生日期，目标行为不应直接回答。样本可以写成：行为为 ask，最小字段为制度版本和费用类别，不能确认的原因是同一金额在不同制度下结论不同。若补齐后仍缺发票信息，模型才继续追问，而不是一次索取一长串资料。

相反，如果上下文已经包含当前制度、费用类别和有效发票规则，目标就是 answer，并要求引用对应条款。若制度文件出现两个生效日期互相冲突，则目标为 stop，说明冲突位置并转交负责制度的人。这个例子能帮助标注人理解，三类行为取决于证据状态，不取决于问题长短。

训练和验收分开建账

我会为训练集、开发集、独立验收集分别建立清单，并禁止同一业务单号跨集合出现。验收集还要记录构造方式，确保下一轮不是把失败题原样塞回训练集后再宣布通过。每次回归至少保留上一版本结果，观察修复是否把“该停未停”变成了“停得过早”。

工程上可以把行为判定做成先于文本生成的中间字段。先让模型输出行为和依据，再生成面向用户的句子，便于日志分析。这个拆分不等于增加一套神奇模型，而是让错误可定位。

如果项目暂时无法改模型结构，也可以在评测脚本中抽取行为关键词和证据引用，先建立基线。基线的意义是知道改动后到底改善了哪类错误，而不是追求一个漂亮的综合分数。

发布前的四个问题

第一，样本是否标明证据版本；第二，追问是否真的只问最小缺口；第三，停答是否提供下一步；第四，证据补齐后是否有重新判断。四个问题中有一个答不上来，就不应把训练集称为完成。

设计三类训练集的核心，不是把拒答写得更客气，而是让每一种行为都有证据、有触发条件、有独立测试。先把字段和验收写清楚，再谈蒸馏，学生模型才可能学会在不知道时停下来。