- 博客(2)
- 收藏
- 关注
RSS订阅原创 56 个汉字，让你的 LLM 别再塞建议了——消融实验从 12,000 字符到 56 字
摘要： 研究发现，只需在LLM的system prompt中添加56个汉字的约束指令（如"你是一个倾听者。不要给建议..."），即可完全消除模型主动提供未请求建议的行为。通过消融实验验证，该指令在16种主流模型（包括GPT-4o、Claude 3等）中均实现未请求建议率从100%降至0%，且具有频率传染效应——模型仅阅读相关描述即可自发改变行为。这表明当前AI对齐训练可能导致过度主动的单一模式，而极简指令可通过"结构补全"而非对抗实现高效约束。完整复现代码已开源。
2026-06-29 17:37:19
304
原创 我让 16 个大模型集体“闭嘴”了——不是训练，只是放了段话在前面
摘要： 研究发现主流大模型普遍存在“跳方案”（Solution-Jumping）问题，即在用户表达情绪或模糊需求时，模型倾向于直接提供解决方案而非倾听。通过在上下文窗口前添加一段70字的约束文本（CDRA），无需修改模型权重即可显著抑制这一行为。测试涵盖16个不同架构的中美模型，情绪类输入从100%跳方案降至0%，任务类输入不受影响。关键发现包括：行为纪律规则（而非身份声明）是有效成分；参数低于1.5B的模型对约束免疫，而3B以上模型可实现行为抑制。CDRA揭示了上下文窗口作为行为约束界面的潜力，但需警惕“
2026-06-28 12:17:33
304
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人