一、文章主要内容总结
该研究聚焦语言模型机制可解释性中的电路发现问题,核心围绕电路完整性展开——现有电路发现方法因难以捕捉OR门结构,导致电路存在非传递性、抢占性等缺陷,且结果缺乏一致性。文章通过以下核心内容解决该问题:
-
电路逻辑门定义:系统提出三种基础逻辑门(AND、OR、ADDER),将复杂电路分解为这些门的组合:
- AND门:需所有输入节点激活才能发挥作用,缺失任一输入则失效;
- OR门:至少一个输入节点激活即可发挥作用,仅全部缺失时失效;
- ADDER门:输入节点贡献具有累加性,缺失输入会削弱作用,全部缺失则失效。
-
干预策略分析:对比两种核心干预策略(基于噪声的Ns、基于去噪的Dn):
- Ns能完整恢复AND和ADDER门,但无法完整捕捉OR门;
- Dn能完整恢复OR和ADDER门,但难以完整捕捉AND门;
- 现有方法(贪心搜索、线性估计、可微掩码)均存在逻辑门恢复不全的问题,导致电路在忠实性(与模型输出一致性)和完整性(包含所有关键路径)上存在权衡。
-
改进框架设计:提出Ns+Dn融合框架,通过联合优化两种干预策略的目标函数,在不显著增加计算复杂度的前提下,实现三种逻辑门的完整识别与分离;同时引入错位分数,确保两种干预策略的粒度对齐。
订阅专栏 解锁全文
1389



被折叠的 条评论
为什么被折叠?



