2025_NIPS_Transformer Key-Value Memories Are Nearly as Interpretable as Sparse Autoencoders

文章核心总结与翻译

主要内容

文章聚焦大语言模型可解释性研究，核心探讨稀疏自编码器（SAEs）等代理模块提取的特征，与Transformer模型中前馈层（FF）天然具备的键值记忆（FF-KV）特征在可解释性上的差异。通过SAEBENCH自动评估和人工评估，发现FF-KV特征与SAEs、Transcoders的可解释性水平相当——SAEs仅在部分指标上有微小优势，而FF-KV在特征冗余度（吸收分数）、重构方差等方面表现更优。同时，研究揭示代理模块与FF-KV的特征重叠度低，代理模块可能存在特征过度拆分或虚构特征的问题，最终提出FF-KV应作为可解释性研究的强基准。

创新点

1. 首次系统性对比代理模块（SAEs/Transcoders）与FF层天然特征的可解释性，填补了领域内缺乏直接对比的空白。
2. 提出FF-KV的三种变体（原生、TopK稀疏化、归一化），适配SAE的评估框架，实现公平对比。
3. 从定量（8项自动指标）和定性（人工特征分类、来源判断）双重维度验证，证明FF-KV可作为可解释性研究的基准。
4. 发现代理模块与FF-KV的特征错位现象，引发对代理模块特征忠实性的反思。

---

翻译部分（Markdown格式）

Abstract

近年来，大型语言模型（LLMs）的可解释性研究越来越多地依赖代理模块进行特征发现，例如通过稀疏自编码器（SAEs）学习特征并评估其质量。这一范式自