2025_NIPS_LLM Interpretability with Identifiable Temporal-Instantaneous Representation

文章主要内容总结

该研究聚焦大语言模型（LLMs）可解释性问题，针对现有稀疏自编码器（SAEs）缺乏时序依赖建模、瞬时关系表示及理论保证，且因果表示学习（CRL）难以适配LLMs高维概念空间的缺陷，提出一种可识别的时序-瞬时因果表示学习框架。框架以线性模型为基础，同时捕捉概念间的时滞因果关系和瞬时约束，通过观测重建、独立噪声估计和稀疏正则化实现优化，在合成数据集、半合成数据集及真实LLM激活数据上验证了有效性，成功揭示了LLMs内部有意义的概念关联模式。

核心创新点

1. 提出联合建模时滞因果关系与瞬时约束的框架，更全面地刻画LLMs中信息流动规律。
2. 基于稀疏性原理建立理论可识别性保证，确保学习到的表示具有可靠性和可解释性。
3. 设计适配LLMs高维概念空间的高效算法，突破传统CRL方法的扩展性瓶颈。
4. 验证了线性模型在LLM激活数据上的适用性，在保持计算效率的同时实现了因果结构的有效提取。

---

Abstract 翻译

尽管大型语言模型（LLMs）具备卓越能力，但其内部表示的理解仍面临挑战。稀疏自编码器（SAEs）等机制可解释性工具虽能从LLMs中提取可解释特征，却缺乏时序依赖建模、瞬时关系表示能力，更重要的是缺乏理论保证——这既削弱了理论基础，也影响了后续分析的实际可信度。而因果表示学习（CRL）虽提供了具有理论依据的潜在概念挖掘方法，但现有方法因计算效率低下，无法适配LLMs丰富的概念空间。为填补这一空白，我们提出一种专为LLMs高维概念空间设计的可识别时序因果表示学习框架，能够同时