Explainability of Large Language Models: Opportunities and Challenges toward Generating Trustwort...

一、文章主要内容总结

文章聚焦大型语言模型（LLMs）的可解释性问题，核心围绕局部可解释性和机制可解释性两大方向展开。首先梳理了LLMs的发展背景与Transformer架构基础，综述了现有局部可解释性（如自然语言解释、思维链推理、检索增强生成等）和机制可解释性（如电路分析、特征分析、注意力头分析等）的技术方法；其次通过医疗、自动驾驶两个安全关键领域的实证研究，分析了LLM解释对接收者的信任影响；进而提出LLM解释需满足事实/信念/灰色地带区分、显性/隐性知识转化等认知属性，以及安全、真实性、公平性等八大可信原则；最后指出当前研究缺口，并提出分析真实逻辑推理、利用概念瓶颈模型、探索性能-可解释性权衡三大未来方向。

二、文章创新点

1. 双重视角整合：系统整合局部可解释性与机制可解释性，明确二者在决策层面和系统层面对LLM可信性的互补作用。
2. 认知属性深挖：首次深入分析LLM解释中事实、信念与灰色地带的区分，以及显性知识与隐性知识的转化问题，补充了现有研究对解释内容属性的关注缺口。
3. 领域实证验证：通过医疗诊断、自动驾驶场景的实证实验，提出可信局部解释需通过因果推理、对比性/反事实性压力测试等四大核心要求。
4. 可信原则落地：将TrustLLM的八大原则（安全、真实性、公平性等）与解释生成结合，明确各原则在LLM解释中的具体落地路径。

三、核心部分翻译（Markdown格式）

Abstract（摘要）

大型语言模型在自然语言处理的各类下