【图神经网络：原理与实战】第十章 可解释性与可证实性

目录

10.1 可解释性的分类框架

10.1.1 局部解释与全局解释的区分

10.1.2 模型内生解释与后验解释的比较

10.1.3 可证实性与可重复性定义

10.1.4 解释性需求的应用层次分析

10.2 解释方法体系（原理与推导）

10.2.1 掩码与子图提取方法（可微掩码、优化式掩码）

10.2.2 梯度与敏感性分析方法

10.2.3 基于代理模型的可解释近似（规则、决策树）

10.2.4 反事实与因果解释技术

10.3 评估指标与基准

10.3.1 解释正确性与置信度度量

10.3.2 稳健性、可复现性与对抗性测试

10.3.3 人类可解释性评估协议

10.3.4 基准数据集与标准化评测流程（构造原则）

10.4 可解释性在工程中的应用

10.4.1 合规与审计流程中的证据生成

10.4.2 可解释性驱动的模型改进流程

10.4.3 解释结果的可视化与用户接口设计

10.4.4 解释性失效案例与根因分析

附：若干关键算法与推导摘要

附录 A：局部掩码优化的伪代码（连续松弛）

附录 B：局部线性代理的闭式解推导（简要）

附录 C：反事实优化的拉格朗日形式与梯度步骤（简要）

本章小结

---

本章对可解释性（explainability / interpretability）与可证实性（verifiability / reproducibility）给出严格的概念划分、方法体系、评估量化及工程化应用要点。侧重于原理推导与数学证明，力求每一步推导逻辑严密、步骤完整，能直接作为算法原理章节入书使用。

---

10.1 可解释性的分类框架

10.1.1 局部解释与全局解释的区分

定义 10.1.1.1（模型与解释器）