18、图神经网络解释与交通流量预测

图神经网络解释与交通流量预测

1. 图神经网络解释

1.1 GNNExplainer与集成梯度概述

GNNExplainer虽未给出决策过程的精确规则，但能让我们了解GNN模型在预测时关注的重点。不过，还需人类专业知识确保这些观点连贯且符合传统领域知识。

Captum（captum.ai）是一个Python库，为PyTorch模型实现了许多先进的解释算法。它不仅适用于GNN，还可用于文本、图像、表格数据等。其优势在于能让用户快速测试各种技术，并比较同一预测的不同解释。此外，它还实现了如LIME和Gradient SHAP等流行算法，用于主要、层和神经元归因。

我们将使用集成梯度的图版本，该技术旨在为每个输入特征分配归因分数。它基于模型输入的梯度，使用输入 (x) 和基线输入 (x’) （在我们的案例中所有边的权重为零），计算 (x) 和 (x’) 之间路径上所有点的梯度并累积。形式上，输入 (x) 在第 (i) 维度的集成梯度定义如下：
[IG_i(x) \triangleq (x_i - x_i’) \times \int_{0}^{1} \frac{\partial F(x’ + \alpha \times (x - x’))}{\partial x_i} d\alpha]
在实践中，我们用离散和来近似这个积分。集成梯度是模型无关的，基于两个公理：
- 敏感性：对预测有贡献的每个输入必须获得非零归因。
- 实现不变性：对于所有输入输出都相等的两个神经网络（功能等价网络），必须有相同的归因。

我们采用的图版本略有不同，它考虑节点和边而非特征，因此输出与考虑节点特征和边的GNNExplainer不