论文笔记《Spatio-Temporal Graph Structure Learning for Traffic Forecasting》

【论文】 Zhang Q, Chang J, Meng G, et al. Spatio-Temporal Graph Structure Learning for Traffic Forecasting[C]//Proceedings of the AAAI Conference on Artificial Intelligence. 2020, 34(01): 1177-1185.
【代码】 暂无

本篇文章主要是解决如何建模复杂、动态的空间依赖性问题，作者认为现在用的图卷积神经网络存在以下几个问题：

• 使用预定义方法，或依赖于图结构的先验知识，这些并不能保证预测当前学习任务的准确性。
• 多利用局部图结构，忽略了远距离关系。
• 图结构一旦定义即固定，而实际上交通数据每时每刻都在变化，图结构也在变化。

因此，作者提出一种通用的图卷积公式Structure Learning Convolution (SLC)，它能将结构信息显示地建模到卷积运算中。文章提出的SLCNN Layer部署了两个 SLC 分别用于捕捉全局和局部结构信息。同时，作者还将Pseudo three Dimensional convolution (P3D) networks 与 SLC 结合，用于捕捉时间依赖性。下面是对文章（模型）思路的梳理。

1. Structure Learning Convolution

1.1 Formulation of SLC

本节主要说明 Structure Learning Convolution(SLC) 基本思想，以及和普通卷积的异同点，这部分是本文模型的一个核心点，先记住构造思路就行，看上去还挺直观的。

作者认为卷积运算可看作是对输入信号的聚合操作，对于图结构数据，聚合操作不仅仅要聚合信号值，还要聚合图结构信息。因此，作者提出 SLC 表示为：$y_i=f\left({\sum }_{e_{ij}\in \mathcal{E}}{S}_{ij}{w}_j{x}_j\right)$，其中：

• $f(\cdot )$ 是激活函数；
• $y_i$ 是节点 $i$ 的输出信号；
• $x_i$ 是节点 $i$ 的输入数据，注意是embedded在图上的数据；
• $e_{ij}\in \mathcal{E}$ 表示 $i/j$ 之间有边，其中$\mathcal{E}$不是预定义的，是在训练中得到的。
• $\mathbf{W}$ 是 $n$ 维卷积核权重，$w$