论文笔记《Attention Based Spatial-Temporal Graph Convolutional Networks for Traffic Flow Forecasting》

1. Abstract

本文目标是预测交通流，该问题最大的挑战是交通流数据的高度非线性和复杂的关系模式。现存的预测方法缺乏对交通流动态时空关系的建模，于是本文提出一种带注意力机制的图卷积神经网络 attention based spatial-temporal graph convolutional network (ASTGCN) model 具体思路：

模型由3个独立的组件，每个组件分别对交通流3种时间特性 (temporal properties)建模

• 当前 recent
• 日周期 daily-periodic
• 周周期 weekly-periodic

将时间特性分为三类分别建模再融合这一思路，可参考以下两篇文章：
【1】Zhang, J. , Zheng, Y. , Qi, D. , Li, R. , & Yi, X. . (2016). DNN-based prediction model for spatio-temporal data. Acm Sigspatial International Conference on Advances in Geographic Information Systems. ACM.
【2】Zhang, J. , Zheng, Y. , & Qi, D. . (2016). Deep spatio-temporal residual networks for citywide crowd flows prediction.

每个组件包含2个主要部分

• 时空注意力机制 捕获 动态时空相关性
• 时空卷积层通过 图卷积 捕获 空间关系，普通卷积 捕获 时间关系

2. Introduction

Figure 1 主要说明交通流的时空相关性

• 两点之间的加粗线条表示相互影响强度，颜色越深，影响越大
• Fig. 1(a) 从空间角度分析，说明不同路段对于A点影响不同，且随着时间推移 各路段影响强度也会变化
• Fig. 1(b) 从时间角度分析，对于A路段的交通流来说，不同位置的历史观测值，对A路段未来流量有不同影响

现有研究

模型	局限
时间序列分析模型	难以处理不稳定、非线性数据
传统机器学习模型	用于处理复杂数据，但是（1）难以同步考虑高维交通数据的时空相关性；（2）依赖于特征工程，需要较多专家经验
深度学习模型	如（1）CNN处理网格数据的空间特征；（2） GCN描述图数据的空间相关性。但以上方法均不能同时处理时空特性和动态相关性

具体文献综述部分主要从以下三方面分析

• 交通预测
• 基于图的卷积
• 注意力机制

3. Preliminaries

3.1 交通网络

• 将交通网络定义为无向图 $G=(V,E,A)$ ，其中 $|V|=N$ 表示 $N$ 个节点；$A$ 表示图的邻接矩阵 $A\in {\mathbb{R}}^{N\times N}$
• 每个节点测量三个属性值，分别是flow(预测目标)、occupy、speed

3.2 交通流预测

变量	含义
$f\in (1,...,F)$	在交通图 $G$ 中的每个节点都有 $f$个时间序列数据
$x_t^{c,i}\in$