图时空序列预测方法记录

1、《Graph WaveNet for Deep Spatial-Temporal Graph Modeling》

2019年IJCAI的文章，亮点有三：①自适应邻接矩阵 self-adaptive adjancency matrix；②基于自适应矩阵的扩散图卷积 diffusion GCN；③空洞因果卷积 dilated causal temporal convolution。

其中，自适应邻接矩阵是通过两个node embedding矩阵基于ReLU和Softmax激活得出，优势在于对未知图结构的数据也适应，并可以挖掘潜在连接关系。

原文链接：https://arxiv.org/abs/1906.00121 

代码链接：https://github.com/nnzhan/Graph-WaveNet

训练细节：①扩散步K=2，②embedding维度设置为10，③学习率初始化为0.001的Adam优化器，④dropout设置为0.3，⑤空洞因子设置为1,2,1,2,1,2,1,2，⑥梯度裁剪gradient clip 设置为L2=5

2、《Incrementally Improving Graph WaveNet Performance on Traffic Prediction》

对Graph WaveNet做了改进，网络结构的主要改进为增加图卷积操作的残差链接，其他改进体现在训练细节上：①学习率衰减learning rate decay设置为0.97，每个epoch后衰减，②卷积核数量从32增加到40，③梯度裁剪L2=3

原文链接：https://arxiv.org/abs/1912.07390

代码链接：https://github.com/sshleifer/Graph-WaveNet.

3、《Adaptive Graph Convolutional Recurrent Network for Traffic Forecasting》

2020年NIPS的文章，亮点有三：①自适应的邻接矩阵；②基于自适应邻接矩阵的图卷积；③基于自适应邻接矩阵图卷积的GRU网络。

其中，自适应邻接矩阵与Graph WaveNet类似，都是通过学习embedding矩阵，实现可学习邻接矩阵（图结构），不同之处在于，Graph WaveNet学习的是两个矩阵和，而AGCRN学习的是一个矩阵。

此外，AGCRN将上述自适应图卷积嵌入至GRU网络，将GRU网络所涉及的卷积全部修改为自适应图卷积，且图卷积网络的参数与嵌入矩阵实现参数共享。具体如下，

训练细节：①Adam优化器，②最大100个epoch，③验证损失在15个epoch后如果不减少则停止训练。

原文链接：https://arxiv.org/abs/2007.02842

代码链接：GitHub - LeiBAI/AGCRN: Adaptive Graph Convolutional Recurrent Network