SC_Linno的博客

译自非常好的一篇博客，原文链接​ 很多系统和交互——社交网络、分子结构、组织机构、文献引用、物理模型和交通都可以表示为图。我们如何在这些系统中推理和做出预测？​ 一种想法是我们应用在其他领域表现良好的工具，比如神经网络在许多学习任务中展示了巨大的潜力。但是传统神经网络常用于操作固定大小或者常规结构的输入（比方说句子、图片和视频），因此我们不能优雅的用它们处理图结构数据。​ 图神经网络(Graph neural networks,GNN)是神经网络中可用于处理图结构数据的一员，通过提取和利用基础图中的特征，G

论文首先介绍了时空数据挖掘的背景和意义，然后详细介绍了深度学习在时空数据挖掘中的应用，包括卷积神经网络（CNN）、循环神经网络（RNN）等模型在时空数据中的特征学习、时空数据的表示方法、时空数据的预测和分类等任务。本论文的主要贡献在于系统地回顾了Transformer在时间序列建模中的应用，提出了一个新的分类法，并分析了每个时间序列Transformer的见解、优点和局限性。在网络修改方面，论文讨论了对Transformer进行的低层次（即模块）和高层次（即架构）的改进，以优化时间序列建模的性能。