SC_Linno的博客

译自非常好的一篇博客，原文链接​ 很多系统和交互——社交网络、分子结构、组织机构、文献引用、物理模型和交通都可以表示为图。我们如何在这些系统中推理和做出预测？​ 一种想法是我们应用在其他领域表现良好的工具，比如神经网络在许多学习任务中展示了巨大的潜力。但是传统神经网络常用于操作固定大小或者常规结构的输入（比方说句子、图片和视频），因此我们不能优雅的用它们处理图结构数据。​ 图神经网络(Graph neural networks,GNN)是神经网络中可用于处理图结构数据的一员，通过提取和利用基础图中的特征，G

论文首先介绍了时空数据挖掘的背景和意义，然后详细介绍了深度学习在时空数据挖掘中的应用，包括卷积神经网络（CNN）、循环神经网络（RNN）等模型在时空数据中的特征学习、时空数据的表示方法、时空数据的预测和分类等任务。本论文的主要贡献在于系统地回顾了Transformer在时间序列建模中的应用，提出了一个新的分类法，并分析了每个时间序列Transformer的见解、优点和局限性。在网络修改方面，论文讨论了对Transformer进行的低层次（即模块）和高层次（即架构）的改进，以优化时间序列建模的性能。

提出meta-tail2vec 方法来优化尾部节点嵌入问题对于尾部节点的嵌入问题，采用重建的回归模型来计算。对于网络的局部感知位置问题，提出删边和元学习的方法局部调整在公共数据集中进行大量实验，验证了meta-tail2vec的性能提升针对长尾效应提出Tail-GNN模型提出的概念，捕获节点与邻居的传递关系在五个公共数据集上进行实验，Tail-GNN取得了SOTA成绩提出Cold Brew方法解决SCS(孤立点Strict Cold Start)节点的噪声邻居问题。