论文链接: Heterogeneous Graph Transformer
代码链接: https://github.com/acbull/pyHGT.
论文作者:来自加州大学洛杉矶分校
参考阅读: https://blog.youkuaiyun.com/byn12345/article/details/105081338
摘要
近年来,图神经网络(gnn)在结构化数据建模方面取得了巨大的成功。但是,大多数gnn都是针对同构图设计的,在同构图中,所有的节点和边都属于同一类型,这使得它们无法表示异构结构。在本文中,我们提出了异构图转换架构(HGT)体系结构来建模web规模的异构图。为了对异质性进行建模,我们设计了节点和边类型相关的参数来表征每个边上的异质性注意力,使HGT可以为不同类型的节点和边生成专用的表示。为了处理动态异构图,我们在HGT中引入了相对时序编码技术,该技术能够捕获任意持续时间的动态结构依赖关系。为了处理Web-scale的图数据,我们设计了异构的mini-batch图抽样算法HGSampling,以实现高效和可扩展的训练。在拥有1.79亿个节点和20亿个边的开放学术图上进行的大量实验表明,所提出的HGT模型在各种下游任务上的性能始终优于所有最先进的GNN基线9%-21%。HGT的数据集和源代码可在https://github.com/acbull/pyHGT上公开获取。