MAGNN: Metapath Aggregated Graph Neural Network forHeterogeneous Graph Embedding

[2002.01680] MAGNN: Metapath Aggregated Graph Neural Network for Heterogeneous Graph Embedding (arxiv.org)

目录

1 背景

2 创新点

3 方法

3.1 Node Content Transformation

3.2 Intra-metapath Aggregation

3.3 Inter-metapath Aggregation

3.4 Metapath Instance Encoders

3.5 Training

---

1 背景

虽然GNN获取节点嵌入的效果不错，但是大多数基于GNN的模型都假设输入是一个只有一个节点类型和一个边缘类型的同构图。大多数现实世界的图由不同类型的节点和边组成，这些节点和边与不同特征空间中的属性相关。编码异构图对GNN是个挑战。

现有的大多数异构图嵌入方法都是基于元路径的思想。元路径是在网络模式上定义的节点类型和边缘类型的有序序列，它描述了所涉及的节点类型之间的复合关系。例如，在一个由authors, papers, and venues组成的学者网络中，Author-Paper-Author (APA) and Author-Paper-Venue-Paper-Author(APVPA) 是描述作者之间两种不同关系的元路径。APA元路径将两位共同作者联系在一起，而APVPA元路径将两位在同一地点发表论文的作者联系在一起，因此可以将元路径视为两个节点之间的高阶近似。

尽管这些基于元路径的嵌入方法在节点分类和链路预测等任务上优于传统的网络嵌入方法，但它们仍然存在以下至少一个局限性。(1)该模型没有利用节点内容特征，因此在具有丰富节点内容特征的异构图上很少表现良好。(2)模型只考虑两个末端节点，丢弃了元路径上的所有中间节点，导致信息丢失。(3)模型依赖单一元路径嵌入异构图。因此，该模型需要手动选择元路径，并且会丢失来自其他元路径的信息，从而导致性能次优

现有模型通常在异构图中定义多个元路径来捕获复合关系并指导邻居选择。然而，这些模型要么忽略节点内容特征，要么丢弃元路径中的中间节点，要么只考虑一个元路径。

2 创新点

MAGNN采用了三个主要组件，即节点内容转换封装输入节点属性，元路径内聚合合并中间语义节点，元路径间聚合合并来自多个元路径的消息。

MAGNN首先应用类型特定的线性变换将异构节点属性(不同节点类型的维度可能不相等)投影到相同的潜在向量空间。接下来，MAGNN对每个元路径应用带有注意机制的内部元路径聚合。在此元路径内部聚合期间，每个目标节点从连接该节点及其基于元路径的邻居的元路径实例中提取并组合信息。通过这种方式，MAGNN从邻居节点和中间的元路径上下文捕获异构图的结构和语义信息。在元路径内聚合之后，MAGNN进一步利用注意机制进行元路径间聚合，将多个元路径获得的潜在向量融合到最终的节点嵌入中。通过整合多个元路径，模型可以学习到异构图中根深蒂固的综合语义。

3 方法