15、从异构图中学习：GNN的新挑战与解决方案

从异构图中学习：GNN的新挑战与解决方案

1. 引言

在现实世界的许多应用中，如推荐系统、社交网络和网络安全等，我们会遇到包含不同类型节点和边的图结构，这种图被称为异构图。与之相对的是同构图，它只包含一种类型的节点和边。本文将深入探讨异构图的相关知识，包括消息传递神经网络框架、异构图的引入、将同构GNN转换为异构GNN以及实现分层自注意力网络。

2. 消息传递神经网络框架

在探索异构图之前，我们先回顾一下同构GNN的相关知识。在之前的研究中，我们看到了不同的函数用于聚合和组合不同节点的特征。最简单的GNN层是将相邻节点（包括目标节点本身）的特征线性组合与权重矩阵相加，然后用这个和替换之前的目标节点嵌入。

GCN和GAT层在节点特征上添加了固定和动态权重，但核心思想不变。即使是GraphSAGE的LSTM算子或GIN的最大聚合器也没有改变GNN层的主要概念。我们可以将这些不同的GNN层归纳为一个通用框架——消息传递神经网络（MPNN或MP - GNN）。这个框架由三个主要操作组成：
- 消息 ：每个节点使用一个函数为每个邻居创建消息，它可以仅由自身特征组成，也可以考虑邻居节点的特征和边特征。
- 聚合 ：每个节点使用一个置换不变函数（如求和）聚合来自邻居的消息。
- 更新 ：每个节点使用一个函数结合其当前特征和聚合的消息来更新其特征。

这些步骤可以用一个方程总结：
[
h’ i = \gamma(h_i, \oplus {j \in \mathcal{N}