基于图神经网络的节点表征学习

引言

在图节点预测或边预测任务中，需要先构造节点表征（representation），节点表征是图节点预测和边预测任务成功的关键。在此篇文章中，我们将学习如何基于图神经网络学习节点表征。

在节点预测任务中，我们拥有一个图，图上有很多节点，部分节点的预测标签已知，部分节点的预测标签未知。我们的任务是根据节点的属性(可以是类别型、也可以是数值型)、边的信息、边的属性（如果有的话）、已知的节点预测标签，对未知标签的节点做预测。

我们将以Cora数据集为例子进行说明，Cora是一个论文引用网络，节点代表论文，如果两篇论文存在引用关系，那么认为对应的两个节点之间存在边，每个节点由一个1433维的词包特征向量描述。我们的任务是推断每个文档的类别（共7类）。

为了展现图神经网络的强大，我们通过节点分类任务来比较MLP和GCN, GAT（两个知名度很高的图神经网络）三者的节点表征学习能力。此节内容安排为：

1. 首先，我们要做一些准备工作，即获取并分析数据集、构建一个方法用于分析节点表征的分布。
2. 然后，我们考察MLP用于节点分类的表现，并分析基于MLP学习到的节点表征的分布。
3. 接着，我们逐一介绍GCN, GAT这两个图神经网络的理论、他们在节点分类任务中的表现以及它们学习到的节点表征的分布。
4. 最后，我们比较三者在节点表征学习能力上的差异。

GCN的定义

GCN 神经网络层来源于论文“Semi-supervised Classification with Graph Convolutional Network”，其数学定义为其中$\hat{\mathbf{A}}=\mathbf{A}+\mathbf{I}$表示插入自环的邻接矩阵，$D$