图神经网络task3

基于图神经网络的节点表征学习

其中如何设计一套合理方式来高效地进行特征表示，是十分重要的，比如在cv与nlp任务中，我们会分别设计cnn模块与RNN模块来建模图像中像素点表征的信息、word表征的信息。
Graph的特征表示极为复杂，主要表现在以下三个方面：

1、极其复杂的拓扑结构，很难简单地像图像中的感受野来提取有效信息；
2、无特定的节点顺序；
3、通常graph会是动态变化的， 且使用多模态特征；
对graph进行特征学习的三个方法
1、Embedding Nodes
2、Random Walk
3、非监督特征学习
4、Negative Sampling
5、Node2vec
6、Biased Walk

节点嵌入（Node Embedding）

节点嵌入的目标是学习图中节点的表示，以便任何下游应用程序可以直接使用这些表示，而无需考虑原始图。由于大多数图的度分布遵循幂律分布，且节点多而连接少，长尾问题严重，这给节点嵌入的学习带来了挑战。发表于 CIKM 2020 的 meta-tail2vec 借助 MAML 元学习来解决该挑战。meta-tail2vec 建立了一个回归问题来学习节点嵌入，以此捕捉节点嵌入学习过程中的共同先验。由于 high-degree 节点的结构信息丰富，其表示被认为是准确的，所以它们被用作元训练集（meta training）来学习共同先验。low-degree 节点只有少量的邻居，结构信息匮乏，所以用于学习其表示的回归问题被作为元测试（meta-testing）问题，而借助由 hig