Graph Contrastive Learning with Adaptive Augmentation

摘要

对比学习在无监督图表示学习中取得了很好的效果，大部分图对比学习首先对输入图做随机增强生成两个视图然后最大化两个视图表示的一致性。其中，图上的增强方式是非常重要的部分鲜有人探索。我们认为数据增强模式应该保留图固有的属性和结构，可以使模型学到对于不重要的结点和边扰动不敏感的表示信息。但目前的方法大多采用均质的增强方法如均匀的去边，或扰动特征，只能达到次优效果。本文借助先验信息从拓扑和语义角度引入自适应的增强策略。具体来说，在拓扑角度，采用基于结点的中心性来衡量连接结构的重要性的方式设计增强模式；在特征维度，给不重要的结点特征加入更多噪声来扰动结点特征，强化模型识别潜在语义信息。

引言

之前的增强方式主要有两个缺点。首先，在结构或者特征角度的简单增强不足以生成多样的邻居，很难在对比目标函数中优化；其二是之前的工作了结点和边影响的差异性。比如均匀的丢弃边的化，一些重要的边丢弃会恶化结果。如果在边移除的增强方式中，给重要的边小的概率，不重要的边大的概率，在学习时可以使模型自适应的忽略噪声和不重要的边，学到重要的模式。

本文设计了一个自适应增强的图对比学习方法，首先通过随机扰动生成两个相关的视图，然后最大化这两个视图上结点表示的互信息。我们设计了一个联合的，自适应的数据增强模式，通过分别在拓扑级移除边和在结点属性角度做特征遮掩来为结点在不同视