11、图神经网络的扩展性与表达能力探索

图神经网络的扩展性与表达能力探索

1. 图神经网络扩展技术

在处理大规模图数据时，图神经网络（GNN）的扩展性是一个关键问题。GraphSAGE 是解决这一问题的有效框架，它能在短时间内处理大型图，其核心在于邻居采样算法和三种聚合算子。此外，还有一些其他的扩展技术：

1.1 PinSAGE 和 Uber Eats 的 GraphSAGE 应用

PinSAGE 和 Uber Eats 的 GraphSAGE 版本是推荐系统。它们将无监督设置与不同的损失函数相结合，目标是为每个用户对最相关的实体（如食物、餐厅、图钉等）进行排名。为此，它们实现了一种考虑嵌入对的最大间隔排名损失。

1.2 其他扩展技术

• Cluster - GCN ：它为创建小批量数据提供了不同的解决方案。与邻居采样不同，它将图划分为孤立的社区，然后将这些社区作为独立的图进行处理。不过，这可能会对所得嵌入的质量产生负面影响。
• 简化 GNN ：通过丢弃非线性激活函数来简化 GNN，可以减少训练和推理时间。利用线性代数，线性层可以压缩为一次矩阵乘法。虽然这些简化版本在小数据集上不如真正的 GNN 准确，但对于像 Twitter 这样的大型图却很有效。

2. 图分类中的表达能力定义

在追求 GNN 扩展性的同时，我们也关注其“准确性”，即表达能力。这可以通过 Weisfeiler - Leman（WL）测试来理解。

2.1 神经网络与图结构区分

神经网络用于近似函数，