论文《From Latent Graph to Latent Topology Inference：Differentiable Cell Complex Module》笔记

【DCM】本文提出了一种新型的深度学习模块——可微分细胞复合模块（Differentiable Cell Complex Module，DCM），它用于推断潜在的拓扑结构（Latent Topology Inference，LTI）。这个模块旨在改进图神经网络（GNNs）的性能，特别是在处理没有固定图结构或给定图结构不理想的情况下。

发表在2024年ICLR会议上，作者学校：罗马大学、哈佛大学、牛津大学，引用量：9。

ICLR会议简介：全称International Conference on Learning Representations（国际学习表征会议），深度学习顶会。

查询会议：

• 会伴：https://www.myhuiban.com/
• CCF deadline：https://ccfddl.github.io/

原文和开源代码链接：

• paper原文：https://openreview.net/forum?id=0JsRZEGZ7L
• 开源代码：https://github.com/spindro/differentiable_cell-complex_module

 

0、核心内容

潜在图推理（Latent Graph Inference，LGI） 通过动态学习图拓扑，放宽了图神经网络（GNNs）对给定拓扑的依赖。

然而，大多数LGI方法都假设有一个（有噪声的、不完整的、可改进的、……的）输入图来重新连接，并且可以单独学习常规的图拓扑。

随着拓扑深度学习（Topological Deep Learning，TDL）的成功，我们研究了潜在拓扑推理（Latent Topology Inference，LTI），用于学习描述数据点之间多路交叉的高阶单元复合体（具有稀疏拓扑和非规则拓扑）。

为此，我们引入了可微细胞复合模块（DCM），这是一种新的可学习函数，可以计算复杂模块中的细胞概率，以改进下游任务。我们展示了如何将DCM与单元复杂的消息传递网络集成，并以端到端方式进行训练，这要归功于两步推理过程，避免了对输入中所有可能得单元进行穷尽搜索，从而保持可伸缩性。

我们的模型在几个同配性和异配性图数据集上进行了测试，结果显示它由于其他最先进的技术，提供了显著的改进，特别是在没有提供输入图的情况下。

（引自摘要）

 

1、先验知识

① 什么是潜在图推理（Latent Graph Inference，LGI）？

潜在图推理是一种图神经网络的方法，它允许模型在没有预先定义的图拓扑结构的情况下进行学习。**这里的“图拓扑”指的是图中节点（顶点）和边的排列方式，即图中节点和边是如何相互连接的。**在传统的GNNs中，通常假设输入数据已经以图的形式给出，并且图的结构是固定不变的。然而，LGI的核心思想是数据