图神经网络再次火爆！25个顶会方案，助你快速搞定创新点！

图神经网络（GNNs）因其出色的建模和分析能力，在社交网络分析、推荐系统、知识图谱、文本分析等多个领域展现出广泛的应用潜力，已经成为人工智能研究的热点之一。在今年的顶级学术会议上，GNN相关的论文数量众多，再次印证了其研究的热度。对于有志于发表学术论文的学者来说，现在正是投身这一领域的绝佳时机。

为了帮助大家迅速捕捉研究灵感，我特别整理了近两年内图神经网络领域的25篇顶级会议优秀论文，这些论文覆盖了可解释性、图变换器（Graph Transformer）、图结构学习等当前的热门研究主题。以下是这些论文的精选列表，希望能为你的研究之路提供启发和方向。

三篇论文解析

1、Accelerating Dynamic Network Embedding with Billions of Parameter Updates to Milliseconds

方法

这篇论文提出了一种名为Dynamic Adjacency Matrix Factorization (DAMF) 的算法，用于加速动态网络嵌入（Dynamic Network Embedding）。DAMF算法的核心方法包括：

• 空间投影：通过旋转和缩放嵌入空间的坐标轴，而不是逐个节点更新，从而有效地更新网络嵌入。

• 动态个性化PageRank：应用动态个性化PageRank（PPR）来增强节点嵌入，捕获更高阶邻居信息。

• 正交化和重对角化：在添加节点或边时，使用正交化和重对角化步骤来更新空间投影矩阵和节点嵌入。

• 动态嵌入增强：使用InstantGNN来增强嵌入，使其适应图结构和节点信号的变化。

创新点

• 基于嵌入空间投影的动态网络嵌入：提出了一种新的动态网络嵌入范式，通过空间投影来更新嵌入，而不是传统的逐节点更新，从而在效率和准确性之间取得了平衡。

• 动态个性化PageRank的应用：将动态PPR应用于网络嵌入，以增强嵌入的判别能力，这是在动态网络嵌入中的一项创新应用。

• 理论上的效率和有效性保证：论文不仅提出了DAMF算法，还从理论上分析了其效率和有效性，证明了算法的时间复杂度与嵌入维度和图变化量成线性关系。

• 大规模图实验：首次将动态网络嵌入实验扩展到具有十亿条边的大规模图，证明了DAMF算法在处理大规模动态图时的可行性和效率。

• 毫秒级参数更新：在实验中，DAMF算法能够在不到10毫秒的时间内更新十亿级别的参数，这在动态网络嵌入领域是一个显著的进步。

 

2、Adaptive Path-Memory Network for Temporal Knowledge Graph Reasoning

方法

这篇论文提出了一个名为DaeMon（DAptivE path-MemOry Network）的模型，用于时间知识图谱（Temporal Knowledge Graphs, TKGs）推理。DaeMon的核心方法包括：

• 路径记忆（Path Memory）：记录查询主体和每个对象候选之间的历史时间线上的时序路径信息。

• 路径聚合单元（Path Aggregation Unit, PAU）：在单个时间戳的子图中捕获路径的配对表示。

• 记忆传递策略（Memory Passing Strategy）：随着时间的推移，逐个时间戳地捕获子图中的时序路径表示，并更新存储在记忆中的路径表示。

创新点

• 实体独立性：DaeMon不依赖于实体表示，而是通过关系特征来适应性地捕获实体之间的路径信息，这使得模型更加灵活和高效。

• 时序路径聚合：通过时序路径聚合方法，DaeMon能够连续地学习历史子图结构，并且通过记忆传递策略来考虑时间序列信息。

• 记忆传递策略：提出了一种时序感知的记忆传递策略，用于在时间序列中更新和传递路径信息。

• 迁移能力：DaeMon具有将预训练模型迁移到其他同源数据集的能力，这在时间知识图谱推理任务中是一个重要的特性。

 

3、Calibrate and Boost Logical Expressiveness of GNN Over Multi-Relational and Temporal Graphs

方法

• 本文研究了图神经网络（GNN）在多关系图上的逻辑表达能力，特别是针对具有两种变量和计数量词的一阶逻辑片段FOC2。

• 作者分析了R2-GNN架构，这是一种通过加入全局读取功能来扩展局部消息传递GNN的架构。

• 论文提出了一种简单的图转换技术，作为预处理步骤，可以使R2-GNN有效地捕捉任何FOC2分类器。

• 作者将他们的分析扩展到了时态图，探索了几种时态GNN架构，并为它们提供了一个表达能力层次结构。

• 实验中，作者实现了R2-GNN和图转换技术，并在节点分类任务中对各种支持多关系或时态图的知名GNN架构进行了实证测试。

创新点

• 逻辑表达能力的正式分析：首次对GNN作为多关系图上的布尔节点分类器的逻辑表达能力进行了形式化的分析。

• R2-GNN架构的等价性证明：在某些合理受限的情况下，证明了R2-GNN模型与FOC2分类器是等价的。

• 图转换技术的提出：提出了一种新颖的图转换技术，使得R2-GNN能够捕捉所有FOC2分类器，解决了R2-GNN在表达能力上的局限性。

• 时态图的扩展分析：将静态多关系图的逻辑表达能力分析扩展到了时态知识图，填补了时态图领域分析的空白。