2025_NIPS_Pseudo-Riemannian Graph Transformer

一、文章主要内容总结

该研究聚焦复杂拓扑图的嵌入问题，针对现有伪黎曼流形方法存在的框架低效、架构浅层、流形选择无指导等缺陷，提出了一套完整的解决方案。核心是构建微分同胚框架，将伪黎曼流形分解为球面空间与双曲空间的笛卡尔积，既解决测地线不连通问题，又保留图的循环和层次结构；基于此框架设计伪黎曼图Transformer（Q-GT），实现线性注意力、残差连接等核心操作的泛化；同时开发轻量级空间搜索算法，通过高斯截面曲率分布与KL散度自动匹配最优伪黎曼流形。实验表明，Q-GT在7个数据集的节点分类和4个数据集的链路预测任务中，持续优于黎曼流形和伪黎曼流形基线模型，尤其在大规模图和非齐次图上表现突出。

二、核心创新点

1. 微分同胚框架：首次将伪黎曼流形分解为球面空间与双曲空间的乘积，而非球面与欧氏空间的组合，完整保留图的循环（球面特性）和层次（双曲特性）结构。
2. 伪黎曼图Transformer（Q-GT）：首个基于伪黎曼几何的Transformer模型，实现了适用于伪黎曼流形的线性注意力、残差连接和层归一化操作，突破传统GNN的过平滑/过挤压问题。
3. 空间搜索算法：通过构建伪黎曼流形与理想高斯截面曲率分布的双射关系，利用KL散度自动选择最优的时间和空间维度，解决流形选择无指导的问题。
4. 混合架构设计：融合Q-GT的全局依赖捕捉能力与Q-GCN2的局部结构提取能力，通过平衡参数融合两者输出，提升表征学习的全面性。

---