全球视野下的图神经网络创新:GSM - GNN与UPGAT的突破
在图神经网络(GNN)的研究领域,如何有效捕捉和利用全局信息一直是一个关键问题。本文将介绍两种创新的方法:Graph Structure Memory Enhanced Graph Neural Network(GSM - GNN)和Uncertainty - Aware Pseudo - neighbor Augmented Knowledge Graph Attention Network(UPGAT),它们分别在不同场景下为解决全局信息利用问题提供了独特的解决方案。
GSM - GNN:捕捉全局信息的图神经网络
1. 节点表示的加权融合
在GNN模型中,为了让节点能够同时聚合局部邻域信息和来自记忆的全局信息,我们提出为不同的表示向量分配不同的权重。具体来说,权重的计算方式如下:
(\beta_i = Softmax(W_o[\tilde{z} {v_i}||a {v_i}||z_{v_i}] + b_o))
其中,(W_o)和(b_o)是可学习的参数,(\beta_i \in R^3)是不同表示向量的权重。然后,根据这些权重将不同的表示向量相加,得到节点(v_i)的最终表示(h_{v_i}):
(h_{v_i} = \beta_{i,0}z_{v_i} + \beta_{i,1}a_{v_i} + \beta_{i,2}\tilde{z}_{v_i})
通过这种操作,GNN模型可以自适应地聚合局部和全局信息。我们的记忆模块可以存储具有代表性的全局信息,并帮助在整个图上传播这些信息。为了降低计算成本,我们仅使用该记忆模块来增强一层的表示。
GSM-GNN与UPGAT的创新突破
超级会员免费看
订阅专栏 解锁全文
13万+

被折叠的 条评论
为什么被折叠?



