【图神经网络基础】理解GCN的对称归一化操作-图的拉普拉斯归一化

1 对称归一化的意义

  对图卷积网络的公式，已经非常熟悉了，并且对公式表示的意思也能理解即：实现图中节点之间的消息传递或者称做特征传递。但是在dgl框架的学习过程中，对于单向二部图的图卷积操作的使用过程中，需要深入的理解图邻接矩阵的对称归一化操作也即图的拉普拉斯正则。
$$H^{(l+1)}=\sigma \left({\tilde{D}}^{-1/2}\tilde{A}{\tilde{D}}^{-1/2}{H}^l{W}^l\right)$$
其中$\tilde{D}=D+I,\tilde{A}=A+I$。
  通过查询各个博主的观点，图卷积的对称归一化主要有以下意义：

1. 是为了信息传递的过程中保持特征矩阵 $H$的原有分布，防止一些度数高的顶点和度数低的顶点在特征分布上产生较大的差异[1]。
2. 采用加法规则进行聚合时，度大的节点的特征会越来越大，度小的节点的特征会越来越小，所以需要归一化[2]。
3. 归一化$D^{-1}$即可以实现采用$D^{-1/2}A{D}^{-1/2}$是为了保证图的对称性并且特征归一化有利于神经网络的学习[3]。关于为什么归一化或者标准化对神经网络学习的影响可以见[5][6]。

2 例子解释

(图来自参考文献[7])

$$A=\left\{\begin{array}{llllll}0& 1& 0& 0& 1& 0\\ 1& 0& 1& 0& 1& 0\\ 0& 1& 0& 1& 0& 0\\ 0& 0& 1& 0& 1& 1\\ 1& 1& 0& 1& 0& 0\\ 0& 0& 0& 1& 0& 0\end{array}\right\},D=\{\begin{array}{llll}2& 0& 0& 0\\ 0& 3& 0& \\ 0& 0& 2& \\ 0& 0& 0& \\ 0& 0& 0& \\ 0& 0& 0& \end{array}$$