【图机器学习入门】拉普拉斯算子与拉普拉斯矩阵的关系

1 前言

  本文为自己学习的记录，内容多有参考其他博主的资料，相关资料一并在参考文献中给出。
  谱图理论目的是研究图的邻接矩阵，而其中最重要的概念就是拉普拉斯矩阵。拉普拉斯矩阵之所以在图神经网络中如此重要，是因为如果要把传统的傅里叶变换以及卷积迁移到Graph上来，核心工作其实就是把拉普拉斯算子的特征函数$e^{-iwt}$，变为Graph对应的拉普拉斯矩阵的特征向量。
  通过拉普拉斯算子与拉普拉斯矩阵进行类比。

2 拉普拉斯算子

  拉普拉斯算子和散度算子、梯度算子、求导算子一样，都是一种多元函数的计算操作。例如对函数$f(x)$求导，对其求梯度，求拉普拉斯，都是对函数的一种操作。
  拉普拉斯算子的定义：拉普拉斯算子（Laplace Operator）是 维欧几里得空间中的一个二阶微分算子，定义为梯度（$\nabla f$）的散度（$\nabla \cdot$），即， $\Delta f={\nabla }^{2}f=\nabla \cdot \nabla f=div(grad(f))$
  梯度的定义（矢量）：梯度（$\nabla$），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该方向处沿着该方向（此梯度方向）变化最快，变化率最大（为该梯度的模）。
  散度的定义：可用于表针空间中各点矢量场发散的强弱程度，物理上，散度的意义是场的有源性。当$div(F)>0$ 表示该点有散发通量的正源（发散源）；$div(F)<0$表示该点有吸收能量的负源（洞或汇）；$div(F)=0$，表示该点无源。

  从拉普拉斯算子的定义看（梯度散度），梯度散度较大的点对应函数的最小值，该点周围的值都要大于该点，梯度散度较小的点对应函数的最大值，周围的点值都比该点小。可以想像一座山，根据梯度的定义，在山峰周围，所有的梯度向量向此汇聚，所以每个山峰处的拉普拉斯算子为负；而在山谷周围，所有梯度从此发散，所以每个山谷处的拉普拉斯算子为正。所以说，对于一个函数，拉普拉斯算子实际上衡量了在空间中的每一点处，该函数梯度是倾向于增加还是减少
  如下图中绿圈所示，即为散度大于0的点，其附近的矢量场情况。下图中红圈所示，即为散度小于0的点，其附近的矢量场情况。

  从计算的角度讲，拉普拉斯算子可以类比普通二元函数的二阶导数。
  在笛卡尔坐标下
$$\Delta f=\frac{{\partial }^{2}f}{\partial x^2}+\frac{{\partial }^{2}f}{\partial y^2}+\frac{{\partial }^{2}f}{\partial z^2}$$
  n维形式下：
$$\Delta =\sum _i\frac{{\partial }^2}{\partial x_i^2}$$
下面推导离散函数的导数：

$$\begin{array}{l}\frac{\partial f}{\partial x}=f^{\prime }(x)=f(x+1)-f(x)\\ \frac{{\partial }^{2}f}{\partial x^2}=f^{\prime \prime }(x)\approx f^{\prime }(x)-f^{\prime }(x-1)\\ =f(x+1)+f(x-1)-2f(x)\end{array}$$
则我们可以将拉普拉斯算子也转化为离散形式（以二维为例）

$$\begin{array}{l}\Delta f=\frac{{\partial }^{2}f}{\partial x^2}+\frac{{\partial }^{2}f}{\partial y^2}\\ =f(x+1,y)+f(x-1,y)-2f(x,y)+f(x,y+1)+f(x,y-1)-2f(x,y)\\ =f(x+1,y)+f(x-1,y)+\end{array}$$