图卷积神经网络(GCN)理解与tensorflow2.0代码实现

图(Graph)，一般用 $G=(V,E)$ 表示，这里的$V$是图中节点的集合，$E$ 为边的集合，节点的个数用$N$表示。在一个图中，有三个比较重要的矩阵：

1. 特征矩阵$X$：维度为 $N\times D$ ，表示图中有N个节点，每个节点的特征个数是D。
2. 邻居矩阵$A$：维度为 $N\times N$ ，表示图中N个节点之间的连接关系。
3. 度矩阵 $D$：维度为 $N\times N$ ，是一个对角矩阵，即只有对角线上不为零，其他位置元素都是 0 ，表示图中N个节点与其他节点相连的边的个数。对于无权图而言，$D_{ii}={\sum }_j{A}_{ij}$ 。

邻接矩阵与度矩阵例子如下图所示：

对于图像(Image)数据，我们可以用卷积核来提取特征，无论卷积核覆盖在图像的哪个部分，其内部结构都是一样的，这是因为图片结构具有平移不变性，如下图左半部分所示：

但是对于图(Graph)数据而言，其形状是不规则的，不具有平移不变性。于是 GCN，也就是图卷积神经网络，其目标就是设计一种特征提取器，进而完成节点分类、变预测等任务，还顺便可以得到每个节点的 embedding 表示。

上面展示了一个简单的 3x3 的卷积核，每次自左向右，自上而下扫描图片(Image)时，都是将 3x3 的像素进行加权求和，即：${\sum }_{i=1}^9{w}_i{x}_i$，然后将求和的结果作为该 3x3 区域的特征。

那么在图(graph)中要怎么提取特征？这里给出两种思路。

图卷积

思路一

CNN加权求和的思想也可以应用到图(Graph)的特征提取上，如下图所示：

对于节点 $i$，我们可以用其邻接节点加权求和的结果来表示当前节点，这个操作我们称为“聚合(aggregate)”：
$$agg(X_i)=\sum _{j\in neighbor(i)}{A}_{ij}{X}_j$$
考虑到与节点 $i$ 没有边连接的节点 $j$ ，对应的权重 $A_{ij}$ 为 0 ，因此上面的公式又可以改写为：
$$agg(X_i)=\sum _{j\in N}{A}_{ij}{X}_j$$
那么，对于所有的节点而言，其聚合的结果可以用下面的公式表示：
$$agg(X)=AX$$
上面的公式只考虑了邻居加权求和的结果，很多情况下，节点自身的信息是不可忽略的，因此一般情况下会把自身的特征也加回来：
$$agg(X_i)=$$