Semi-Supervised Graph Classification: A Hierarchical Graph Perspective
作者提出的Self-Attentive Graph Embedding method(SAGE)方法是一种半监督学习(semi-supervised)的层级图(hierarchical graph )分类算法,该方法将supervised以及self-attentive graph embedding结合,通过把具有不同拓扑结构的图实例(graph instance)转化为固定长度的向量,然后构建出分类器IC、HC分别用于graph instance-level以及hierarchical graph-level充分挖掘有用信息。将提出的半监督SEAL-C/AI学习方法,数据集上采用一种迭代的框架反复更新IC以及HC。
Introduction
提出Self-Attentive Graph Embedding method(SAGE)方法,能够将变化的Graph Instance结合每个Node根据graph的重要性产生固定长度的向量。
Challenges
目前主要面临的问题是一下三个方面
- Size invariance:如何能够灵活地将任意大小的Graph Instance转换为固定长度的Embedding Vector;
- Permutation invariance:如何在不考虑节点排列的情况获得Node-level representation;
- Node importance:如何将不同节点的重要性编码成统一的Embedding Vector;
Method
Problem Formulation
- 将Graph classification转换为优化问题: m i n ζ ( G l ) + ξ ( G u ) min\zeta(G_l)+\xi(G_u) minζ(Gl)+ξ(Gu)
- ζ ( G l ) \zeta(G_l) ζ(Gl) 包含两部分 ζ ( G l ) = ∑ g i ∈ G l ( L ( y i , ψ i ) + L ( y i , γ i ) ) \zeta(G_l)=\sum_{g_i \in G_l}(L(y_i,\psi_i)+L(y_i,\gamma_i)) ζ(Gl)=∑gi∈Gl(L(yi,ψi)+L(yi,γi))
- disagreement loss ξ ( G u ) = ∑ g i ∈ G l D K L ( γ i ∣ ∣ ψ i ) \xi(G_u)=\sum_{g_i \in G_l}D_{KL}(\gamma_i||\psi_i) ξ(Gu)=∑gi∈GlDKL(γi∣∣ψi)
其中 D K L ( P ∥ Q ) = ∑ j P j