23、有向图的Jensen - Shannon散度核

有向图的Jensen - Shannon散度核

1. 引言

在图分析领域，寻找有效的方法来比较两个有向图的结构相似性是一个重要的问题。Jensen - Shannon散度为构建有向图的图核方法提供了一个很好的起点。通过该散度，可以根据两个单独图的熵以及它们的复合图的熵来计算图核。同时，引入的von Neumann熵可以量化有向图的结构复杂性，进而推导出Jensen - Shannon散度核的数学表达式。

2. 相关理论基础

2.1 Jensen - Shannon散度

Jensen - Shannon散度是一种用于评估两个概率分布之间相似性的互信息度量。给定概率分布集合 $M_1^+(X)$（其中 $X$ 是配备了可测子集的 $\sigma$ - 代数的集合），两个概率分布 $P$ 和 $Q$ 之间的Jensen - Shannon散度 $D_{JS}$ 计算如下：
[D_{JS}(P, Q) = \frac{1}{2}D_{KL}(P \parallel M) + \frac{1}{2}D_{KL}(M \parallel Q)]
其中 $D_{KL}$ 表示经典的Kullback - Leibler散度，$M = \frac{P + Q}{2}$。

更一般地，设 $\pi_p$ 和 $\pi_q$（$\pi_p + \pi_q = 1$ 且 $\pi_p, \pi_q \geq 0$）分别是概率分布 $P$ 和 $Q$ 的权重，则Jensen - Shannon散度可以定义为：
[D_{JS}(P, Q) = H_S(\pi_pP + \pi_qQ) - \pi_pH_S(P) - \pi_qH_S