11、多通道生物医学信号分析中的非线性依赖估计与连接性评估

多通道生物医学信号分析中的非线性依赖估计与连接性评估

1. MATLAB 教程：MVAR 相关内容

有一个 LiveScript 文件 matlab/c4/Ch4_03_MVAR_tutorial.mlx 展示了基于 MVAR 函数的计算和比较。

2. 信号间依赖关系的非线性估计

2.1 Kullback - Leibler 熵与互信息

• Kullback - Leibler（KL）熵 ：是衡量两个概率分布 $P$ 和 $Q$ 差异的非对称度量。对于离散随机变量 $i$ 的概率分布 $P(i)$ 和 $Q(i)$，其 KL 散度定义为：
  [D_{KL}(P||Q)=\sum_{i}P(i)\log\frac{P(i)}{Q(i)}]
  对于连续随机变量 $x$，KL 散度由积分定义：
  [D_{KL}(P||Q)=\int_{-\infty}^{\infty}p(x)\log\frac{p(x)}{q(x)}dx]
  其中 $p$ 和 $q$ 分别是 $P$ 和 $Q$ 的密度函数。通常 $P$ 表示数据、观测值或精确计算的理论分布，$Q$ 通常表示对 $P$ 的理论、模型、描述或近似。KL 熵也称为信息散度、信息增益或 Kullback - Leibler 散度。
• 互信息（MI） ：基于信息熵的概念。对于一对随机变量 $x$ 和 $y$，它们之间的互信息定义为：
  [MI_{xy}=\sum_{i,j}p_{ij}\log\frac{p_{ij}}{p_ip_j}] <