5、基于模型的源分离方法：ICA与NMF详解

基于模型的源分离方法：ICA与NMF详解

1. 独立成分分析（ICA）

1.1 ICA概述

独立成分分析（ICA）是一种计算模型和信号处理方法，旨在将多通道混合信号分离为一组加性源信号或独立成分。它在无监督学习和盲源分离（BSS）中至关重要，还可用于特征提取和数据压缩。

ICA与主成分分析（PCA）和因子分析（FA）相关，但ICA追求各源的独立成分，而PCA和FA对应二阶方法，其成分或因子呈高斯分布。ICA有三个假设：
- 源信号在统计上相互独立。
- 每个独立成分具有非高斯分布。
- 混合系统是确定的，即传感器数量与源数量相同（n = m）。

1.2 非高斯性与对比函数

非高斯性可作为独立性的衡量指标，可通过互信息和高阶统计量（如峰度）来测量。零均值信号y的峰度公式为：
[kurt(y) = \frac{E[y^4]}{E^2[y^2]} - 3]
此公式用于测量解混信号y的四阶统计量，以评估其非高斯性或稀疏性。该测量可作为对比函数，用于寻找解混信号(y_t = Wx_t)。通过最大化对比函数(D(X,W))，利用训练样本集(X = {x_1, …, x_T})来估计解混矩阵W。除峰度外，基于似然函数、负熵和互信息的对比函数也可用于求解解混矩阵。

1.3 ICA学习过程

通常，对比函数(D(X,W))的最小化没有封闭形式的解，常用迭代学习过程，基于梯度下降或自然梯度算法来解决ICA问题。
- 梯度下降算法 ：
[W(\tau + 1) = W(\tau) - \eta\frac{\