37、核主成分分析（KPCA）在面部图像预处理中的应用

核主成分分析（KPCA）在面部图像预处理中的应用

1. 核主成分分析（KPCA）原理

KPCA 在特征空间 $H_{\kappa}$ 中执行线性 PCA，以学习数据的最大变化，可视为数据的非线性描述。假设 ${x_1, \cdots, x_N}$，$x_i \in X$ 是 $N$ 个训练样本。
- 定义 $\Psi = [x_1, \cdots, x_N]$，$\Psi_{\phi} = [\phi(x_1), \cdots, \phi(x_N)]$，$\mu_{\phi} = \frac{1}{N} \sum_{i=1}^{N} \phi(x_i) = \frac{1}{N} \Psi_{\phi} e_N$，其中 $e_N = (1, \cdots, 1)^T \in \Re^N$。
- 记 $O_{\phi}^t = \frac{1}{\sqrt{N}}(\phi(x_1) - \mu_{\phi}, \cdots, \phi(x_N) - \mu_{\phi})$，KPCA 要解决以下特征值函数：
- $S_{\phi}^t U_{\phi} = U_{\phi} \Lambda_{\phi}$，其中 $S_{\phi}^t = O_{\phi}^t O_{\phi}^{tT}$，$U_{\phi} = (u_{\phi}^1, \cdots, u_{\phi}^q)$，$\Lambda_{\phi} = diag(\lambda_{\phi}^1, \cdots, \lambda_{\phi}^q)$，$\lambda_{\phi}^1 \geq \cdots \geq \lambda_{\phi}^q > 0$。
- 经过推导可得 $S_{\phi}^t =