7、基于信息最大化的人脸建模：独立成分分析的应用与优势

基于信息最大化的人脸建模：独立成分分析的应用与优势

1. 引言

感官输入中的冗余包含着环境的结构信息。有观点认为，感官系统的作用是发展阶乘表示，将这些依赖关系分离成独立的成分，这种表示对于编码具有高阶依赖关系的复杂对象是有利的。

主成分分析（PCA）是一种流行的无监督统计方法，用于寻找有用的图像表示。它能将像素联合分布中的依赖关系分离到主成分系数的边缘分布中，但只能分离像素之间的成对线性依赖关系，高阶依赖关系仍会在主成分系数的联合分布中显现。

一些成功的人脸识别表示，如特征脸、整体子和局部特征分析等都是基于PCA的。然而，人脸识别任务中的许多重要信息可能包含在图像像素的高阶关系中，因此研究对高阶关系敏感的PCA的推广方法是很有必要的。独立成分分析（ICA）就是这样一种推广方法。

ICA有多种算法，这里采用了Bell和Sejnowski提出的infomax算法。该算法已成功应用于分离随机混合的听觉信号、脑电图信号和功能磁共振成像信号等。我们在两种架构下对图像集进行了ICA，并使用FERET数据库测试了人脸识别性能，将ICA表示的性能与PCA表示的性能进行了比较，还将两种ICA表示组合在一个分类器中。

2. 独立成分分析

2.1 infomax算法

我们选择了Bell和Sejnowski提出的infomax算法，该算法源于具有S形传递函数的神经元中最优信息传递的原理。

设(X)是一个(n)维随机向量，表示环境中输入的分布，(W)是一个(n×n)的可逆矩阵，(U = WX)，(Y = f (U))是一个(n)维随机变量，表示(n)个神经元的输出。通常使用逻辑函数作为(f)：