【机器学习】PCA与ICA

PCA

概念

PCA算法主要用于降维，就是将样本数据从高维空间投影到低维空间中，并尽可能的在低维空间中表示原始数据
先求出这堆样本数据的协方差矩阵，然后再求出这个协方差矩阵的特征值和特征向量，对应最大特征值的那个特征向量的方向就是长轴(也就是主元)的方向，次大特征值的就是第二主元的方向，以此类推。
PCA原理分析和Matlab实现方法（三）
MATLAB代码：pca与fast

异常检测

通过主成分分析方法可以把原始空间分解为主元空间和残差空间。一般地，基于PCA算法进行异常检测的过程可以通过建立统计量来检验结果，判断运行数据是否包含有异常信息。通常是在主元空间建立Hotellng T2统计量来进行统计检验，在残差空间建立SPE统计量来进行统计检验。

贡献图法[501是目前较为常用的异常诊断方法。贡献图法是将每个过程变量在主元空间和残差空间中，分别对T统计量和SPE统计量的贡献率计算出来并绘制成直方图而得到的，是各个变量的变化对系统统计模型的稳定性影响程度的反映。

ICA

ICA算法
独立成分分析 ( ICA )