降维算法_LDA_PAC

PAC

• pac概述 主成分分析Principal Component Analysis

用途：降维,将N维的向量映射到 K维，从中提取有用信息，但是降维后的信息可能并不具有直观的意义。

• 降维过程：
  1、原理：原向量经过 基变换 得到新向量
  2、如何寻找合适的基：
  1）降维的目的：希望投影后的投影值尽可能分散。
  2）引入 方差：一维基，使得所有数据变换为这个基上的坐标表示后，方差值最大。
  3）对于这一组基的要求：相互正交，是单位向量。
  4）引入 协方差：表示两向量之间的关联程度。
  5）协方差矩阵：矩阵主对角线上的分别是两个基的方差，而其它元素是协方差(应为0)。
  
  6）协方差矩阵对角化，实对称矩阵。