通俗易懂的机器学习——梯度上升主成分分析数学原理推导及解释

前言

梯度上升主成分分析也是一个常用来进行降维、降噪的操作，它通过变换坐标轴（实际上是数据的映射）使得数据直接的方差最大，即更容易划分

目的和原理浅析

获得主成分特征向量，在梯度上升主成分分析中求的是能够将原数据映射到方差更大的坐标轴上（有些书或视频也说移动坐标轴），而映射的方式可以是乘上一个映射方向的单位向量。

预处理

为了方便运算，首先要将数据进行预处理，这里做的预处理是均值零化，即：将所有数据减去均值。
$$x_i=x_i-\bar{x}$$

公式推导以及解释

目标

我们要得到的是方差最大的数据，即：
$$max\frac{1}{n}\sum _{i=1}^n(x_p^i-\bar{x}{)}^{}$$