Step by step

参考：refenrence简介线性判别分析（Linear Discriminant Analysis）作为一种监督式的降维方法，同时也用作分类器，它主要思想是：使得对原空间进行投影运算后，类间的样本点数据分布间隔大，而类内样本点数据分布方差小。原理有了上述思想后，我们尝试着自己一步步把这个思想具体化。最近在看《数据之旅》，王教授提到学习数学需要重要培养的一个能力：抽象能力。数学...

推荐一篇绝对好的文章：理解PCA的数学原理首先PCA设计严格的数学推导证明！尤其设计矩阵的知识比较多，这里会简要地记录自己学习过程中觉得很重要的东西，具体的细节可以看我上面推荐的一篇文章。简介 PCA（Principle Component Analysis）主成分分析，主要应用于数据降维。 当数据集的维度过高之后，运用各种算法处理起来的时间复杂度可能会很高，所以需要对数据进行降维处理

实际应用场景下，面对多种数据降维方法，我们应该清楚地了解各降维方法的原理，熟知其优劣，将其合理地应用于需处理的问题中。下面，将从实际应用的角度，对各降维算法逐个进行优劣分析。PCA优点：能够从数据集中提取新的特征（原始特征的线性组合），并且这些特征能够最大程度捕捉数据集中方差较大的特征，同时提取的新特征之间彼此不相关。一些预测模型要求预测变量之间无相关性（弱相关性），以便得到稳定的数...

简介非负矩阵分解（Non-negative Matrix Factorization），作为一种非监督式的降维方法，其主要思想正如其名字描述的那样：将一个非负原始矩阵分解为两个非负矩阵的积（Vm ∗ n=Wm ∗ r⋅V′r ∗ nVm ∗ n=Wm ∗ r⋅Vr ∗ n′V...

论文链接：Hybrid Subspace Learning for High-Dimensional Data1. Abstract2. Introduction3. Motivation4. Model5. Optimization6. Data experiments