使用LDA(Linear Discriminant Analysis)进行降维(dimention reduction)详解和实战
LDA也可被视为一种监督降维技术。不同于PCA(Principle Compoent Analysis)它是一种有监督的降维方法;
LDA模型的优缺点:
优点: 在降维过程中可以使用类别的先验知识经验,而像PCA这样的无监督学习则无法使用类别先验知识。 在样本分类信息依赖均值而不是方差的时候,比PCA之类的算法较优。
缺点: 不适合对非高斯分布样本进行降维,PCA也有这个问题。 降维最多降到类别数k-1的维数,如果我们降维的维度大于k-1,则不能使用LDA。当然目前有一些LDA的进化版算