yanta0的博客

主成分分析(PCA)假设我们一组二维数据点如图(1)所示，我们可以看出这两个维度具有很高的相似性，也就是说两个维度之间具有很高的冗余性，如果我们只想保留一个维度，那么该怎么选择才能尽可能多的保留原始数据的信息呢。我们先对数据进行归一化处理，得到的数据点如图(2)所示。然后将数据点映射到另一个新的空间，如图(3)所示，那么为了尽可能多的保留原始信息，我们需要将数据向x轴做一个投影。然后再将得到的...

MDS(多维尺度变换)多维尺度变换算法解决的问题是:当n个对象之间的相似性给定，确定这些对象在低维空间中的表示，并使其尽可能与原先的相似性大致匹配。高维空间中每一个点代表一个对象，因此点与点之间的距离和对象之间的相似度高度相关。可以这么理解，两个相似的对象在高维空间中由两个距离相近的点所表示，两个不相似的对象在高维空间中由两个距离比较远的点表示。其中MDS又分为classical MDS和...

LDA(线性判别算法)不同于PCA方差最大化理论，LDA算法的思想是将数据投影到低维空间之后，使得同一类数据尽可能的紧凑，不同类的数据尽可能分散。因此，LDA算法是一种有监督的机器学习算法。同时，LDA有如下两个假设:(1) 原始数据根据样本均值进行分类。(2) 不同类的数据拥有相同的协方差矩阵。当然，在实际情况中，不可能满足以上两个假设。但是当数据主要是由均值来区分的时候，LDA...

原理戳这里:超爱学习：机器学习算法-MDS降维算法​zhuanlan.zhihu.com1度量MDS衡量距离用欧式距离，对鸢尾花数据进行降维:library(stats)library(ggplot2) iris = irisdis_iris = dist(iris[,1:4],p = 2)mds_x = cmdscale(dis_iris)mds_x = data....

ISOMAP(等距特征映射)流形学习:传统的机器学习方法中，数据点和数据点之间的距离和映射函数都是定义在欧式空间中的，然而在实际情况中，这些数据点可能不是分布在欧式空间中的，因此传统欧式空间的度量难以用于真实世界的非线性数据，从而需要对数据的分布引入新的假设。流形学习假设所处理的数据点分布在嵌入于外维欧式空间的一个潜在的流形体上，或者说这些数据点可以构成这样一个潜在的流形体。图1 一个...

网上关于降维算法的资料一直是参差不齐，同时大部分资料也不提供算法的源代码，在此我实现了11种常见降维算法的代码，同时也给出了学习这些降维算法的资料连接，希望对学习降维算法的同学有一定的帮助。降维算法资料链接展示PCAhttps://blog.youkuaiyun.com/u013719780/article/details/78352262 https://blog.youkuaiyun.com...