降维算法之Isomap原理推导

流形学习Manifold Learning 与Isomap

1.Manifold

 “嵌入在高维空间中的低维流形”，最直观的例子通常都会是嵌入在三维空间中的二维或者一维流形。比如说一块布，可以把它看成一个二维平面，这是一个二维的欧氏空间，现在我们（在三维）中把它扭一扭，它就变成了一个流形（当然，不扭的时候，它也是一个流形，欧氏空间是流形的一种特殊情况）。

1.1判断流形的维数：

地球是一个流形，球面上的点，其实就是三维欧氏空间上的点，可以用一个三元组来表示其坐标。但是和空间中的普通点不一样的是，它们允许出现的位置受到了一定的限制，具体到球面，可以看一下它的参数方程：

 

可以看到，这些三维的坐标实际上是由两个变量  生成的，也可以说成是它的自由度是2，也正好对应了它是一个二维的流形。

1.2.引入测地线

    Isomap通过“改造一种原本适用于欧氏空间的算法”，达到了“将流形映射到一个欧氏空间”的目的。

    Isomap 所改造的这个方法是MDS，它的目的就是使得降维之后的点两两之间的距离尽量不变。只是 MDS 是针对欧氏空间设计的，对于距离的计算也是使用欧氏距离来完成的。如果数据分布在一个流形上的话，欧氏距离就不适用了。

&nb