MDS 降维 详细推导 及 Python实现

MDS的思路就是保持新空间与原空间的相对位置关系，先用原空间的距离矩阵D，求得新空间的内积矩阵B，再由内积矩阵B求得新空间的表示方法Z。

西瓜书上的推导比较简洁，自己详细的推了一遍。

假设Z矩阵是新空间的表示，mxd'维，z1，z2到zm表示一个行向量，即每一个样本。

定义新空间的内积矩阵B，B矩阵的bij元素，即是z的第i行与第j行的内积。

为了使新空间与原空间保持相对位置关系，新空间两个样本的距离要等于（或者约等于）原空间的距离。

为了便于讨论，这里使Z被中心化，即Z所有元素相加=0。

下面开始推导，对于里面的bij项，对i从1到m求和，j不动：

同理：

对于bii项，对的i