9、最小二乘法及相关理论：从距离矩阵到降维方法的探索

最小二乘法及相关理论：从距离矩阵到降维方法的探索

1. 距离矩阵与复配置

在处理距离矩阵相关问题时，我们会遇到不同类型的距离矩阵。对于一个实的非欧几里得距离矩阵 (D = {d_{il}})，我们需要在复域中寻找一个复配置 (X) 来重现它。具体来说，复配置 (X = P \text{blkdiag}(\Lambda_r, 0) + jP \text{blkdiag}(0, \Lambda_{p - r})) 可以重现实的格兰姆矩阵 (B = XX^T) 和非欧几里得距离矩阵 (D)。这表明复域作为扩展域，对于处理这类问题是必要的。如果距离矩阵是一个合适的欧几里得距离矩阵，那么 (M) 将是单位矩阵，并且 (X) 的复解的虚部将为零。

这里有几种不同的解释：
- 实配置在闵可夫斯基空间中的解释 ：实配置 (X = P\Lambda)，其中 (\Lambda = \text{diag}(k_1, \ldots, k_r, |k_{r + 1}|, \ldots, |k_p|))，在具有闵可夫斯基内积 (X^T MX) 的闵可夫斯基空间中重现非欧几里得距离矩阵 (D)。
- 复配置在复欧几里得空间中的解释 ：复配置 (X = P\Lambda M^{1/2}) 在复欧几里得空间中重现非欧几里得矩阵 (B)，并使用非厄米内积重现 (D) 中的伪距离。
- 距离的分解解释 ：对于配置 (X = P\Lambda)，距离 ((x_i - x_l)M(x_i - x_l)^T) 可以写成 ((u_i - u_l)(u_i - u_l)^T - (v_i - v_l)(v