50、无监督学习：聚类的深入探讨

无监督学习：聚类的深入探讨

1. 矩阵函数的导数

在处理矩阵函数时，导数的计算是一个重要的环节。对于一个以矩阵 $\mathbf{M}$ 为自变量的实值函数 $F$，其关于 $\mathbf{M}$ 的导数是逐坐标计算的。设 $\mathbf{M} = (m_{i,j}) {i,j = 1}^p$，则 $\frac{\partial F}{\partial \mathbf{M}} = \begin{bmatrix} \frac{\partial F(\mathbf{M})}{\partial m {i,j}} \end{bmatrix}$。

例如，矩阵 $\mathbf{M}$ 的导数是一个所有 $p^2$ 个元素都为 1 的矩阵。由于向量可以看作是 $p \times 1$ 的矩阵，这个定义同样适用于以向量为自变量的实值函数。比如，平方范数的导数为 $\frac{\partial \mathbf{x}’\mathbf{M}\mathbf{x}}{\partial \mathbf{x}} = (\mathbf{M} + \mathbf{M}’)\mathbf{x}$，当 $p = 1$ 时，就退化为一维的情况。

此外，还有一些有用的结论：
- 行列式的导数：设 $\text{Cof}(\mathbf{M}) {i,j}$ 是 $\mathbf{M}$ 的 $(i,j)$ 余子式（带符号的子式），则 $\frac{\partial |\mathbf{M}|}{\partial m {i,j}} = \begin{cases} \text{Cof}(\mathbf{M}) {i,j}, & \text{if }