舒尔补【Schur Complement】

---

舒尔补（Schur complement)是线性代数中的一个重要概念，经常在矩阵理论、优化问题和数值计算中出现。舒尔补可以用来简化大型线性系统的求解和分析，特别是在稀疏矩阵和块矩阵的情况下。

一、定义

设$M$为一个$(p+q)\times (p+q)$的方阵：
$$\mathrm{M}=\left[\begin{array}{cc}\mathrm{A}& \mathrm{B}\\ \mathrm{C}& \mathrm{D}\end{array}\right]$$
其中$A,B,C,D$分别表示 $p\times p,p\times q,q\times p,q\times q$ 维度的矩阵，$p,q$为两个非负整数。

如果$D$是可逆的,则矩阵$D$的 Schur complement 被定义为：
$$M/D:=\mathrm{A}-{\mathrm{BD}}^{-1}\mathrm{C}.$$
如果$A$是可逆,则矩阵$A$的 Schur complement 被定义为：
$$\mathrm{M}/\mathrm{A}:=\mathrm{D}-\mathrm{C}{\mathrm{A}}^{-1}\mathrm{B}.$$
Tips:顺时针记忆.

二、推导

当对矩阵$M$执行块高斯消元时，会产生舒尔补。为了消去块对角线以下的元素，需要将矩阵$M$乘以一个块下三角矩阵，如下所示:
$$\begin{array}{rl}& M=\left[\begin{array}{cc}A& B\\ C& D\end{array}\right]\to \left[\begin{array}{cc}A& B\\ C& D\end{array}\right]\left[\begin{array}{cc}{I}_p& 0\\ -D^{-1}C& I_q\end{array}\right]=\left[\begin{array}{cc}A-B{D}^{-1}C& B\\ 0& D\end{array}\right],\end{array}$$
进一步，我们还可以将$M$分解为对角块矩阵：
$$\mathrm{M}=\left[\begin{array}{cc}\mathrm{A}& \mathrm{B}\\ \mathrm{C}& \mathrm{D}\end{array}\right]=\left[\begin{array}{cc}{\mathrm{I}}_{\mathrm{p}}& \mathrm{B}{\mathrm{D}}^{-1}\\ 0& {\mathrm{I}}_{\mathrm{q}}\end{array}\right]\left[\begin{array}{cc}\mathrm{A}-\mathrm{B}{\mathrm{D}}^{-1}\mathrm{C}& 0\\ 0& \mathrm{D}\end{array}\right]\left[\begin{array}{cc}{\mathrm{I}}_{\mathrm{p}}& 0\\ {\mathrm{D}}^{-1}\mathrm{C}& {\mathrm{I}}_{\mathrm{q}}\end{array}\right].$$

三、一些性质

下面假设$A$可逆，则其舒尔补为$\mathrm{M}/\mathrm{A}.$

1. $\det M=\det A\det \mathrm{M}/\mathrm{A}$.
2. $\mathrm{rank}M=\mathrm{rank}A+\mathrm{rank}\mathrm{M}/\mathrm{A}$.
3. 如果$M$是Hermitian矩阵，则存在非奇异矩阵$T$,使得：
   $$\mathrm{TM}{\mathrm{T}}^{\ast }=\left[\begin{array}{cc}\mathrm{A}& 0\\ 0& \mathrm{M}/\mathrm{A}\end{array}\right]$$
   其中$T^{\ast }$为$T$的共轭转置，也就是说当$M$为Hermitian矩阵时，存在一个合同变换将$M$变换为块对角矩阵，而合同变换有一个性质是不会改变Hermitian矩阵的惯性指数（正、负、零特征值的个数）.由这个性质可以自然的推导出下面的性质.
4. 用来判断$M$或者$\mathrm{M}/\mathrm{A}$是否正定的性质：
   $$M\succ 0\iff A\succ 0,\mathrm{M}/\mathrm{A}\succ 0$$
   也就是说，M是否正定可以用A是否正定来判断，反之亦然.在优化领域中常用判断矩阵是否正定.

四、解线性方程组

舒尔补会在求解线性方程组时出现，例如我们要求解如下方程组 ：
$$\left[\begin{array}{ll}A& B\\ C& D\end{array}\right]\left[\begin{array}{l}x\\ y\end{array}\right]=\left[\begin{array}{l}u\\ v\end{array}\right].$$

假设子矩阵$A$是可逆的，我们可以从方程中消除$x$，如下所示：
$$x=A^{-1}(u-By),$$

将这个表达式代入第二个方程得到
$$\left(D-C{A}^{-1}B\right)y=v-C{A}^{-1}u.$$

我们将其称为从原始方程中消除$x$后得到的简化方程。在简化方程中出现的矩阵被称为$M$中第一个块$A$的舒尔补，我们记为:
$$S\stackrel{\text{ def }}{=}D-C{A}^{-1}B.$$

解简化后的方程，得到
$$y=S^{-1}\left(v-C{A}^{-1}u\right).$$

将它代入第一个方程得到
$$x=\left(A^{-1}+A^{-1}B{S}^{-1}C{A}^{-1}\right)u-A^{-1}B{S}^{-1}v.$$

我们可以将上述两个方程表示为:
$$\left[\begin{array}{l}x\\ y\end{array}\right]=\left[\begin{array}{cc}{A}^{-1}+A^{-1}B{S}^{-1}C{A}^{-1}& -A^{-1}B{S}^{-1}\\ -S^{-1}C{A}^{-1}& S^{-1}\end{array}\right]\left[\begin{array}{l}u\\ v\end{array}\right]$$

因此，分块矩阵的逆矩阵表达式为:
$${\left[\begin{array}{ll}A& B\\ C& D\end{array}\right]}^{-1}=\left[\begin{array}{cc}{A}^{-1}+A^{-1}B{S}^{-1}C{A}^{-1}& -A^{-1}B{S}^{-1}\\ -S^{-1}C{A}^{-1}& S^{-1}\end{array}\right]=\left[\begin{array}{cc}{I}_p& -A^{-1}B\\ & I_q\end{array}\right]\left[\begin{array}{cc}{A}^{-1}& \\ & S^{-1}\end{array}\right]\left[\begin{array}{cc}{I}_p& \\ -C{A}^{-1}& I_q\end{array}\right].$$

我们可以看到，利用舒尔补，可以在解方程组时降低方程的维数.

五、参考资料

1. https://en.wikipedia.org/wiki/Schur_complement