线性代数（五）——矩阵微积分补充

矩阵微积分补充

约定1：

令$\mathbf{y}=f(\mathbf{x})$,其中$\mathbf{y}$是含有m个元素的向量，$\mathbf{x}$是含有n个元素的向量，则：
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}=\left[\begin{array}{cccc}\frac{\partial y_1}{\partial x_1}& \frac{\partial y_1}{\partial x_2}& \cdots & \frac{\partial y_1}{\partial x_n}\\ \frac{\partial y_2}{\partial x_1}& \frac{\partial y_2}{\partial x_2}& \cdots & \frac{\partial y_2}{\partial x_n}\\ ⋮& ⋮& \ddots & ⋮\\ \frac{\partial y_m}{\partial x_1}& \frac{\partial y_m}{\partial x_2}& \cdots & \frac{\partial y_m}{\partial x_n}\end{array}\right]$$
这个$m\times n$的矩阵用来表示为由$\mathbf{x}$到$\mathbf{y}$的偏导数($\mathbf{y}$对$\mathbf{x}$求偏导)。这种矩阵我们称为雅克比矩阵。

注意：如果$\mathbf{x}$是一个标量，那么得到的雅克比矩阵实际上是一个$m\times 1$的列向量。如果$\mathbf{y}$是一个标量，那么得到的雅克比矩阵实际上是一个$1\times n$的行向量。

命题1：

令
$$\mathbf{y}=A\mathbf{x}$$
其中$\mathbf{y}$是$m\times 1$的列向量,$\mathbf{x}$是$n\times 1$的列向量,$A$是$m\times n$的矩阵，并且$A$不依赖$\mathbf{x}$,则
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}=A$$
证明：

对于$\mathbf{y}$的第i个元素：
$$y_i=\sum _{k=1}^n{a}_{ik}{x}_k$$
显然我们可以得到：
$$\frac{\partial y_i}{\partial x_j}=a_{ij}$$
对于所有的$i=1,2,\cdots ,m,j=1,2,\cdots ,n$有：
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}=A$$
命题2：

令
$$\mathbf{y}=A\mathbf{x}$$
其中$\mathbf{y}$是$m\times 1$的列向量,$\mathbf{x}$是$n\times 1$的列向量,$A$是$m\times n$的矩阵，$A$不依赖$\mathbf{x}$,并且我们假设$\mathbf{x}$是关于向量$\mathbf{z}$的函数，则
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}=A\frac{\partial \mathbf{x}}{\partial \mathbf{z}}$$
证明：

对于$\mathbf{y}$的第i个元素：
$$y_i=\sum _{k=1}^n{a}_{ik}{x}_k$$
于是我们可以得到：
$$\frac{\partial y_i}{\partial z_j}=\sum _{k=i}^n{a}_{ik}\frac{\partial x_k}{\partial z_j}$$
我们可以发现这只是$A\partial \mathbf{x}/\partial \mathbf{z}$的第$(i,j)$元素，因此我们可以得到：
$$\frac{\partial \mathbf{y}}{\partial \mathbf{z}}=\frac{\partial \mathbf{y}}{\partial \mathbf{x}}\frac{\partial \mathbf{x}}{\partial \mathbf{z}}=A\frac{\partial \mathbf{y}}{\partial \mathbf{z}}$$
命题3：

令标量$\alpha$定义如下：
$$\alpha ={\mathbf{y}}^{T}A\mathbf{x}$$
其中$\mathbf{y}$是$m\times 1$的列向量,$\mathbf{x}$是$n\times 1$的列向量,$A$是$m\times n$的矩阵，并且$A$不依赖$\mathbf{x},\mathbf{y}$，则：
$$\frac{\partial \alpha }{\partial \mathbf{x}}={\mathbf{y}}^{T}A$$
并且：
$$\frac{\partial \alpha }{\partial \mathbf{y}}={\mathbf{x}}^T{A}^T$$
证明：

我们不妨令：
$${\mathbf{w}}^T={\mathbf{y}}^{T}A$$
并且我们将$\alpha$写作：
$$\alpha ={\mathbf{w}}^T\mathbf{x}$$
由命题1我们可以得到：
$$\frac{\partial \alpha }{\partial \mathbf{x}}={\mathbf{w}}^T={\mathbf{y}}^{T}A$$
这是结果一。又因为$\alpha$是标量，所以：
$$\alpha ={\alpha }^T={\mathbf{x}}^T{A}^T\mathbf{y}$$
再次使用命题1,我们可以得到：
$$\frac{\partial \alpha }{\partial \mathbf{y}}={\mathbf{x}}^T{A}^T$$
命题4：

对于标量$\alpha$为二次型的特殊情况，$\alpha$写作如下形式：
$$\alpha ={\mathbf{x}}^{T}A\mathbf{x}$$
其中$\mathbf{x}$是$n\times 1$的列向量,$A$是$n\times n$的矩阵，并且$A$不依赖$\mathbf{x}$，则：
$$\frac{\partial \alpha }{\partial \mathbf{x}}={\mathbf{x}}^T(A+A^T)$$
证明：

由定义可知：
$$\alpha =\sum _{j=1}^n\sum _{i=1}^n{a}_{ij}{x}_i{x}_j$$
关于$\mathbf{x}$的第k个元素的微分：
$$\frac{\partial \alpha }{\partial x_k}=\sum _{j=1}^n{a}_{kj}{x}_j+\sum _{i=1}^n{a}_{ik}{x}_i$$
于是：
$$\frac{\partial \alpha }{\partial \mathbf{x}}={\mathbf{x}}^T{A}^T+{\mathbf{x}}^{T}A={\mathbf{x}}^T(A^T+A)$$

注意：此处的结论与第4节中的结论略有不同，第4章结论：
$$\frac{\partial \alpha }{\partial \mathbf{x}}=(A^T+A)\mathbf{x}$$
可以发现这两个结论只是相差一个转置而已：
$$((A^T+A)\mathbf{x}{)}^T={\mathbf{x}}^T(A+A^T)={\mathbf{x}}^T(A^T+A)$$
这是因为这里偏微分后的结果是个向量，对于向量中的单个元素而言，转置只是横着摆和竖着摆的区别($(A^T+A)\mathbf{x}$是列向量，${\mathbf{x}}^T(A+A^T)$是行向量)，从本质上来说并无区别。

但是，为何会产生这种差异？

通过上下文我们可以发现，在第4章中，对矩阵的偏微分结果是依赖于变量向量(矩阵)的形态：
$${\nabla }_{A}f(A)\in {\mathbb{R}}^{m\times n}=\left[\begin{array}{cccc}\frac{\partial f(A)}{\partial A_{11}}& \frac{\partial f(A)}{\partial A_{12}}& \cdots & \frac{\partial f(A)}{\partial A_{1n}}\\ \frac{\partial f(A)}{\partial A_{21}}& \frac{\partial f(A)}{\partial A_{22}}& \cdots & \frac{\partial f(A)}{\partial A_{2n}}\\ ⋮& ⋮& \ddots & ⋮\\ \frac{\partial f(A)}{\partial A_{m1}}& \frac{\partial f(A)}{\partial A_{m2}}& \cdots & \frac{\partial f(A)}{\partial A_{mn}}\end{array}\right]$$
但是在此补充当中，偏微分的结果始终应该是遵从雅克比矩阵：
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}=\left[\begin{array}{cccc}\frac{\partial y_1}{\partial x_1}& \frac{\partial y_1}{\partial x_2}& \cdots & \frac{\partial y_1}{\partial x_n}\\ \frac{\partial y_2}{\partial x_1}& \frac{\partial y_2}{\partial x_2}& \cdots & \frac{\partial y_2}{\partial x_n}\\ ⋮& ⋮& \ddots & ⋮\\ \frac{\partial y_m}{\partial x_1}& \frac{\partial y_m}{\partial x_2}& \cdots & \frac{\partial y_m}{\partial x_n}\end{array}\right]$$
所以按照第4章的定义，标量对列向量求导结果应当为列向量。

按照此补充中的雅克比矩阵定义，标量对向量求导应该为行向量。所以才会产生一个转置的差异。

实际上，在矩阵微积分中，矩阵的求导很多方面并没有统一的符号和表达方式。但是我们大致可以分为两类布局：

• 分子布局
• 分母布局

1. 分子布局

将：
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}$$
中的分子向量$\mathbf{y}$当做列向量，分母向量$\mathbf{x}$当做行向量处理(因为对于单个向量而言并没有行列之分，行列只是人为的规定)。得到结果就是雅克比矩阵：
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}=\left[\begin{array}{cccc}\frac{\partial y_1}{\partial x_1}& \frac{\partial y_1}{\partial x_2}& \cdots & \frac{\partial y_1}{\partial x_n}\\ \frac{\partial y_2}{\partial x_1}& \frac{\partial y_2}{\partial x_2}& \cdots & \frac{\partial y_2}{\partial x_n}\\ ⋮& ⋮& \ddots & ⋮\\ \frac{\partial y_m}{\partial x_1}& \frac{\partial y_m}{\partial x_2}& \cdots & \frac{\partial y_m}{\partial x_n}\end{array}\right]$$
如果将分子向量$\mathbf{y}$退化为标量$y$：
$$\frac{\partial y}{\partial \mathbf{x}}=\left[\begin{array}{cccc}\frac{\partial y}{\partial x_1}& \frac{\partial y}{\partial x_2}& \cdots & \frac{\partial y}{\partial x_n}\end{array}\right]$$
如果将分母向量$\mathbf{x}$退化为标量$x$:
$$\frac{\partial \mathbf{y}}{\partial x}=\left[\begin{array}{c}\frac{\partial y_1}{\partial x}\\ \frac{\partial y_2}{\partial x}\\ ⋮\\ \frac{\partial y_m}{\partial x}\end{array}\right]$$
下面这中情况，只存在与分子布局：

分子为矩阵$Y$，分母为标量$x$:
$$\frac{\partial Y}{\partial x}=\left[\begin{array}{cccc}\frac{\partial y_{11}}{\partial x}& \frac{\partial y_{12}}{\partial x}& \cdots & \frac{\partial y_{1n}}{\partial x}\\ \frac{\partial y_{21}}{\partial x}& \frac{\partial y_{22}}{\partial x}& \cdots & \frac{\partial y_{2n}}{\partial x}\\ ⋮& ⋮& \ddots & ⋮\\ \frac{\partial y_{m1}}{\partial x}& \frac{\partial y_{m2}}{\partial x}& \cdots & \frac{\partial y_{mn}}{\partial x}\end{array}\right]$$

2. 分母布局

将：
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}$$
中的分子向量$\mathbf{y}$当做行向量，分母向量$\mathbf{x}$当做列向量处理(因为对于单个向量而言并没有行列之分，行列只是人为的规定)。得到结果就是:
$$\frac{\partial \mathbf{y}}{\partial \mathbf{x}}=\left[\begin{array}{cccc}\frac{\partial y_1}{\partial x_1}& \frac{\partial y_2}{\partial x_1}& \cdots & \frac{\partial y_m}{\partial x_1}\\ \frac{\partial y_1}{\partial x_2}& \frac{\partial y_2}{\partial x_2}& \cdots & \frac{\partial y_m}{\partial x_2}\\ ⋮& ⋮& \ddots & ⋮\\ \frac{\partial y_1}{\partial x_n}& \frac{\partial y_2}{\partial x_n}& \cdots & \frac{\partial y_m}{\partial x_n}\end{array}\right]$$
如果将分子向量$\mathbf{y}$退化为标量$y$：
$$\frac{\partial \mathbf{y}}{\partial x}=\left[\begin{array}{c}\frac{\partial y}{\partial x_1}\\ \frac{\partial y}{\partial x_2}\\ ⋮\\ \frac{\partial y}{\partial x_n}\end{array}\right]$$
如果将分母向量$\mathbf{x}$退化为标量$x$:
$$\frac{\partial y}{\partial \mathbf{x}}=\left[\begin{array}{cccc}\frac{\partial y_1}{\partial x}& \frac{\partial y_2}{\partial x}& \cdots & \frac{\partial y_m}{\partial x}\end{array}\right]$$
下面这中情况，只存在与分母布局：

分子为标量$y$，分母为矩阵$X$:
$$\frac{\partial y}{\partial X}=\left[\begin{array}{cccc}\frac{\partial y}{\partial x_{11}}& \frac{\partial y}{\partial x_{12}}& \cdots & \frac{\partial y}{\partial x_{1n}}\\ \frac{\partial y}{\partial x_{21}}& \frac{\partial y}{\partial x_{22}}& \cdots & \frac{\partial y}{\partial x_{2n}}\\ ⋮& ⋮& \ddots & ⋮\\ \frac{\partial y}{\partial x_{m1}}& \frac{\partial y}{\partial x_{m2}}& \cdots & \frac{\partial y}{\partial x_{mn}}\end{array}\right]$$
可以发现这种分母布局便是第4章所提到的梯度.

通过观察可以发现，分子布局和分母布局在表达形式上只是相差一个转置而已。

对于以上两种布局我们可以总结为：什么布局，什么为列，什么布局，什么不变

例如：分子布局，分子为列(分子看做列向量)，分子布局，分子不变(求导后的矩阵每行的分子都是相同不变的)

但是在实际使用中，最初就会规定$\mathbf{x},\mathbf{y}$是列向量，或者行向量(以下默认向量为列向量)，则：

分子布局：
$$\frac{\partial \mathbf{x}}{\partial {\mathbf{x}}^T}=\left[\begin{array}{cccc}1& 0& \cdots & 0\\ 0& 1& \cdots & 0\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & 1\end{array}\right]=I$$
分母布局：
$$\frac{\partial {\mathbf{x}}^T}{\partial \mathbf{x}}=\left[\begin{array}{cccc}1& 0& \cdots & 0\\ 0& 1& \cdots & 0\\ ⋮& ⋮& \ddots & ⋮\\ 0& 0& \cdots & 1\end{array}\right]=I$$
（需要注意的是列对列，行对行求导我们这里不讨论。）

写到这里刚好解决我这段时间的一大困惑：
$$\mathbf{y}={\mathbf{x}}^{T}A$$
其中$\mathbf{x}$是$n\times 1$的列向量，$A$是$n\times m$的矩阵，明显$\mathbf{y}$是$1\times m$的行向量，于是我们可以得出（分母布局）：
$$\begin{array}{rl}\frac{\partial \mathbf{y}}{\partial \mathbf{x}}& =\frac{\partial {\mathbf{x}}^{T}A}{\partial \mathbf{x}}\\ & =\frac{\partial \left[\begin{array}{cccc}{\sum }_{i=1}^n{a}_{i1}{x}_i& {\sum }_{i=1}^n{a}_{i2}{x}_i& \cdots & {\sum }_{i=1}^n{a}_{im}{x}_i\end{array}\right]}{\partial \left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]}\\ & =\left[\begin{array}{cccc}{a}_{11}& a_{12}& \cdots & a_{1m}\\ a_{21}& a_{22}& \cdots & a_{2m}\\ ⋮& ⋮& \ddots & ⋮\\ a_{n1}& a_{n2}& \cdots & a_{nm}\end{array}\right]\\ & =A\end{array}$$
于是我便思考如果是$\mathbf{y}$的转置${\mathbf{y}}^T$对$\mathbf{x}$的求导的结果是否存在某种关联，但是现在我发现$y^T$是列向量，$\mathbf{x}$也是列向量，列向量对列向量求导依旧是列向量(也就是矩阵A的向量化$vec(A)$)，会改变现有A矩阵的形式。所以我们应该写成如下形式(分子布局)：
$$\begin{array}{rl}\frac{\partial {\mathbf{y}}^T}{\partial {\mathbf{x}}^T}& =\frac{\partial A^T\mathbf{x}}{\partial {\mathbf{x}}^T}\\ & =\frac{\partial \left[\begin{array}{c}{\sum }_{i=1}^n{a}_{i1}{x}_i\\ {\sum }_{i=1}^n{a}_{i2}{x}_i\\ ⋮\\ {\sum }_{i=1}^n{a}_{im}{x}_i\end{array}\right]}{\partial \left[\begin{array}{cccc}{x}_1& x_2& \cdots & x_n\end{array}\right]}\\ & \\ & =\left[\begin{array}{cccc}{a}_{11}& a_{21}& \cdots & a_{n1}\\ a_{12}& a_{22}& \cdots & a_{n2}\\ ⋮& ⋮& \ddots & ⋮\\ a_{1m}& a_{2m}& \cdots & a_{nm}\end{array}\right]\\ & \\ & =A^T\end{array}$$
我们可以发现分子布局和分母布局只是相差一个矩阵而已，即
$${\left(\frac{\partial \mathbf{y}}{\partial \mathbf{x}}\right)}^T=\frac{\partial {\mathbf{y}}^T}{\partial {\mathbf{x}}^T}$$
那么又如果$\mathbf{y}$退化为一个标量$y$，又是如何？

不妨令
$$y={\mathbf{x}}^T\mathbf{a}$$
其中$\mathbf{x}$是$n\times 1$的列向量,$\mathbf{a}$是$n\times 1$的列向量,显然$y$是一个标量，则（分子布局）：
$$\begin{array}{rl}\frac{\partial y}{\partial \mathbf{x}}& =\frac{\partial {\mathbf{x}}^T\mathbf{a}}{\partial \mathbf{x}}\\ & =\frac{\partial \left({\sum }_{i=1}^n{a}_i{x}_i\right)}{\partial \left[\begin{array}{c}{x}_1\\ x_2\\ ⋮\\ x_n\end{array}\right]}\\ & \\ & =\left[\begin{array}{c}{a}_1\\ a_2\\ ⋮\\ a_n\end{array}\right]\\ & \\ & =\mathbf{a}\end{array}$$
由于$y$是一个标量，所以有：
$$y=(y{)}^T={\mathbf{a}}^T\mathbf{x}$$
于是我们可以得到：
$$\frac{\partial {\mathbf{a}}^T\mathbf{x}}{\partial \mathbf{x}}=\mathbf{a}$$
如果标量$y^T$是对${\mathbf{x}}^T$求导呢（分母布局）？
$$\begin{array}{rl}\frac{\partial y^T}{\partial {\mathbf{x}}^T}& =\frac{\partial {\mathbf{a}}^T\mathbf{x}}{\partial {\mathbf{x}}^T}\\ & =\frac{\partial \left({\sum }_{i=1}^n{a}_i{x}_i\right)}{\partial \left[\begin{array}{cccc}{x}_1& x_2& \cdots & x_n\end{array}\right]}\\ & \\ & =\left[\begin{array}{cccc}{a}_1& a_2& \cdots & a_n\end{array}\right]\\ & \\ & ={\mathbf{a}}^T\end{array}$$

命题5：

假设命题4中的A是对称矩阵
$$\alpha ={\mathbf{x}}^{T}A\mathbf{x}$$
其中$\mathbf{x}$是$n\times 1$的列向量,$A$是$n\times n$的矩阵，并且$A$不依赖$\mathbf{x}$，则：
$$\frac{\partial \alpha }{\partial \mathbf{x}}=2x^{T}A$$
证明：由命题4即可证明

命题6：

假设标量$\alpha$为
$$\alpha ={\mathbf{y}}^T\mathbf{x}$$
其中$\mathbf{x}$是$n\times 1$的列向量,$\mathbf{y}$是$n\times 1$的列向量,​并且$\mathbf{x},\mathbf{y}$都是关于向量$\mathbf{z}$的函数,则：
$$\frac{\partial \alpha }{\partial \mathbf{z}}={\mathbf{x}}^T\frac{\partial \mathbf{y}}{\partial \mathbf{z}}+{\mathbf{y}}^T\frac{\partial \mathbf{x}}{\partial \mathbf{z}}$$
证明：
$$\alpha =\sum _{i=1}^N{x}_i{y}_i$$
向量$\mathbf{z}$的第k个元素的微分：
$$\frac{\partial \alpha }{\partial {\mathbf{z}}_k}=\sum _{i=1}^n\left(x_i\frac{\partial y_i}{\partial z_k}+y_i\frac{\partial x_i}{\partial z_k}\right)$$
所以我们可以得出;
$$\frac{\partial \alpha }{\partial \mathbf{z}}=\frac{\partial \alpha }{\partial \mathbf{y}}\frac{\partial \mathbf{y}}{\partial \mathbf{z}}+\frac{\partial \alpha }{\partial \mathbf{x}}\frac{\partial \mathbf{x}}{\partial \mathbf{z}}={\mathbf{x}}^T\frac{\partial \mathbf{y}}{\partial \mathbf{z}}+{\mathbf{y}}^T\frac{\partial \mathbf{x}}{\partial \mathbf{z}}$$
命题7

假设标量$\alpha$为
$$\alpha ={\mathbf{x}}^T\mathbf{x}$$
其中$\mathbf{x}$是$n\times 1$的列向量,并且$\mathbf{x}$是关于向量$\mathbf{z}$的函数,则：
$$\frac{\partial \alpha }{\partial \mathbf{z}}=2{\mathbf{x}}^T\frac{\partial \mathbf{x}}{\partial \mathbf{z}}$$
证明：由结论6证明

命题8

假设标量$\alpha$为
$$\alpha ={\mathbf{y}}^{T}A\mathbf{x}$$
其中$\mathbf{x}$是$n\times 1$的列向量,$\mathbf{y}$是$m\times 1$的列向量,$A$是$n\times n$的矩阵，$A$不依赖$\mathbf{z}$，并且$\mathbf{x},\mathbf{y}$是关于向量$\mathbf{z}$的函数,则：
$$\frac{\partial \alpha }{\partial \mathbf{z}}={\mathbf{x}}^T{A}^T\frac{\partial \mathbf{y}}{\partial \mathbf{z}}+{\mathbf{y}}^{T}A\frac{\partial \mathbf{x}}{\partial \mathbf{z}}$$
证明：令:
$${\mathbf{w}}^T={\mathbf{y}}^{T}A$$
则$\alpha$可以写作：
$$\alpha ={\mathbf{w}}^T\mathbf{x}$$
由结论6，我们可以得到：
$$\frac{\partial \alpha }{\partial \mathbf{z}}={\mathbf{x}}^T\frac{\partial \mathbf{w}}{\partial \mathbf{z}}+{\mathbf{w}}^T\frac{\partial \mathbf{x}}{\partial \mathbf{z}}$$
我们在将$\mathbf{w}$带回到式子中:
$$\begin{array}{rl}\frac{\partial \alpha }{\partial \mathbf{z}}& ={\mathbf{x}}^T\frac{\partial (A^T\mathbf{y})}{\partial \mathbf{z}}+{\mathbf{y}}^{T}A\frac{\partial \mathbf{x}}{\partial \mathbf{z}}\\ & ={\mathbf{x}}^T{A}^T\frac{\partial \mathbf{y}}{\partial \mathbf{z}}+{\mathbf{y}}^{T}A\frac{\partial \mathbf{x}}{\partial \mathbf{z}}\end{array}$$
命题9

假设标量$\alpha$为
$$\alpha ={\mathbf{x}}^{T}A\mathbf{x}$$
其中$\mathbf{x}$是$n\times 1$的列向量,$A$是$n\times n$的矩阵，$A$不依赖$\mathbf{z}$，并且$\mathbf{x}$是关于向量$\mathbf{z}$的函数,则：
$$\frac{\partial \alpha }{\partial \mathbf{z}}={\mathbf{x}}^T(A+A^T)\frac{\partial \mathbf{x}}{\partial \mathbf{z}}$$
证明：有结论8得出

命题10

假设标量$\alpha$为，其中A为对称矩阵
$$\alpha ={\mathbf{x}}^{T}A\mathbf{x}$$
其中$\mathbf{x}$是$n\times 1$的列向量,$A$是$n\times n$的矩阵，$A$不依赖$\mathbf{z}$，并且$\mathbf{x}$是关于向量$\mathbf{z}$的函数,则：
$$\frac{\partial \alpha }{\partial \mathbf{z}}=2{\mathbf{x}}^{T}A\frac{\partial \mathbf{x}}{\partial \mathbf{z}}$$
证明：有结论9得出

命题11：

如果A是一个$m\times m$的可逆矩阵，那么A对标量$\alpha$的偏微分是:
$$\frac{\partial A^{-1}}{\partial \alpha }=-A^{-1}\frac{\partial A}{\partial \alpha }{A}^{-1}$$
证明:由定义可知
$$A^{-1}A=I$$
等式两边对标量$\alpha$微分：
$$A^{-1}\frac{\partial A}{\partial \alpha }+\frac{\partial A}{\partial \alpha }A=0$$
移项：
$$\frac{\partial A^{-1}}{\partial \alpha }=-A^{-1}\frac{\partial A}{\partial \alpha }{A}^{-1}$$