矩阵间的求导

最近由于需要手推一些最优化函数的求解公式，因此整理了一下各种矩阵间的求导法则，以方便理解相关库的代码或者自己动手代码实现。

二范数类的矩阵求导

1. 形如
   $$E={\Vert P\Vert }^2$$
   则有
   $$\frac{\sigma E}{\sigma P}=2P$$
2. 形如
   $$E={\Vert P-Q\Vert }^2$$
   则有
   $$\frac{\sigma E}{\sigma P}=2(P-Q)$$
3. 形如
   $$E=⟨Y,Z-P{Q}^T⟩$$
   $$⟨\times ⟩表示对应元素相乘$$
   则有
   $$\frac{\sigma E}{\sigma Q}=－Y^{T}P\frac{\sigma E}{\sigma P}=－YQ$$
4. 形如
   $$E={\Vert Z-P{Q}^T\Vert }^2$$

则有
$$\frac{\sigma E}{\sigma Q}=(P{Q}^T-Z{)}^{T}P\frac{\sigma E}{\sigma P}=(P{Q}^T-Z)Q$$

5. 形如
   $$E={\Vert PQ\Vert }^2$$
   则有
   $$\frac{\sigma E}{\sigma Q}=2P^{T}PQ$$
   形如
   $$E={\Vert PQ-\xi \Vert }^2$$
   则有
   $$\frac{\sigma E}{\sigma Q}=2P^{T}PQ-2P^T\xi$$