向量和矩阵的微分

最新推荐文章于 2023-06-24 17:42:11 发布

原创

最新推荐文章于 2023-06-24 17:42:11 发布 · 3.5k 阅读

12 ·

CC 4.0 BY-SA版权

该博客深入探讨了向量和矩阵在微分计算中的各种情况，包括列向量对元素、矩阵对元素、元素对向量、元素对矩阵的求导，以及列向量对列向量、列向量对矩阵、矩阵对列向量的求导规则。同时，讲解了向量和矩阵乘积、逆矩阵和行列式的微分，以及复合函数的求导方法，为读者提供了完整的向量和矩阵微分理论框架。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

对元素求导

列向量对元素求导

y = [y 1, y 2, . . ., y d] T \in R d, x \in R, \partial y \partial x = [\partial y 1 x, \partial y 2 x, \dots, \partial y d x] T

$\textbf{y}= [y_1, y_2, ..., y_d]^T \in R^d, x \in R ,\frac{\partial \textbf{y} }{\partial x}= \left[ \frac{ \partial y_1}{x},\frac{ \partial y_2}{x},\dots,\frac{ \partial y_d}{x} \right]^T$

矩阵对元素求导

Y = ⎡ ⎣ ⎢ ⎢ y 11 ⋮ y d 1 \dots ⋱ \dots y 1 d ⋮ y d d ⎤ ⎦ ⎥ ⎥ \in R d \times d, x \in R, \partial Y \partial x = ⎡ ⎣ ⎢ ⎢ ⎢ ⎢ \partial y 11 \partial x ⋮ \partial y d 1 \partial x \dots ⋱ \dots \partial y 1 d \partial x ⋮ \partial y d d \partial x ⎤ ⎦ ⎥ ⎥ ⎥ ⎥

$Y= \begin{bmatrix} y_{11} & \dots & y_{1d} \\ \vdots & \ddots & \vdots \\ y_{d1} & \dots & y_{dd} \end{bmatrix} \in R^{d\times d}, x \in R, \frac{\partial Y}{\partial x}= \begin{bmatrix} \frac{\partial y_{11}}{\partial x} & \dots & \frac{\partial y_{1d}}{\partial x} \\ \vdots & \ddots & \vdots \\ \frac{\partial y_{d1}}{\partial x} & \dots & \frac{\partial y_{dd}}{\partial x} \end{bmatrix}$

对向量求导