矩阵导数是深度学习中重要的数学工具，它将多元函数求导的结果以矩阵形式表示，便于计算。导数定义包括矩阵/向量值函数对实数的导数，实值函数对矩阵/向量的导数。在机器学习中，通常涉及求标量损失函数对矩阵参数的导数，如利用雅克比矩阵进行计算。特殊情况下，如∇xAx=A和∇xx=∇xIx=I，展示了一些特定的导数形式。
矩阵求导：本质上只不过是多元函数求导，仅仅是把函数的自变量以及求导的结果排列成了矩阵的形式，方便表达与计算而已。
导数定义：
- 矩阵/向量值函数对实数的导数
- 求导结果与函数值同型（m×n矩阵求导结果也是m×n矩阵），且每个元素就是函数值的相应分量对自变量x求导，∂f∂xij=∂fij∂x
。导数可以记做∇xF
或∇'F
- 实值函数对矩阵/向量的导数
- 求导结果与自变量同型，且每个元素就是f对自变量的相应分量求导，∂f∂Xij=∂f∂xij
最低0.47元/天 解锁文章
扫一扫
03-10
03-29
2万+
2万+
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
