一、矩阵求导
一般来讲,我们约定x=(x1,x2,...xN)Tx=(x1,x2,...xN)T,这是分母布局。常见的矩阵求导方式有:向量对向量求导,标量对向量求导,向量对标量求导。
1、向量对向量求导


2、标量对向量求导

3、向量对标量求导

其他的可以参考wiki:维基百科矩阵求导公式
二、几种重要的矩阵
1、梯度(Gradient)

2、雅克比矩阵(Jacobian matrix)

3、海森矩阵(Hessian matrix)

三、常用的矩阵求导公式

本文深入探讨了矩阵求导的基本概念,包括向量对向量、标量对向量以及向量对标量的求导方式。此外,还介绍了梯度、雅克比矩阵和海森矩阵等在数学和机器学习中极为重要的矩阵类型。
一、矩阵求导
一般来讲,我们约定x=(x1,x2,...xN)Tx=(x1,x2,...xN)T,这是分母布局。常见的矩阵求导方式有:向量对向量求导,标量对向量求导,向量对标量求导。
1、向量对向量求导


2、标量对向量求导

3、向量对标量求导

其他的可以参考wiki:维基百科矩阵求导公式
二、几种重要的矩阵
1、梯度(Gradient)

2、雅克比矩阵(Jacobian matrix)

3、海森矩阵(Hessian matrix)

三、常用的矩阵求导公式

985
488
379

被折叠的 条评论
为什么被折叠?