一、矩阵求导
一般来讲,我们约定x=(x1,x2,...xN)Tx=(x1,x2,...xN)T,这是分母布局。常见的矩阵求导方式有:向量对向量求导,标量对向量求导,向量对标量求导。
1、向量对向量求导


2、标量对向量求导

3、向量对标量求导

其他的可以参考wiki:维基百科矩阵求导公式
二、几种重要的矩阵
1、梯度(Gradient)

2、雅克比矩阵(Jacobian matrix)

3、海森矩阵(Hessian matrix)

三、常用的矩阵求导公式

博客主要介绍矩阵求导相关内容。约定分母布局,阐述常见矩阵求导方式,包括向量对向量、标量对向量、向量对标量求导,还提及可参考维基百科矩阵求导公式。此外,介绍了梯度、雅克比矩阵、海森矩阵等重要矩阵及常用矩阵求导公式。
一、矩阵求导
一般来讲,我们约定x=(x1,x2,...xN)Tx=(x1,x2,...xN)T,这是分母布局。常见的矩阵求导方式有:向量对向量求导,标量对向量求导,向量对标量求导。
1、向量对向量求导


2、标量对向量求导

3、向量对标量求导

其他的可以参考wiki:维基百科矩阵求导公式
二、几种重要的矩阵
1、梯度(Gradient)

2、雅克比矩阵(Jacobian matrix)

3、海森矩阵(Hessian matrix)

三、常用的矩阵求导公式

2万+
372

被折叠的 条评论
为什么被折叠?