一、矩阵求导
一般来讲,我们约定x=(x1,x2,...xN)T
,这是分母布局。常见的矩阵求导方式有:向量对向量求导,标量对向量求导,向量对标量求导。
1、向量对向量求导

2、标量对向量求导


3、向量对标量求导

其他的可以参考wiki:维基百科矩阵求导公式
二、几种重要的矩阵
1、梯度(Gradient)


2、雅克比矩阵(Jacobian matrix)


3、海森矩阵(Hessian matrix)

三、常用的矩阵求导公式


参考:
https://blog.youkuaiyun.com/xtydtc/article/details/51133903
https://blog.youkuaiyun.com/yc461515457/article/details/49682473
博客主要介绍矩阵求导相关内容。约定采用分母布局,常见求导方式有向量对向量、标量对向量、向量对标量求导,还可参考wiki上的矩阵求导公式。同时介绍了几种重要矩阵,如梯度、雅克比矩阵、海森矩阵,还给出常用矩阵求导公式的参考链接。
667

被折叠的 条评论
为什么被折叠?



