本文介绍了Jacobian矩阵和梯度矩阵的概念。Jacobian矩阵是求偏导时，自变量水平展开，函数竖直展开形成的矩阵。而梯度矩阵（重点）是列向量偏导算子，是机器学习中的重要概念。梯度向量表示实值标量函数的偏导组合，矩阵函数的梯度矩阵等价于其Jacobian矩阵的转置。
记号标识
标量：常规小写字母；
向量：加粗的小写字母: x=[x1,⋯ ,xm]T∈Rm\bm x=[x_1,\cdots,x_m]^T \in \mathbb{R}^mx=[x1,⋯,xm]T∈Rm ;
实矩阵：加粗的大写字母：X=[x1,⋯ ,xn]T∈Rm×n\bm X =[\bm x_1,\cdots,\bm x_n]^T \in \mathbb R^{m \times n}X=[x1,⋯,xn]T∈Rm×n
函数的表示亦是如此，打字费劲，不做演示，小写fff表示标量scalar函数，小写粗体f\bm ff表示列向量函数，大写粗体F\bm FF表示矩阵函数。
Jacobian矩阵
1×m1\times m1×m行向量偏导算子记为：
Dx=def∂∂xT=(∂∂x1,⋯ ,∂∂xm)D_x \overset{def}{=}\frac{\partial}{\partial\bm x^T}=\left(\frac{\partial}{\partial x_1},\cdots,\frac{\partial}{\partial x_m}\right) Dx=def
最低0.47元/天 解锁文章
扫一扫
937
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
