1.计算梯度
对于函数
f(x,y)=x2sin(y)f(x,y)=x^2sin(y)f(x,y)=x2sin(y)
如何计算这个函数的梯度
我们先计算函数的偏导
得到∂f/∂x\partial f/\partial x∂f/∂x 和∂f/∂y\partial f/\partial y∂f/∂y
梯度就是将这两个偏导打包成一个向量
用∇f\nabla f∇f表示（nabla）
所以，梯度捕捉了函数的所有偏导，那是不是函数的全导？
有多少个维度的输出，向量里面就有多少个偏微分的算子
2.梯度的几何意义
对于函数f(x,y)=x2+y2f(x,y)=x^2+y^2f(x,y)=x2+y2
函数的输入是二维
输出的梯度是一个一维的向量
求出函数的梯度
求出的梯度向量（对于每一个点(x,y),输出的梯度向量是这个向量的两倍）
在函数的任何一点上，沿着梯度的方向，函数增长的最快
3.方向导数
理解了偏导就是函数输入空间上一个分量方向的变化，比如x轴上的变化，对函数输出的影响有多大
y方向的微调，对函数输出产生的影响
方向导数是说
有一个向量 ，假如我给定一个方向，比如[−12]\begin{bmatrix} -1 \\ 2 \\ \end{bmatrix}[−12]
[−12]\begin{bmatrix} -1 \\ 2 \\ \end{bmatrix}[−12] 这个方向的微调，对函数的影响有多大
当然这个微调是极限值，这就是方向导数的定义
定义[−12]\begin{bmatrix} -1 \\ 2 \\ \end{bmatrix}[−12]=v⃗\vec{v}v
往这个方向移动微小量，比如移动了h=0.001
方向导数函数
公理化的表示就是
有一个向量W，它的分量是[a,b],
向量w的任何一个方向f的方向导数表示为
∇v⃗f=∂f∂x+∂f∂y\nabla_{\vec{v}}f=\frac{\partial f}{\partial x} \quad+\frac{\partial f}{\partial y} \quad∇vf=∂x∂f+∂y∂f
这其实也是向量的点积
向量[ab]\begin{bmatrix} a \\ b \\ \end{bmatrix}[ab]
与向量f的梯度[∂f∂x∂f∂y]\begin{bmatrix} \frac{\partial f}{\partial x} \quad \\ \frac{\partial f}{\partial y} \quad \\ \end{bmatrix}[∂x∂f∂y∂f]
的点积
4.梯度，方向导数与斜率
函数f(x,y)=x2yf(x,y)=x^2yf(x,y)=x2y
我们取输入空间内的向量v⃗=\vec{v}=v=[11]\begin{bmatrix} 1 \\ 1 \\ \end{bmatrix}[11]
我们来讨论函数f在v方向的方向向量
沿着向量v的方向切割函数图像
这样向量v就落在了这个切割平面上
取[-1,-1]评估方向向量
类似的，我们取切割交线上的一点求与这一点的斜率是一样
为了方便后面考虑，把向量v定义成单位长度的向量，让向量v的长度等于1
2\sqrt{2}2/2
=1.414/2
=0.7
sin45=0.7=2\sqrt{2}2/2/1
这个点的切线就等于函数的斜率，也是向量v方向导数
∂f/∂v⃗\partial f/\partial\vec{v}∂f/∂v就表示在v方向的微调，引起函数的变化
当我们计算方向导数时候
计算的是f的 梯度向量 与 方向向量 的 点积
f的梯度向量等于：
我们求的是点[-1,-1]的梯度，带入得到：
计算得到2+2/2\sqrt{2}+\sqrt{2}/22+2/2
(点积计算：2∗2/2+1∗2/22*\sqrt{2}/2+1*\sqrt{2}/22∗2/2+1∗2/2)
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
