梯度

“梯度”是一个向量，是梯度向量的简称

关于什么是梯度参见：https://baijiahao.baidu.com/s?id=1627719346341492607&wfr=spider&for=pc

梯度的两条结论：

（1）梯度的方向是函数变化率最大的方向

（2）梯度指向函数值增大的方向

解释：

对于函数， 在方向上的方向导数为：

对于函数沿着方向变化的值为：

将此式进行泰勒展开，保留前两项得：

因此：

假设就是梯度方向，则此式的夹角:

，

因此，

说明函数沿梯度方向变化，值增大。