为什么当函数值为定值时，梯度垂直于等值面？

最新推荐文章于 2025-11-15 02:01:46 发布

原创

最新推荐文章于 2025-11-15 02:01:46 发布 · 4.6k 阅读

12 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #随机梯度下降 #深度学习

本文详细介绍了函数值恒定时梯度与等值面垂直的数学原理，通过梯度向量和等值面上速度向量的关系，利用链式法则证明了二者点积为0，从而说明了梯度垂直于等值面。同时，讨论了参数t的引入并非实际的时间概念，而是为了方便解释。最后，解释了为何在数学上，即使两个向量分别属于时间和空间维度，它们的点积为0依然有意义。

前言

本文主要对“为什么函数值为定值时，梯度垂直于等值面”这一问题进行了证明，解答了初学者在初次学习这一概念及相关证明过程中存在的疑惑，供阅读参考。

文章目录

前言

1.梯度的概念和计算

如果存在曲面w=w(x,y,z)，设▽w是一个综合了w所有偏导数的向量：
$\nabla \mathbf{w}=\left( \frac{\partial \mathbf{w}}{\partial \mathbf{x}},\frac{\partial \mathbf{w}}{\partial \mathbf{y}},\frac{\partial \mathbf{w}}{\partial \mathbf{z}} \right)$
▽w就是梯度向量，简称梯度。对于在函数w定义域上的任意x、y、z，都可以得到一个对应的梯度向量，所以也说▽w(x₀,y₀,z₀)是w在点(x₀,y₀,z₀)上的梯度。需要注意的是：▽w是一个空间上的概念。

2.等值面的概念和深入理解

首先了解一下什么是等值面？以w(x,y)=x²+y²=1为例，表示w的当前定值为1，w的函数表达式为x²+y²。如果将x-y-w映射到三维空间，则等值面为：

在这里插入图片描述

这里需要注意的是：x-y为无限延展的平面，然后w=1仅仅是w(x,y)=x²+y²函数的某一等值区域，或者称为等值面。需要注意的是，一定要以动态的视角去看待w(x,y)的梯度概念。

3.证明和解释“为什么函数值为定值，梯度垂直于等值面？”

还是以w(x,y)=x²+y²=1为例，x、y用参数方程表示，x=x(t)，y=y(t)，等值面上的一条曲线向量是 $\overset{→}{\mathbf{r}}=\mathbf{r}\left( \mathbf{t} \right)$ 。

如果把等值面上的曲线向量 $\overset{→}{\mathbf{r}}$ 看成位移，参数t看成时间，则位移对应的速度向量是：
$\overset{→}{\mathbf{v}}=\frac{\mathbf{d}\overset{→}{\mathbf{r}}}{\mathbf{dt}}=\left( \frac{\mathbf{dx}}{\mathbf{dt}},\frac{\mathbf{dy}}{\mathbf{dt}} \right)$