多元函数的极值

多元函数的极值

定义

z=f(x,y) (x,y)D,M0(x0,y0)D(M0D),U(M0,δ())DM0(x0,y0)∈D(M0是D的内点),U(M0,δ(域))⊂D

若f(x0,y0x0,y0)是函数z=f(x,y)在U(M0,δ)U(M0,δ)中的最大值,则称f(x0,y0x0,y0)为极大值

若f(x0,y0x0,y0)是函数z=f(x,y)在U(M0,δ)U(M0,δ)中的最小值,则称f(x0,y0x0,y0)为极小值

也就是区间的最大值和最小值

极值是局部概念,极值必须在定义域的内部取得,极值点必须是定义域的内点,定义域的便接到不可能是极值点。

极值的必要条件

一元极值必要条件

y=f(x),f(x0x0)是极值,且f’(x0x0)存在,则f’(x0x0)=0

导数为0是函数取得极值的必要条件

驻点x0x0

可导的极值点必为驻点,极值点不一定为驻点,驻点也不一定为极值点。

定理一(极值的必要条件)

设z=f(x,y)在点(x0,y0x0,y0)处取得极值,且偏导数$f_x(x_0,y_0),f_y(x_0,y_0)存在,

fx(x0,y0)=0,fy(x0,y0)=0fx(x0,y0)=0,fy(x0,y0)=0

证明

设z=f(x,y)在点(x0,y0x0,y0)处取得极大值

则一元函数z=f(x,y0y0)=g(x),在点x=x0x0处取得极大值

由于一元函数极值必要条件fx(x0,y0)=g(x0)=0fx(x0,y0)=g(x0)=0

同理可得fy(x0,y0)=0fy(x0,y0)=0

多元函数取得极值的必要条件是梯度为零向量

驻点

驻点就是梯度为零向量的点

非极值点的驻点称为鞍点

推论

有偏导数的极值点必为驻点

极值的充分条件

一元函数的充分条件

f’(x0x0)=0

f”(x0x0)>0 =>f(x0x0)是极小值

f”(x0x0)<0 =>f(x0x0)是极大值

#### 定理二(二元函数极值的充分条件)

设函数z=f(x,y)在点(x0,y0x0,y0)的某邻域内连续且有一阶及二阶连续偏导数,又fxfx(x0,y0x0,y0)=0,fyfy(x0,y0x0,y0)=0,令

fxxfxx(x0,y0x0,y0)=A,fxyfxy(x0,y0x0,y0)=B,fyyfyy(x0,y0x0,y0)=C,

则f(x,y)在(x0,y0x0,y0)处是否取得极值的条件如下

1.AC-B2B2>0是具有极值,且当A<0时有极大值,当A>0时有极小值

2.AC-B2B2<0时没有极值

3.AC-B2B2=0时可能有,可能没有

例子

f(x,y)=x4+y44xyx4+y4−4xy求极值

先求驻点

fx(x,y)=4x34y=0fx(x,y)=4x3−4y=0

fy(x,y)=4y34x=0fy(x,y)=4y3−4x=0

得驻点(0,0),(1,1),(-1,-1)

求二阶

A=fxx=12X2fxx=12X2

B=fxy=4fxy=−4

C=fyy=12y2fyy=12y2

AC-B2=144x2y216B2=144x2y2−16

(0,0):16<0无极值

(1,1):144-16>0,A=12>0 极小值

同理(-1,-1)极小值点

hesse矩阵

若H(x0,y0x0,y0)是正定矩阵

fxxfxx(x0,y0x0,y0)>0 (A>0)

[fxx(x0,y0)fyx(x0,y0)fxy(x0,y0)fyy(x0,y0)]>0[fxx(x0,y0)fxy(x0,y0)fyx(x0,y0)fyy(x0,y0)]>0

AC-B2B2>0

则f(x0,y0x0,y0)是极小值

若H(x0,y0x0,y0)是负定矩阵

fxxfxx(x0,y0x0,y0)<0 (A<0)

[fxy(x0,y0)fyx(x0,y0)fxy(x0,y0)fyy(x0,y0)]>0[fxy(x0,y0)fxy(x0,y0)fyx(x0,y0)fyy(x0,y0)]>0

AC-B2B2>0

则f(x0,y0x0,y0)是极大值

推广到n元

z=f(x1,x2,...,xn)f(x1,x2,...,xn)

M0(x01,x02,...,x0n)M0(x10,x20,...,xn0)

f(M0)=0∇f(M0)=0

fx1x1fx2x1...fxnx1fx1y2fx2x2...fxnx2............fx1xnfx2xn...fxnxn>0[fx1x1fx1y2...fx1xnfx2x1fx2x2...fx2xn............fxnx1fxnx2...fxnxn]>0

若H(M0M0)是正定矩阵,则f(M0M0)是极小值

若H(M0M0)是负定矩阵,则f(M0M0)是极大值。

多元函数最值

定义

函数f(x,y)在以区域D上的最大(最小)的函数值称为函数在该区域上的最大(最小)值,简称最值。

最值是个整体概念

极值是个局部概念。

函数f(x,y)在一区域D上的最值可以在区域内部渠道(也是极值)。也可以在区别边界取到。

求法

1.求出定义域内部可能的极值点

2.求出定义域的边界上可能的最值点

3.比较上述各点处函数值的大小,得到最大最小值。

由于多元函数的定义域边界有无穷多个点,由此,求多元函数的最值比较复杂。如果根据问题知道,最值出现在定义域内部,则可避免边界点的讨论。

例子

要做一个容积为V的无盖长方形水箱。问水箱的长宽高各取多大,才能使用料最省?

面积公式:S=xy+2(xz+yz)

由xyz=V得z=VxyVxy

带入面积公式

S=xy+2(Vy+Vx)(x<x,y,+)xy+2(Vy+Vx)(x<x,y,+∞)

定义域是开区域,最值在区域内取到

11.求驻点

Sx=y2Vx2=0∂S∂x=y−2Vx2=0

Sy=2Vy2=0∂S∂y=−2Vy2=0

驻点(2V3,2V32V3,2V3)

A=Sxx=4Vx3=2Sxx=4Vx3=2

B=Sxy=1B=Sxy=1

C=Syy=4Vy3=2C=Syy=4Vy3=2

B2AC=14B2−AC=1−4<0

A=2>0

S取得极小值

x=2V3,y=2V3,z=vxy=2V32x=2V3,y=2V3,z=vxy=2V32时,最省。

条件极值及拉格朗日乘数法

条件极值

如果对自变量作一定的限制,则相应的极值问题就是条件极值问题。

上面的水箱例子是将条件极值转化为无条件极值。可以通过拉格朗日乘数法求。

条件极值必要条件

函数

z=f(x,y)

在条件

φ(x,y)=0φ(x,y)=0

下取得极值的必要条件

推导:

z0=f(x0,y0)z0=f(x0,y0)是z=f(x,y)在条件φ(x,y)φ(x,y)=0下的极值

φ(x,y)φ(x,y)=0 确定了一元隐函数y=y(x)

z=f(x,y(x))

在点x=x0x0处取得极值

利用一元函数极值的必要条件求导,并令导数为0

z=f(x,y(x))

dzdx=fx1+fydydx=0dzdx=fx∗1+fy∗dydx=0

fx(x0,y0)+fy(x0,y0)y(x0)=0fx(x0,y0)+fy(x0,y0)∗y′(x0)=0

y(x0)=fx(x0,y0)fy(x0,y0)y′(x0)=−fx(x0,y0)fy(x0,y0)

隐函数y=y(x)求导

y(x0)=φx(x0,y0)φy(x0,y0)y′(x0)=−φx(x0,y0)φy(x0,y0)

fx(x0,y0)fy(x0,y0)=φx(x0,y0)φy(x0,y0)fx(x0,y0)fy(x0,y0)=φx(x0,y0)φy(x0,y0)

fx(x0,y0)φx(x0,y0)=fy(x0,y0)φy(x0,y0)fx(x0,y0)φx(x0,y0)=fy(x0,y0)φy(x0,y0)

即向量{fx(x0,y0),fy(x0,y0)fx(x0,y0),fy(x0,y0)}和向量{φx(x0,y0),φy(x0,y0)φx(x0,y0),φy(x0,y0)}平行

可以写成

f(x0,y0)//φ(x0,y0)∇f(x0,y0)//∇φ(x0,y0)

等价于λ0∃λ0使

f(x0,y0)=λ0φ(x0,y0)∇f(x0,y0)=−λ0∇φ(x0,y0)

f(x0,y0)+λ0φ(x0,y0)=0∇f(x0,y0)+λ0∇φ(x0,y0)=0

梯度运算法则:

(f,λφ)=0∇(f,λφ)=0

f(x,y,λ)=f(x,y)+λφ(x,y)f(x,y,λ)=f(x,y)+λφ(x,y)

f(x0,y0,λ)=0∇f(x0,y0,λ)=0

(x0,y0,λ)(x0,y0,λ)f(x,y,λ)f(x,y,λ)驻点

所以必要条件为:

λ0∃λ0使(x0,y0,λ0)(x0,y0,λ0)为拉格朗日函数(x,y,λ)(x,y,λ)的驻点

拉格朗日乘子法

求法

求函数z=f(x,y)在条件φ(x,y)=0φ(x,y)=0下的极值

1.作拉格朗日函数

f(x,y,λ)=f(x,y)+λφ(x,y)f(x,y,λ)=f(x,y)+λφ(x,y)

2.求f(x,y,λ)=f(x,y)+λφ(x,y)f(x,y,λ)=f(x,y)+λφ(x,y)的驻点

根据多元函数极值的必要条件

Fx=fx(x,y)+λφx(x,y)=0Fx=fx(x,y)+λφx(x,y)=0

Fy=fy(x,y)+λφy(x,y)=0Fy=fy(x,y)+λφy(x,y)=0

Fλ=φ(x,y)=0Fλ=φ(x,y)=0 约束条件

解以上方程组,得驻点(x0,y0,λ)(x0,y0,λ)

3.(x0,y0)(x0,y0)便是可能的条件极值点,可根据实际问题判断f(x0,y0)(x0,y0)为条件极值。

思路

利用拉格朗日乘数,将目标函数(二元函数)与约束条件结合起来构造拉格朗日函数(三元函数)

从而将二元函数的条件极值转成三元函数的无条件极值。

例子

要做一个容积为V的无盖长方形水箱。问水箱的长宽高各取多大,才能使用料最省?

求函数S=xy+2(xz+yz)

在约束条件

xyz=V下的最小值

作拉格朗日函数

F=xy+2(xz+yz)+λ(xyz-V)

求F的驻点

FxFx=y+2z+λyz=0

FyFy=x+2z+λxz=0

FzFz=2x+2y+λxy=0

Fλ=xyz-V=0

x=y

z=1/2x

λx=-4

x=y=2V32V3

z=122V3122V3

多个约束条件

函数u=f(x,y,z)

在两个约束条件

G(x,y,z)=0

H(x,y,z)=0

的极小值

作拉格朗日函数

F(x,y,z,λ,μ)=f(x,y,z)+λG(x,y,z)+μH(x,y,z)

求F的驻点就可以得到

minxminxf(x)

s.t. hi(x)=0hi(x)=0 i=1,2,…,m

构建拉格朗日函数

L(x,λ)=f(x)+i=1mλihi(x)L(x,λ)=f(x)+∑i=1mλihi(x)

多元函数极值解涉及微积分、线性代数以及数值优化等多个领域的知识。以下是几种常见的方法及其应用说明: --- ### 方法一:利用梯度和Hessian矩阵分析 对于一个光滑的多元函数$f(x_1, x_2, \dots, x_n)$,可以通过计算其偏导数组成的梯度$\nabla f = (\frac{\partial f}{\partial x_1}, \frac{\partial f}{\partial x_2}, \dots, \frac{\partial f}{\partial x_n})^T$来寻找驻点。 当$\nabla f = 0$时,得到候选极值点。进一步通过计算Hessian矩阵$H(f) = [\frac{\partial^2 f}{\partial x_i \partial x_j}]_{n\times n}$判断这些点是否为局部极小值或极大值: - 如果$H(f)$正定,则该点为局部极小值; - 如果$H(f)$负定,则该点为局部极大值; - 如果$H(f)$不定,则可能为鞍点。 --- ### 方法二:拉格朗日乘子法(带约束条件) 若目标函数受到某些等式约束$g_k(x_1, x_2, \dots, x_n)=0 (k=1,\dots,m)$限制,可以构造拉格朗日函数$L=f+\sum_{k=1}^{m}\lambda_k g_k$。令$\nabla L=0$即可获得满足约束条件下的极值点。 --- ### 方法三:数值优化算法 对于复杂非线性的高维问题,解析方法难以直接适用,此时可采用迭代型数值优化算法逼近最优解: #### (1)最速下降法 沿着负梯度方向更新参数$x^{(t+1)} = x^{(t)}-\eta_t\nabla f(x^{(t)})$,其中步长$\eta_t>0$需适当选择。 #### (2)牛顿法及拟牛顿法 基于二次近似模型加速收敛速度;例如BFGS算法属于后者类别之一。 #### (3)随机梯度下降(SGD) 特别适合处理大数据集上的损失函数最小化场景下估计全局最低位置。 --- ### 示例代码展示——Python实现简单无约束优化过程 下面给出一段使用`scipy.optimize.minimize`库解决具体实例的小段落: ```python from scipy.optimize import minimize def objective_function(vars): x, y = vars return (x**2 + y**2) initial_guess = [1.0, 1.0] result = minimize(objective_function, initial_guess, method='BFGS') if result.success: fitted_x, fitted_y = result.x print('Optimal solution:', fitted_x, fitted_y) else: raise ValueError(result.message) ``` 此脚本尝试找到二维欧几里得距离平方形式的目标函数在其定义域内的零点附近区域中的绝对最小值坐标位置信息输出结果。 ---
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值