序列二次规划_序列二次规划法.pdf

序列二次规划法

序列二次规划算法

1 序列二次规划法简介

非线性规划问题是目标函数或约束条件中包含非线性函数的规划问题。一般

说来，解非线性规划要比解线性规划问题困难得多。而且，也不像线性规划有单

纯形法这一通用方法，非线性规划目前还没有适于各种问题的一般算法，各个方

法都有自己特定的适用范围。当目标函数和约束条件具有良好的分析性质时，人

们喜欢用间接法分析与求解约束最优化问题。利用间接法求解最优化问题的途径

一般有两种，另一种途径是在可行域内使目标函数下降的迭代点法，如可行点法。

另一种是利用目标函数和约束条件构造增广目标函数，借此将约束最优化问题转

化为无约束最优化问题，然后利用求解无约束最优化问题的方法间接求解新目标

函数的局部最优解或稳定点，如人们所熟悉的惩罚函数法，乘子法和序列二次规

划等。

序列二次规划算法是目前公认的求解约束非线性优化问题的最有效方法之

一，与其它优化算法相比，其最突出的优点是收敛性好、计算效率高、边界搜索

能力强，受到了广泛重视及应用。但其迭代过程中的每一步都需要求解一个或多

个二次规划子问题。一般地，由于二次规划子问题的求解难以利用原问题的稀疏

性、对称性等良好特性，随着问题规模的扩大，其计算工作量和所需存贮量是非

常大的。因此，目前的序列二次规划方法一般只适用于中小型问题。另外，由于

大型二次规划问题的求解通常使用迭代法，所需解的精度越高，花费的时间就越

多，稳定性也就越差，相对线性方程组的求解理论来说，二次规划的求解是不完

善的。

2 序列二次规划的研究

最优化理论及方法是一个具有广泛应用背景的研究领域。它研究诸如从众多

的方案中选出最优方案等问题，常见的各种模型如线性规划，二次规划，非线性

规划，多目标规划等。最优化理论及方法已经在经济计划，工程设计，生产管理，

交通运输等领域得到了广泛的应用，吸引了很多学者的研究。

一般非线性约束的数学规划问题是：

min f (X )

s. t . gu (X )  0 (u 1,2,..., p )

h ( X ) 0 (v 1,2,..., m)

v

其中X R n 是决策变量，f (X ) 是目标函数，gu (X ) ，h (X ) 分别是不等

v

式约束函数和等式约束函数。

在求解上述问题的诸多算法中序列二次规划(SQP)是最有效的一类方法之一" 由

于它具有超线性收敛速度,对它的研究一直是非线性规划的一个热点,许

多学者对它进行了研究和改进"

序列二次规划(SQP )算法最早由 Wilson (1963)提出。Wilson 提出了

Newton-SQP 方法。60 年代末和70 年代初，随着解无约束优化问题的拟Newton

法的发展，拟 Newton-SQP 算法的研究引起了学者们的高度重视。

Polomares-Mangasarian (1976)提出了一类拟Newton-SQP 方法。在该类方法中，

他采用对Lagrange 函数的整体Hesse 矩阵(即既对x 又对Lagrange 乘子的Hesse

矩阵)的近似进行修正的方法来修正。Han (1976，1977)证明了 PSB-SQP 和

BFGS-SQP 方法的局部收敛性。而且，若采用精确罚函数进行搜索，则算法具有

全局收敛性。自此，SQP 算法的研究受到了广泛的重视。迄今为止，SQP 算法

的研究工作已取得了丰硕的成果。

SQP 算法的主要优点之一是它的全局收敛性和局部超线性收敛性。为使算法

H

具有全局收敛性，通常要求子问题 (QP )中的矩阵 对称正定。使得 (QP )产

H

生的方向 是某个效益函数的下降方向。另一方面，若矩阵 对称正定，则子

S

问题 (QP )是一