qq_37668179的博客

用途：满足 KKT 条件后极小化 Lagrangian 即可得到在不等式约束条件下的可行解首先给出形式化的不等式约束优化问题：

我们考虑只有一个不等式约束的优化问题：则问题的最优值可表示为：这种最优值的表示方法不利于理解对偶性，因此定义一个集合：是一个由所有在定义域内的 所对应的函数值所构成点的集合，利用这个集合可以重写原式最优解为：其中 表示原式的 的点集， 表示 的点集，在有定义的点集内取一个最小的 对应于原问题最优值的描述，因为要求的就是 。现在假设 在 二维空间的图像如下图所示，并在图中作出了 对应的位置。先写出拉格朗日公式：用刚才点集形式来表示就...

对偶理论强对偶弱对偶实例

无约束可微问题一般形式： ，其中 为可微函数我们想要知道这个点是否是函数 的一个局部极小解或者全局极小解，需要一个简单的方式来验证一个点是否为极小值点．我们称其为最优性条件，它主要包含一阶最优性条件和二阶最优性条件．一阶最优性条件就是运用一阶导数，给出下降方向的定义。定理（下降方向）： 如果存在向量 满足 , 那么称 为 在点 处的一个下降方向。（利用泰勒公式可以很容易证明出）我们了解过，既然，说明梯度方向和向量 的夹角应该是大于 ° 的，所以若满足上面的定理...

凸集定义对于 中的两个点 ，形如的点形成了过点 和 的直线，当 时，这样的点就形成了连接点 , 的线段。定义1：如果过集合 C 中任意两点的直线都在 C 内，则称 C 为仿射集。定义2：如果连接集合 C 中任意两点的线段都在 C 内，则称 C 为凸集。(a) 为凸集，(b)(c) 为非凸集凸函数定义设函数 f 为适当函数，如果 dom f 是凸集，且对所有 x, y ∈ dom f, 0 ⩽ θ ⩽ 1 都成立，则称 f 是凸函数。 若符号改

范数