Justpayne的专栏

拉格朗日乘子法(Lagrange Multiplier)和KKT(Karush-Kuhn-Tucker)条件是求解约束优化问题的重要方法，在有等式约束时使用拉格朗日乘子法，在有不等约束时使用KKT条件。前提是：只有当目标函数为凸函数时，使用这两种方法才保证求得的是最优解。 对于无约束最优化问题，有很多经典的求解方法，参见无约束最优化方法。 拉格朗日乘子法 转换为

先抛开上面的二次规划问题，先来看看存在等式约束的极值问题求法，比如下面的最优化问题：              目标函数是f(w)，下面是等式约束。通常解法是引入拉格朗日算子，这里使用来表示算子，得到拉格朗日公式为              L是等式约束的个数。     然后分别对w和求偏导，使得偏导数等于0，然后解出w和。至于为什么引入拉格朗日算子可以求出极值，原因是f(w)的dw变化