拉格朗日对偶性的一些总结

拉格朗日对偶性

• 写作目的
• 拉格朗日乘子算法
• 对偶问题

---

写作目的

前一篇文章总结的关于无约束优化的极值求解问题是： 梯度下降法-gradient descent –实例解析 。但类似于最大熵模型(Maximum Entropy Model)，或者支持向量机(Support Vector Machines)，这些有约束优化问题要求解怎么办呢？这就是本文的目的。

拉格朗日乘子算法

原始问题

假设