拉格朗日乘数法

拉格朗日乘数法

 

拉格朗日乘数法是一个理论结果，用于求解带有等式约束的函数极值。对于如下问题：

                       

构造拉格朗日乘子函数：

 

在最优点处对x和乘子变量的导数都必须为0：

 

 

解这个方程即可得到最优解。对拉格朗日乘数法更详细的讲解可以阅读任何一本高等数学教材。

 

机器学习中用到拉格朗日乘数法的地方有：

主成分分析

线性判别分析

流形学习中的拉普拉斯特征映射

隐马尔科夫模型

 

转载于:https://www.cnblogs.com/DicksonJYL/p/9510545.html