数学
关注
分享
扫一扫
MC_Zealot
No pain No gain
展开
-
2 拉格朗日对偶（Lagrange duality）
2 拉格朗日对偶（Lagrange duality） 先抛开上面的二次规划问题，先来看看存在等式约束的极值问题求法，比如下面的最优化问题： 目标函数是f(w)，下面是等式约束。通常解法是引入拉格朗日算子，这里使用来表示算子，得到拉格朗日公式为 L是等式约束的个数。 然后分别对w和求偏导，使得偏转载 2014-07-17 09:30:50 · 1059 阅读 · 0 评论 -
拉格朗日对偶性和似然函数
原文地址：在学习最大熵模型和SVM的过程中，我们看到，前者需要求解满足所有已知条件并且使得熵最大的模型，后者需要求解满足间隔一致性约束条件并且使得几何间隔最大的超平面，归结起来其求解问题都是带约束的极值问题，其解决方法一般采用拉格朗日对偶原理，对于概率性问题也可以用极大似然法来求解。下面简单介绍拉格朗日对偶原理和似然函数。拉格朗日对偶原理：约束条件可以分成不等式约束条件和等转载 2014-07-21 15:51:47 · 1049 阅读 · 0 评论 -
梯度、梯度下降法、随机梯度下降法
原帖地址：http://blog.youkuaiyun.com/jirongzi_cs2011/article/details/9617171转载 2014-07-22 14:07:22 · 1137 阅读 · 0 评论 -
最大似然估计学习总结
最大似然估计学习总结------MadTurtle1. 作用在已知试验结果（即是样本）的情况下，用来估计满足这些样本分布的参数，把可能性最大的那个参数作为真实的参数估计。2. 离散型设为离散型随机变量，为多维参数向量，如果随机变量相互独立且概率计算式为P{，则可得概率函数为P{}=，在固定时，上式表示的概率；当已知的时候，它又变成的函数，可以把它记为，称转载 2014-11-01 14:46:58 · 655 阅读 · 0 评论 -
java实现梯度下降算法
java实现梯度下降算法原创 2015-12-13 15:40:12 · 4598 阅读 · 1 评论 -
奇异值分解习题
SVD原创 2015-12-13 19:02:14 · 34796 阅读 · 14 评论