- 博客(3)
- 收藏
- 关注
转载 对偶原理在SVM中的应用
Support Vector Classifier在二分类时,假设我们的自变量为,因变量为,我们的模型可以表示为。对于的样本点,我们把其分为label=1的一类;对于的情况,我们把其分入label=-1这一类。可以看到,其中是decision boundary,它是一个超平面。假如现在我们的数据在其特征空间上是线性可分的,并且我们的模型要使这些数据线性可分,可以看到会存在很多不同的,对
2013-12-06 18:43:30
1282
转载 拉格朗日对偶原理
在学习最大熵模型和SVM的过程中,我们看到,前者需要求解满足所有已知条件并且使得熵最大的模型,后者需要求解满足间隔一致性约束条件并且使得几何间隔最大的超平面,归结起来其求解问题都是带约束的极值问题,其解决方法一般采用拉格朗日对偶原理,对于概率性问题也可以用极大似然法来求解。下面简单介绍拉格朗日对偶原理和似然函数。拉格朗日对偶原理:约束条件可以分成不等式约束条件和等式约束条件,只有等
2013-12-06 16:45:40
4424
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人