最近看了Free Mind写的支持向量机的系列文章:http://blog.pluskid.org/?page_id=683,感觉收获比较大。但是对于其拉格朗日对偶函数为什么满足强对偶条件并没有给出详细的解答。
原文中是这样描述的:“如果原始问题是 Convex 的并且满足 Slater 条件的话,那么 strong duality 成立。需要注意的是,这里只是指出了 strong duality 成立的一种情况,而并不是唯一情况。例如,对于某些非 convex optimization 的问题,strong duality 也成立。这里我们不妨回顾一下 SVM 的 primal problem ,那是一个 convex optimization 问题(QP 是凸优化问题的一种特殊情况),而 Slater 条件实际上在这里就等价于是存在这样的一个超平面将数据分隔开来,亦即是“数据是可分的”。当数据不可分是,strong duality 不能成立”。
而我不理解的地方是:“而 Slater 条件实际上在这里就等价于是存在这样的一个超平面将数据分隔开来”。
Slater条件是什么呢? 维基百科的定义是:
即对于约束优化
minw,b12||w||2s.t.1−yi(wT<