优化目标
- SVM(支持向量机)和logistic回归是有一定的联系的。首先,我们回顾一下logistic的相关内容:
这张图片展示的是logistic回归的相关思想,在sigmoid函数中,θ的转置·x(用字母z表示) 是自变量,输入到sigmoid函数中,根据函数图像,我们可以得到随着z的无限增大,sigmoid函数无限接近1,随着z的无限减小,sigmoid函数无限接近于0。这都是我们之前已经得到的相关结论。 - 然后我们再回顾一下logistic回归的代价函数,即优化目标
上述公式展示的是对于一个样本而言的代价公式cost,将其求和,即可得到总体样本的总代价,我们以一个样本举例。当y=1的时候,cost实际等于左图红色方框里的公式,然后左图横坐标以z为值,绘制出了cost以z为自变量变化而变化的曲线,左图中黑色的线就是logistic回归实际cost的变化曲线;同理,右图是y=0的情况。这个也是已经学过的有关logistic的内容。
不同的是,我们