本文探讨Passive Aggressive (PA)算法在二元分类问题上的应用，作为在线学习的一部分，PA模型能随时间变化的数据分布进行调整。PA的损失函数基于Hinge Loss，模型仅在预测错误或靠近决策边界时更新。此外，文章提及PA与SVM的关系，并提供了相关阅读资源。
原始论文：Online Passive-Aggressive Algorithms by Crammer at al.
本文主要参考对象：Passive-Aggresive Blog by Giuseppe Bonaccorso
PA模型在分类和回归上都可以运用，在文本，我们主要讨论二元分类问题。
PA属于online learning，自然也拥有了OL的优点，也就是，当数据分布随着时间改变而改变时，PA的权重也会逐渐改变，使得新算法能够更好地预测。
PA的预测方式是：
就像SVM一样，PA的损失函数也是Hinge Loss function。
注意，
在预测准确时，恒为正，在预测错误时，恒为负。所以，当预测结果是正确的时候，而且远离margin时，模型不必要被修改，除此之外，模型都需要被调整，因为loss 不等于0。
当然了，要讨论PA，就像要讨论SVM那样，一定缺少不了对soft-margin的讨论。由于时间问题，在此略去，
最低0.47元/天 解锁文章
扫一扫
664
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
