从二分类到多分类

从二分类到多分类，实际采用的是拆解法思想：将多分类问题拆分成许多二分类问题，为每一个二分类问题训练一个分类器。测试时，对这些分类器的结果进行集成，得到最终预测结果。

根据拆分策略不同，分为以下三类：

一对一（One vs. One, OvO）

训练：将N个类别两两配对，产生N(N−1)/2个二分类任务，每个任务使用一个二分类学习器进行学习；

测试：多个二分类学习器预测得到结果中，最多的类别作为最终的分类结果。

一对其余（One vs. Rest, OvR）

训练：每次将一个类别作为正例，其余其他类别样例均作为反例，产生N个二分类任务；

测试：若仅有一个分类器预测为正类，则属于该分类器所属类别。若有多个二分类器预测为正类，则通常考虑各分类器的预测置信度，选择置信度最大的类别作为分类结果。