林轩田机器学习基石——多类别分类问题（multi-class classification）

本文链接：https://blog.youkuaiyun.com/henghane/article/details/54970544

本文探讨了多类别分类问题，包括一对多（One-Versus-All）和一对一（One-Versus-One）两种常用方法。通过训练k个分类器，One-Versus-All利用逻辑回归等技术，而一对一方法则通过训练所有可能的类别对来避免样本不平衡问题。在决策时，分别应用不同的策略来确定样本所属类别。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

对于一个k类别分类问题，我们要做的是判断一个样本是k类别中的哪一类，实际上是二分类问题的拓展，解决方法也是二分类分类方法的延伸。
问题描述为：现有N个训练样本这里写图片描述 ,每个样本的输出是k类类标的一种，我们需要训练出一个能够判别出样本类标的训练器。

简单,常用的多分类方法可分为两种：一对多方法（One-Versus-All）和一对一方法（One-Versus-One）

One-Versus-All：(K分类)
①用逻辑回归或其他相应的分类方法训练k个分类器这里写图片描述，分类器Dk的训练过程为：把属于第k个类别的样本归为一类，把剩下k-1个类的样本归为另一类，以此作为二分类训练样本训练出一个二分类器；
②决策时，输入一个测试样本的x,分别代入k个分类器，取其中输出最大的那一类（即最大可能性）作为自己的类标。