11、机器学习中的分类与集成方法详解

机器学习中的分类与集成方法详解

一、One - Versus - Rest 方法及多标签设计模式

1. One - Versus - Rest 方法
   • 优点 ：可以与只能进行二分类的模型架构（如 SVM）一起使用。由于模型每次对每个输入仅执行一个分类任务，因此可能有助于处理稀有类别，并且可以应用重新平衡设计模式。
   • 缺点 ：训练多个不同分类器会增加复杂性，需要构建应用程序以从每个模型生成预测，而不是仅依赖一个模型。
2. 多标签设计模式适用场景
   • 单个训练示例可以与互斥标签相关联。
   • 单个训练示例可以有多个层次标签。
   • 标注者以不同方式描述同一项目，且每种解释都是准确的。
3. 多标签模型实现注意事项
   • 确保数据集中重叠标签的组合得到充分体现。
   • 考虑模型中每个可能标签愿意接受的阈值。
   • 使用 Sigmoid 输出层是构建可处理多标签分类模型的最常见方法，Sigmoid 输出也可应用于训练示例只能有两个可能标签之一的二分类任务。

二、集成设计模式概述

集成设计模式是机器学习中结合多个机器学习模型并聚合其结果以进行预测的技术，能有效提高