4、集成机器学习与重采样方法入门

集成机器学习与重采样方法入门

1. 集成机器学习

1.1 集成模型概述

集成模型能够降低模型中的偏差和/或方差。常见的集成方法有最大投票法、平均法和加权平均法。

1.2 最大投票法（Max - voting）

最大投票法通常用于分类问题，是结合多个机器学习算法预测结果的简单方法。在最大投票法中，每个基础模型对每个样本进行预测并投票，最终预测类别选取得票最多的类别。

例如，在一个在线调查中，消费者用五级李克特量表回答问题。部分消费者评分为 5，部分为 4 等。若超过 50%的消费者评分为 4，则最终评分取 4，这类似于取所有评分的众数。

操作步骤

1. 准备工作
   python import os import pandas as pd # Set working directory as per your need os.chdir(".../.../Chapter 2") os.getcwd() df_cryotherapydata = pd.read_csv("Cryotherapy.csv") df_cryotherapydata.head(5)
2. 创建投票集成模型
   • 导入所需库
     python from sklearn.tree import DecisionTreeClassifier from sklearn.svm import SVC from