4、集成机器学习与重采样方法入门

集成机器学习与重采样方法入门

1. 集成机器学习基础

1.1 集成模型概述

集成模型能够减少模型中的偏差和/或方差。常见的集成方法有最大投票法、平均法和加权平均法。

1.2 最大投票法（Max - voting）

最大投票法通常用于分类问题，是结合多个机器学习算法预测结果的简单方法。每个基础模型对每个样本进行预测并投票，最终预测类别为得票最多的类别。

例如，在一个五级李克特量表的在线调查中，如果超过50%的消费者给出了4分的评分，那么最终评分就取4分，这类似于取所有评分的众数。

操作步骤

1. 准备工作
   python import os import pandas as pd # 设置工作目录 os.chdir(".../.../Chapter 2") os.getcwd() # 下载并读取数据集 df_cryotherapydata = pd.read_csv("Cryotherapy.csv") df_cryotherapydata.head(5)
2. 创建投票集成模型
   • 导入所需库
     python from sklearn.tree import DecisionTreeClassifier from sklearn.svm import SVC from sklearn.linear_model import LogisticRegression fr