4.集成学习之3.Stacking

最新推荐文章于 2025-06-08 16:31:42 发布

原创

最新推荐文章于 2025-06-08 16:31:42 发布 · 1.8k 阅读

11 ·

CC 4.0 BY-SA版权

文章标签：

#Stacking #集成学习 #机器学习 #kaggle

本文介绍了一种名为Stacking的集成学习方法，通过两层模型的搭建来提高预测准确性。第一层由多个基分类器组成，第二层则通常采用逻辑回归模型，利用第一层分类器的输出作为输入特征进行再次拟合。

分层模型集成框架stacking（叠加算法）

Stacking集成算法可以理解为一个两层的集成，第一层含有一个分类器，把预测的结果(元特征)提供给第二层，而第二层的分类器通常是逻辑回归，他把一层分类器的结果当做特征做拟合输出预测结果。过程如下图:
在这里插入图片描述

标准的Stacking，也叫Blending如下图：
在这里插入图片描述

但是，标准的Stacking会导致信息泄露，所以推荐以下Satcking算法：
在这里插入图片描述

1. 简单堆叠3折CV分类：

## 1. 简单堆叠3折CV分类
from sklearn import datasets

iris = datasets.load_iris()
X, y = iris.data[:, 1:3], iris.target
from sklearn.model_selection import cross_val_score
from sklearn.linear_model import LogisticRegression
from sklearn.neighbors import KNeighborsClassifier
from sklearn.naive_bayes import GaussianNB
from sklearn.ensemble import RandomForestClassifier
from mlxtend.classifier import StackingCVClassifier

RANDOM_SEED = 42

clf1 = KNeighborsClassifier(n_neighbors=1)
clf2 = RandomForestClassifier(random_state=RANDOM_SEED)
clf3 = GaussianNB()
lr = LogisticRegression()

# Starting from v0.16.0, StackingCVRegressor supports
# `random_state` to get deterministic result.
sclf = StackingCVClassifier(classifiers=[clf1, clf2, clf3],  # 第一层分类器
                            meta_classifier=lr,   # 第二层分类器
                            random_state=RANDOM_SEED)

print('3-fold cross validation:\n')

for clf, label in zip([clf1, clf2, clf3, sclf], ['KNN', 'Random Forest', 'Naive Bayes','StackingClassifier']):
    scores = cross_val_score(clf, X, y, cv=3, scoring='accuracy')
    print("Accuracy: %0.2f (+/- %0.2f) [%s]" % (scores.mean(), scores.std(), label))

输出结果:
在这里插入图片描述

我们画出决策边界：

## 我们画出决策边界
from mlxtend.plotting import plot_decision_regions
import matplotlib.gridspec as gridspec
import itertools

gs = gridspec.GridSpec(2, 2)
fig = plt.figure(figsize=(10,8))
for clf, lab, grd in zip([clf1, clf2, clf3, sclf],
                         ['KNN',
                          'Random Forest',
                          'Naive Bayes',
                          'StackingCVClassifier'],
                          itertools.product([0, 1], repeat=2))

最低0.47元/天解锁文章