模型融合———预测贷款用户是否会逾期

大范先生

于 2018-11-26 21:11:54 发布

阅读量900

点赞数 1

分类专栏：机器学习算法集成学习文章标签：模型融合

本文链接：https://blog.youkuaiyun.com/weixin_40671804/article/details/84556596

版权

该博客介绍了通过模型融合技术，特别是stacking方法，结合多个预测模型的输出训练Meta-Classifer，以提升预测贷款用户是否会逾期的准确性。首先明确了学习要求，即以最高评分模型为基准，与其他模型融合。然后，解释了模型融合的基本概念，涉及如何利用多个预测结果作为输入训练新模型。最后，展示了在实际中应用最优模型进行stacking的过程。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一、学习要求

用目前评分最高的模型作为基准模型，和其他模型进行stacking融合，得到最终模型及评分

二、基础知识

我们使用 m 个算法，分别求出对于我们数据而言，相对的预测结果 P1、P2 … Pm，我们不直接使用这三个预测结果进行综合来得到预测结果。而是将这个 m 个预测结果作为输入，再添加一层算法 Meta-Classifer，训练一个新的模型，用这个新的模型的输出作为我们最终的预测结果。

三、实现过程

使用我们在上个博客得到的最优模型进行stacking

from sklearn import datasets

from sklearn import svm
from sklearn.svm import LinearSVC
from sklearn import model_selection
from sklearn.linear_model import LogisticRegression
from sklearn.neighbors import KNeighborsClassifier
from sklearn.naive_bayes import GaussianNB 
from xgboost import XGBClassifier
from lightgbm  import LGBMClassifier
from sklearn.ensemble import RandomForestClassifier
from mlxtend.classifier import StackingClassifier
import numpy as np
 
clf1 = svm.SVC(kernel = 'linear', probability=True)
clf2 = svm.SVC(kernel='poly', probability=

最低0.47元/天解锁文章