Titanic 模型融合

最新推荐文章于 2019-01-31 20:53:57 发布

原创最新推荐文章于 2019-01-31 20:53:57 发布 · 359 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#kaggle #Titanic #model-merging

python 同时被 2 个专栏收录

21 篇文章

订阅专栏

machine learning competition

7 篇文章

订阅专栏

本文介绍并展示了两种模型融合技术——投票法和Stacking，在Titanic生存预测任务上的应用。通过使用随机森林、XGBoost和决策树等算法，对比了单一模型与融合模型的性能差异。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1.投票法

#模型融合
X = train[['Pclass', 'Sex', 'SibSp', 'Parch', 'Cabin', 'Embarked',
       'title', 'isalone', 'Family', 'mother', 'person', 'ticket-same', 'age',
       'fare']]
Y = train['Survived']
#投票法
from sklearn.model_selection import cross_val_score, train_test_split
from sklearn.metrics import *
import matplotlib.pyplot as plt
X_train, X_test, Y_train, Y_test = train_test_split(X, Y, test_size=0.3, random_state=2018)
from sklearn.ensemble import VotingClassifier, RandomForestClassifier
from xgboost import XGBClassifier
from sklearn import tree
rfc = RandomForestClassifier(n_estimators=10, criterion='entropy')
xgb = XGBClassifier()
dtc = tree.DecisionTreeClassifier()
clf_vc = VotingClassifier(estimators=[('rfc', rfc),('xgb', xgb),('dtc', dtc)])
clf_vc.fit(X_train, Y_train)
print(clf_vc.score(X_test, Y_test))

2.stacking融合

#stacking融合
from mlxtend.classifier import StackingCVClassifier
sclf = StackingCVClassifier(classifiers=[rfc, xgb], meta_classifier=dtc, use_probas=True)
sclf.fit(X_train.values, Y_train.values)
print(sclf.score(X_test.values, Y_test.values))