决策树入门&案例：泰坦尼克号幸存者预测

avagogogo

于 2021-01-26 22:40:50 发布

阅读量1.6k

点赞数 3

CC 4.0 BY-SA版权

文章标签： python 机器学习数据分析

本文链接：https://blog.youkuaiyun.com/ava_zhang2017/article/details/112327159

本文介绍了决策树的基础知识，包括分类树和回归树，并通过泰坦尼克号乘客生存数据进行实战练习。在数据预处理、特征选择后，利用DecisionTreeClassifier进行模型构建。通过调整max_depth和criterion参数，使用交叉验证和网格搜索优化模型，最终获得0.824的高准确率。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

决策树

1 概述

1.1 决策树是如何工作的

思维导图

1.2 分类树 DecisionTreeClassifier

在这里插入图片描述

1.3 回归树 DecisionTreeRegressor

在这里插入图片描述

1.4 案例练习

1. 用回归树拟合正弦函数曲线

#创建一个含有噪声的正弦曲线
rng = np.random.RandomState(1)#设置随机数种子
x = np.sort(5*rng.rand(80,1),axis=0)#构造0~5之间的随机数并排序
y = np.sin(x).ravel()#生成正弦曲线值
y[::5]+=3*(0.5- rng.rand(16))#添加噪声数据
#实例化训练模型
regr1 = DecisionTreeRegressor(max_depth=2)
regr2 = DecisionTreeRegressor(max_depth=5)
regr1 = regr1.fit(x,y)
regr2 = regr2.fit(x,y)
#测试集导入模型，预测结果
xtest = np.arange(0,5,0.01)[:,np.newaxis]
y_1 = regr1.predict(xtest)
y_2 = regr2.predict(xtest)
#作图
plt.figure()
plt.scatter(x,y,s=20,edgecolors='black',c='darkorange',label ='data')
plt.plot(xtest,y_1,color='cornflowerblue',label='max_depth=2',linewidth=2)

最低0.47元/天解锁文章