【机器学习入门笔记】第八篇-随机森林

细细东风能找到好工作

于 2022-07-14 12:30:48 发布

阅读量1.1k

点赞数

文章标签：大数据机器学习 sklearn 决策树随机森林

本文链接：https://blog.youkuaiyun.com/Y809714652/article/details/125781834

版权

该博客对比了使用sklearn库的决策树和随机森林模型在泰坦尼克号数据集上的生存预测效果。决策树模型得到的准确率为0.7811，而随机森林模型通过网格搜索和交叉验证优化参数后，准确率提升至0.7872，提高了约0.06。随机森林作为集成学习方法，通过组合多个决策树的预测来提高整体预测性能。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

使用泰坦尼克数据，用sklearn决策树和随机森林进行预测比对

1.决策树（准确率：0.7811550）

#1)获取数据
import pandas as pd
data = pd.read_csv("titanic.csv")

#2)准备好特征值 目标值
x = data[["pclass","age","sex"]]
y = data["survived"]

#3)数据处理
   #缺失值处理
x["age"].fillna(x["age"].mean(),inplace = True) 

#特征值-》字典类型(字典抽取特征更方便)
x = x.to_dict(orient="records")

#4）划分数据集
from sklearn.model_selection import train_test_split
x_train,x_test,y_train,y_test = train_test_split(x,y,random_state =22)

#字典特征抽取
from sklearn.feature_extraction import DictVectorizer 

transfer =DictVectorizer()
x_train = transfer.fit_transform(x_train)
x_test = transfer.transform(x_test)

#5).决策树预估器
from sklearn.tree import DecisionTreeClassifier
estimator = DecisionTreeClassifier(criterion="entropy",max_depth&#