用决策树对泰坦尼克号生存进行预测

本文介绍了一种使用决策树算法预测泰坦尼克号乘客生存可能性的方法。通过处理数据集中的特征属性,如乘客等级、年龄和性别,应用决策树模型进行训练和预测,实现了对乘客生存状态的有效预测。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

决策树(decision tree)是一个树结构(可以是二叉树或非二叉树)。其每个非叶节点表示一个特征属性上的测试,每个分支代表这个特征属性在某个值域上的输出,而每个叶节点存放一个类别。使用决策树进行决策的过程就是从根节点开始,测试待分类项中相应的特征属性,并按照其值选择输出分支,直到到达叶子节点,将叶子节点存放的类别作为决策结果。

可以看到,决策树的决策过程非常直观,容易被人理解。目前决策树已经成功运用于医学、制造产业、天文学、分支生物学以及商业等诸多领域

import pandas as pd
from sklearn.ensemble import RandomForestClassifier
from sklearn.feature_extraction import DictVectorizer
from sklearn.model_selection import train_test_split, GridSearchCV
from sklearn.tree import DecisionTreeClassifier


def decision():
	# 加载文件,得到数据
    # 决策树对泰坦尼克号进行预测生死
    tian = pd.read_csv('Titanic.csv')
    # 处理数据,找出特征值和目标值
    x = tian[['Pclass','Age','Sex']]
    y = tian['Survived']
    # print(x)
    # 缺失值处理
    x['Age'].fillna(x['Age'].mean(),inplace=True)
    # 分割数据集到训练集和测试集
    x_train,x_test,y_train,y_test = train_test_split(x,y,test_size=0.25)
    dict = DictVectorizer(sparse=False)
    x_train = dict.fit_transform(x_train.to_dict(orient="records"))

    print(x_train)
    x_test = dict.transform(x_test.to_dict(orient="records"))
    # 用决策树进行预测
    dec = DecisionTreeClassifier()
    dec.fit(x_train,y_train)
    # 预测准确率
    print(dec.predict(x_test))
    print("预测的准确率:",dec.score(x_test,y_test))

    rf = RandomForestClassifier(n_jobs=-1)
    param = {"n_estimators":[120,200,300,500,800,1200],"max_depth":[5,8,15,25,30]}
    # 网络搜索与交叉验证
    gc = GridSearchCV(rf,param_grid=param,cv=2)
    gc.fit(x_train,y_train)
    print("准确率:",gc.score(x_test,y_test))

    return None

if __name__ == '__main__':
    decision()
### 使用决策树算法实现泰坦尼克号生存预测 要使用决策树算法对泰坦尼克号生存数据进行预测,可以按照以下方法构建完整的流程。以下是详细的说明: #### 数据准备阶段 在实际应用中,首先需要加载并清理数据集。通常情况下,原始数据集中可能包含许多无用或冗余的信息。例如,“姓名”、“船票编号”和“船舱号”这些字段对于预测乘客是否能幸存几乎没有帮助[^4]。 可以通过 `pandas` 库读取 CSV 文件中的数据,并删除无关列: ```python import pandas as pd # 加载数据 data = pd.read_csv('titanic.csv') # 删除不相关的特征 data.drop(["Name", "Cabin", "Ticket"], axis=1, inplace=True) # 查看处理后的前几行数据 print(data.head()) ``` #### 特征工程 为了使模型更好地理解输入的数据,还需要对分类变量(如性别、登船港口等)进行编码转换。这一步骤可通过 `DictVectorizer` 或者 `OneHotEncoder` 实现: ```python from sklearn.feature_extraction import DictVectorizer # 将分类变量转化为字典形式 X_dict = data[['Sex', 'Embarked']].to_dict(orient='records') vec = DictVectorizer(sparse=False) X_categorical = vec.fit_transform(X_dict) # 合并数值型特征与类别型特征 numeric_features = ['Age', 'Fare', 'Pclass'] X_numeric = data[numeric_features].fillna(-1).values # 处理缺失值 X = np.hstack([X_numeric, X_categorical]) y = data['Survived'].values ``` #### 划分训练集与测试集 将数据划分为训练集和测试集以便后续验证模型性能: ```python from sklearn.model_selection import train_test_split X_train, X_test, y_train, y_test = train_test_split( X, y, test_size=0.25, random_state=22 ) ``` #### 构建决策树模型 通过设置参数创建一个基于信息熵准则的决策树分类器,并限制其最大深度以防止过拟合: ```python from sklearn.tree import DecisionTreeClassifier estimator = DecisionTreeClassifier(criterion="entropy", max_depth=5) estimator.fit(X_train, y_train) ``` #### 模型评估 利用测试集计算模型的准确性得分,并尝试对其进行预测: ```python score = estimator.score(X_test, y_test) predictions = estimator.predict(X_test) print(f"Model Accuracy: {score:.4f}") print("Predictions:", predictions[:10]) # 输出前十个预测结果作为示例 ``` #### 可视化决策树结构 如果希望直观了解所生成的决策路径,则可借助图形工具导出该树状图: ```python from sklearn.tree import export_graphviz import graphviz dot_data = export_graphviz(estimator, out_file=None, feature_names=['Age', 'Fare', 'Pclass'] + list(vec.get_feature_names_out()), class_names=["Died", "Survived"], filled=True, rounded=True, special_characters=True) graph = graphviz.Source(dot_data) graph.render("decision_tree") # 导出为文件名为 decision_tree 的 PDF 图像 ``` 以上就是整个过程的具体实施方式[^3]^。 --- ###
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值