19、机器学习中的分类算法：从逻辑回归到决策树

机器学习中的分类算法：从逻辑回归到决策树

1. 数据预处理与逻辑回归模型

在进行机器学习建模之前，通常需要对数据进行预处理，使其适合模型的输入要求。以泰坦尼克号数据集为例，我们需要将分类变量转换为虚拟指标。

1.1 分类变量转换

import pandas as pd

# 将Sex变量转换为虚拟指标
gender = pd.get_dummies(titanic_data['Sex'], drop_first=True)
gender.head()

# 将虚拟指标合并到原始数据中
titanic_dmy = pd.concat([titanic_data, gender], axis=1)
titanic_dmy.head()

# 删除Fare列
titanic_dmy.drop(['Fare'], axis=1, inplace=True)
titanic_dmy.head()

1.2 模型部署与评估

接下来，我们使用逻辑回归模型进行分类，并评估模型的性能。

from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import confusion_matrix, classification_report

# 划分特征和目标变量
X = titanic_dmy.ix[:,