利用决策树完成数据分类任务

于 2024-11-04 09:16:15 发布
阅读量431 收藏 4
点赞数 15
CC 4.0 BY-SA版权
文章标签： 决策树 分类 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/opencv_new/article/details/143475430

提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档

前言

本文介绍利用决策树完成csv数据的编写。

一、依赖库添加流程

为了完成决策树计算，下文将展示运行决策树所需要的依赖库。

##  基础函数库
import numpy as np 
import pandas as pd

## 绘图函数库
import matplotlib.pyplot as plt
import seaborn as sns

二、使用步骤

1.读入CSV文件数据

代码如下（示例）： 

#利用Pandas自带的read_csv函数读取并转化为DataFrame格式
data = pd.read_csv('D:\lwjdeli/data.csv')
#我选取了6个简单的特征进行研究
data = data[['xingbie','age','BMI',
            'high','low','zhifnag','label']]
data.info()
#查看数据
print(data.head())
#发现数据中存在的NAN，缺失值此处使用-1将缺失值进行填充
data=data.fillna(-1)
print(data.tail())
#查看对应标签
print(data['label'].unique())
#统计每个类别的数量
print(pd.Series(data['label']).value_counts())
#对特征进行统一描述
print(data.describe())
#可视化描述
sns.pairplot(data=data,diag_kind='hist',hue='label')
plt.show()

通过执行上述代码完成数据 样本的分布情况。具体的分布情况如下图所示。

而后会计算数据集中每个数据点的分布情况，计算其均值、方差以及最大与最小值。具体的数据如下图所示。

2.显示各个变量的数据分布情况

代码如下（示例）： 

#%%为了方便处理，将标签数字化
# 'Adelie Penguin (Pygoscelis adeliae)'        ------0
#  'Gentoo penguin (Pygoscelis papua)'          ------1
#  'Chinstrap penguin (Pygoscelis antarctica)   ------2 

def trans(x):
    if x == data['label'].unique()[0]:
        return 0
    if x == data['label'].unique()[1]:
        return 1
    if x == data['label'].unique()[2]:
        return 2
data['label'] = data['label'].apply(trans)

#利用箱图得到不同类别在不同特征上的分布差异
for col in data.columns:
    if col != 'label':
        sns.boxplot(x='label', y=col, saturation=0.5, palette='pastel', data=data)
        plt.title(col)
        plt.show()
        plt.figure()

上图为具体的数据可视化结果

3： 决策树模型训练

##%%利用决策树模型在二分类上进行训练和预测——选取0和1两类样本，样本选取其中的6个特征
## 为了正确评估模型性能，将数据划分为训练集和测试集，并在训练集上训练模型，在测试集上验证模型性能。
from sklearn.model_selection import train_test_split

data_target_part = data[data['label'].isin([0,1])][['label']]
data_features_part = data[data['label'].isin([0,1])][['xingbie','age','BMI',
            'high','low','zhifnag']]

## 测试集大小为20%， 80%/20%分
x_train, x_test, y_train, y_test = train_test_split(
    data_features_part, data_target_part, test_size = 0.2, random_state = 2020)
## 从sklearn中导入决策树模型
from sklearn.tree import DecisionTreeClassifier
from sklearn import tree
## 定义 决策树模型 
clf = DecisionTreeClassifier(criterion='entropy')
# 在训练集上训练决策树模型
clf.fit(x_train, y_train)

#%% 可视化决策树
import pydotplus
dot_data = tree.export_graphviz(clf, out_file=None)
graph = pydotplus.graph_from_dot_data(dot_data)
graph.write_png("D:\lwjdeli\DTpraTree.png") 
#%% 在训练集和测试集上利用训练好的模型进行预测
train_predict = clf.predict(x_train)
test_predict = clf.predict(x_test)
from sklearn import metrics

## 利用accuracy（准确度）【预测正确的样本数目占总预测样本数目的比例】评估模型效果
print('The accuracy of the train_DecisionTree is:',metrics.accuracy_score(y_train,train_predict))
print('The accuracy of the test_DecisionTree is:',metrics.accuracy_score(y_test,test_predict))

## 查看混淆矩阵 (预测值和真实值的各类情况统计矩阵)
confusion_matrix_result = metrics.confusion_matrix(test_predict,y_test)
print('The confusion matrix result:\n',confusion_matrix_result)

# 利用热力图对于结果进行可视化
plt.figure(figsize=(8, 6))
sns.heatmap(confusion_matrix_result, annot=True, cmap='Blues')
plt.xlabel('Predicted labels')
plt.ylabel('True labels')
plt.show()

整体代码


##  基础函数库
import numpy as np 
import pandas as pd

## 绘图函数库
import matplotlib.pyplot as plt
import seaborn as sns
#%%读入数据
#利用Pandas自带的read_csv函数读取并转化为DataFrame格式
data = pd.read_csv('D:\lwjdeli/data.csv')
#我选取了6个简单的特征进行研究
data = data[['xingbie','age','BMI',
            'high','low','zhifnag','label']]
data.info()
#查看数据
print(data.head())
#发现数据中存在的NAN，缺失值此处使用-1将缺失值进行填充
data=data.fillna(-1)
print(data.tail())
#查看对应标签
print(data['label'].unique())
#统计每个类别的数量
print(pd.Series(data['label']).value_counts())
#对特征进行统一描述
print(data.describe())
#可视化描述
sns.pairplot(data=data,diag_kind='hist',hue='label')
plt.show()

#%%为了方便处理，将标签数字化
# 'Adelie Penguin (Pygoscelis adeliae)'        ------0
#  'Gentoo penguin (Pygoscelis papua)'          ------1
#  'Chinstrap penguin (Pygoscelis antarctica)   ------2 

def trans(x):
    if x == data['label'].unique()[0]:
        return 0
    if x == data['label'].unique()[1]:
        return 1
    if x == data['label'].unique()[2]:
        return 2
data['label'] = data['label'].apply(trans)

#利用箱图得到不同类别在不同特征上的分布差异
for col in data.columns:
    if col != 'label':
        sns.boxplot(x='label', y=col, saturation=0.5, palette='pastel', data=data)
        plt.title(col)
        plt.show()
        plt.figure()

#%%选取label，culmen_length和culmen_depth三个特征绘制三维散点图
from mpl_toolkits.mplot3d import Axes3D
fig = plt.figure(figsize=(10,8))
ax = fig.add_subplot(111, projection='3d')

data_class0 = data[data['label']==0].values
data_class1 = data[data['label']==1].values
# data_class2 = data[data['label']==2].values
# 'setosa'(0), 'versicolor'(1), 'virginica'(2)
ax.scatter(data_class0[:,0], data_class0[:,1], data_class0[:,2],label=data['label'].unique()[0])
ax.scatter(data_class1[:,0], data_class1[:,1], data_class1[:,2],label=data['label'].unique()[1])
# ax.scatter(data_class2[:,0], data_class2[:,1], data_class2[:,2],label=data['label'].unique()[2])
plt.legend()
plt.show()

##%%利用决策树模型在二分类上进行训练和预测——选取0和1两类样本，样本选取其中的6个特征
## 为了正确评估模型性能，将数据划分为训练集和测试集，并在训练集上训练模型，在测试集上验证模型性能。
from sklearn.model_selection import train_test_split

data_target_part = data[data['label'].isin([0,1])][['label']]
data_features_part = data[data['label'].isin([0,1])][['xingbie','age','BMI',
            'high','low','zhifnag']]

## 测试集大小为20%， 80%/20%分
x_train, x_test, y_train, y_test = train_test_split(
    data_features_part, data_target_part, test_size = 0.2, random_state = 2020)
## 从sklearn中导入决策树模型
from sklearn.tree import DecisionTreeClassifier
from sklearn import tree
## 定义 决策树模型 
clf = DecisionTreeClassifier(criterion='entropy')
# 在训练集上训练决策树模型
clf.fit(x_train, y_train)

#%% 可视化决策树
import pydotplus
dot_data = tree.export_graphviz(clf, out_file=None)
graph = pydotplus.graph_from_dot_data(dot_data)
graph.write_png("D:\lwjdeli\DTpraTree.png") 
#%% 在训练集和测试集上利用训练好的模型进行预测
train_predict = clf.predict(x_train)
test_predict = clf.predict(x_test)
from sklearn import metrics

## 利用accuracy（准确度）【预测正确的样本数目占总预测样本数目的比例】评估模型效果
print('The accuracy of the train_DecisionTree is:',metrics.accuracy_score(y_train,train_predict))
print('The accuracy of the test_DecisionTree is:',metrics.accuracy_score(y_test,test_predict))

## 查看混淆矩阵 (预测值和真实值的各类情况统计矩阵)
confusion_matrix_result = metrics.confusion_matrix(test_predict,y_test)
print('The confusion matrix result:\n',confusion_matrix_result)

# 利用热力图对于结果进行可视化
plt.figure(figsize=(8, 6))
sns.heatmap(confusion_matrix_result, annot=True, cmap='Blues')
plt.xlabel('Predicted labels')
plt.ylabel('True labels')
plt.show()

总结

以上就是今天要讲的内容，本文介绍了如何使用决策树完成csv文件的分类任务。

python：使用CNN神经网络实现CSV数据分类预测
养乐多的博客
07-24 2441
养乐多_本文记录了一个使用Keras构建和训练卷积神经网络（CNN）的示例。这个CNN模型用于分类任务，并且训练样本数据集来自一个CSV文件。我们的目标是根据输入特征将样本分为不同的类别。代码可用于土地覆盖分类、基于时间序列数据的植被监测、土地利用变化分析、水体监测、气候变化研究。
scikit-learn + pandas 决策树
泛泛之素
01-22 5897
学习过pytorch的神经网络，返回来看sklearn的机器算法感觉简单多了，只需要套用模型，fit一下，本篇结合sklearn 上的决策树算法和pandas数据预处理 对 经典的泰坦尼克获取数据集进行学习，探究获救因素。 例子来源：张良均《python与数据挖掘》 数据处理 原始数据下载：https://github.com/ffzs/ml_sklearn/tree/master/da
基于pandas的决策树(decision tree)
03-01
基于pandas的决策树(decision tree)，人工智能机器学习实验
机器学习实战之决策树算法pandas实现
等风来ing 的博客
07-15 2161
本来早就写完了，但出了两个小错误，我又不会debug，只能一点点代码试哪里错了，真的烦死了，旁边还有蚊子叫，烦上加烦，好在最后找到错误原因了。import numpy as np from pandas import DataFrame, Series def cal_shannon(frame): val_count = frame.iloc[:, -1].value_counts()
决策树实现
weixin_30849403的博客
08-04 192
1 决策树自编程实现 import numpy as np import pandas as pd import math import time from collections import namedtuple class Node(namedtuple("Node","children type content feature label")): # 孩子节...
利用决策树进行数据分类.zip
08-09
决策树是一种广泛应用于数据分析和机器学习的模型，尤其在数据分类任务中表现出色。它通过构建一棵树状结构来模拟决策过程，每个内部节点代表一个特征，每个分支代表该特征的一个可能值，而叶节点则表示类别决定。在...
决策树分类实验（乳腺癌）.zip_wpbc数据集_乳腺癌数据_决策树 cancer_决策树分类程序（使用乳腺癌数据集）_决策树数
07-15
在这个"决策树分类实验（乳腺癌）"中，我们看到一个利用决策树进行乳腺癌预测的实例。该实验基于wpbc（Wisconsin Breast Cancer）数据集，这是一个经典的医学数据集，包含了乳腺细胞的多种特征信息，用于辅助识别...
python利用c4.5决策树对鸢尾花卉数据集进行分类（iris）
05-27
在本项目中，我们主要探讨如何使用Python编程语言和C4.5决策树算法对鸢尾花卉数据集（Iris dataset）进行分类。这个数据集是机器学习领域经典的多类分类问题实例，常用于教学和实验。以下是相关知识点的详细说明： ...
基于决策树的鸢尾花分类
04-21
在鸢尾花分类任务中，决策树首先会选择信息增益或信息增益率最高的特征作为节点，然后根据这个特征的取值生成子树。这个过程会递归进行，直到所有子集只包含单一类别的鸢尾花。最终形成的决策树模型简洁易懂，计算...
月亮数据预测(决策树和随机森林算法).zip
05-17
总的来说，这个项目展示了如何利用决策树和随机森林两种机器学习算法对特定数据进行建模和预测，同时也涉及到了数据预处理、特征选择和模型评估等多个环节。通过学习和实践这样的项目，可以加深对机器学习的理解，...
决策树算法的csv原始数据文件
10-23
scikit-learn机器学习库实现决策树算法需要的csv原始数据文件
决策树python实践
qq_38120760的博客
09-29 551
#coding=utf-8 import numpy as np import matplotlib as mpl import matplotlib.pyplot as plt from sklearn.datasets import load_iris from sklearn.model_selection import train_test_split from sklearn.pip...
python决策树 value_利用pandas创建决策树模型
weixin_39689347的博客
11-27 274
今天深入学习了机器学习算法中，属于监督学习的决策树模型，我是在github上2w+星的项目学习的：apachecn/AiLearning，在此强烈推荐给新手！作者的算法基本依靠Python的基础语法完成，比如数据集是以二维列表的形式展示的，利用基础语法对其进行操作，会比较繁琐。联想到利用pandas应该能使代码更简洁，便自己动手实操了一番：先给出伪代码：对于一个拥有分类结果的训练数据集： ...
Sklearn——决策树可视化
m0_37634594的博客
01-05 2673
#四种可视化决策树的方式 import pandas as pd import numpy as np import matplotlib.pyplot as plt from pandas.io import feather_format from sklearn.datasets import load_iris from sklearn.tree import DecisionTreeClassifier from sklearn.model_selection import train_test_s
机器学习——pandas操作数据
fwj_ntu的博客
03-12 508
上一篇中已经了解了机器学习中一个简单的决策树模型，接下来将通过理论知识的学习，了解如何利用Pandas操作数据。 Pandas操作数据 机器学习项目的首要操作是建模人员要熟悉数据。在这节中，将教大家用Python的Pandas库来操作数据。Pandas是数据科学家用于浏览和操作数据的一个最基础的工具。大多数使用Pandas的人都习惯将pandas简称为‘pd’。 通过这条命令就可以完成该操作： i...
【Python】决策树算法 详解版【附完整版示例】
最新发布
Young_Pro的博客
07-11 4174
在上面的代码中，我们已经训练了决策树模型，并进行了交叉验证和预测。接下来，我们将展示如何导出决策树的可视化图形，以及如何评估模型性能。在这段代码中，我们计算了混淆矩阵以及精确率、召回率和F1分数，这些都是评估分类模型性能的重要指标。工具将其转换为PNG格式的图片，这样就可以直观地看到决策树的结构。在这个例子中，我们使用Pandas读取数据，然后使用Scikit-learn的。通过这些步骤，可以比较全面地理解决策树算法的工作原理，并能够使用。在上面的代码中，我们使用了。进行模型的训练和预测。
非线性分类-决策树算法实现（scikit-learn）
敲代码的乔帮主
12-04 1107
1、python 本课程的机器学习的算法都是基于python语言实现的，所以你需要有一定的python语言基础。 2、python机器学习的库：scikit-learn 特性： 1）简单高效的数据挖掘和机器学习分析 2）对所有用户开放，根据不同需求高度可重用性 3）基于Numpy, SciPy和matplotlib 4）开源，商用级别：获得 BSD许可 覆盖问题领域：...
【机器学习】：基于决策树与随机森林对数据分类
码银的博客
05-15 1831
本实验的目的在于让学生通过实践，深入理解这两种算法的工作原理，掌握使用Python的sklearn库对数据进行分类的方法，并熟悉数据预处理的相关技术。在本次实验中，随机森林的准确率超过了决策树，这可能是因为随机森林在处理复杂的分类问题时，能够更好地泛化。实验结果显示，CART决策树的分类准确率为82.61%，而随机森林的分类准确率达到了84.83%，后者在本次实验中表现更优。最后，实验通过柱状图可视化了两种模型的分类准确率，直观展示了随机森林相对于决策树在本次实验中的优势。首先，实验从载入数据集开始。
利用决策树算法预测西瓜的好坏
热门推荐
小子令狐冲
09-05 1万+
最近看完了《机器学习实战》和天池直播课堂中的决策树算法，觉得意犹未尽，特别是信息熵部分理解并不透彻，于是又把西瓜书中的决策树看了，略有感悟，希望与大家分享一下，下面我按照自己的理解，尽量用通俗的语言总结记录下决策树算法。 1.决策树介绍 举个通俗的栗子来解释一下什么是决策树，想象一个女孩的母亲要给这个女孩介绍男朋友： 女儿：有没有房子？母亲：有。 女儿：长的帅不帅？母亲：挺帅...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值