决策树的算法的使用

浅谈决策树算法以及matlab实现ID3算法 决策树方法在分类、预测、规则提取等领域有着广泛的应用。在20世纪70年代后期和80年代初期,机器学习研究者J.Ross Quinilan提出了ID3算法以后,决策树在机器学习、数据挖掘领域得到极大的发展。Quinilan后来又提出了C4.5,成为新的监督学习算法。1984年几位统计学家提出了CART分类算法。ID3和ART算法大约同时被提出,但都是采用类似的方法从训练样本中学习决策树的。决策树是一树 阅读详情
# -*- coding: utf-8 -*-
"""
Created on Mon Aug 21 12:51:31 2017

@author: Administrator
"""
from sklearn.ensemble import RandomForestClassifier 
import pandas as pd
import numpy as np
import pandas as pd
import xgboost as xgb
from pandas import DataFrame
import matplotlib.pyplot as plt
## 读取训练集的数据

train_data = pd.read_table('X_train.txt',header=None,encoding='gb2312',delim_whitespace=True,index_col=0)
predict_data= pd.read_table('X_test.txt',header=None,encoding='gb2312',delim_whitespace=True,index_col=0)
train_label= pd.read_table('y_train.txt',header=None,encoding='gb2312',delim_whitespace=True,index_col=0)
predict_label= pd.read_table('y_test.txt',header=None,encoding='gb2312',delim_whitespace=True,index_col=0)


train_label=train_label.reset_index()-1
predict_label=predict_label.reset_index()-1

predict_label_column=list(predict_label.columns)
predict_label.rename(columns={predict_label_column[0]: 'label'}, inplace=True) 

clf=RandomForestClassifier(n_jobs=3) 
clf.fit(train_data, train_label)
ypred1=clf.predict(predict_data)   
ypred1 = DataFrame(ypred1)
ypred1_column=list(ypred1.columns)
ypred1.rename(columns={ypred1_column[0]: 'label'}, inplace=True) 
ac_middle=predict_label-ypred1
ac_middle_number=ac_middle[ac_middle['label']==0]
accurate=float(ac_middle_number.shape[0])/predict_label.shape[0]

对用的参数的调整:
http://blog.youkuaiyun.com/u012102306/article/details/52228516

参考的地址:
http://blog.youkuaiyun.com/lulei1217/article/details/49583287
http://www.cnblogs.com/downtjs/archive/2013/08/28/3288203.html

决策树-基于不同算法的决策树模型对比 决策树(Decision tree)是在已知各种情况发生概率的基础上,通过构成决策树来求取净现值的期望值大于等于零的概率,评价项目风险,判断其可行性的决策分析方法,是直观运用概率分析的一种图解法。由于这种决策分支画成图形很像一棵树的枝干,故称决策树。 机器学习中,决策树是一个预测模型。它代表的是对象属性与对象值之间的一种映射关系。树中每个节点表示某个对象,而每个分支叉路径则代表某个可能的属性值,而每个叶节点则对应从根节点到该叶节点所经历的路径所表示的对象的值。决策树仅有单一输... 阅读详情

相关推荐

决策树模型案例_人工智能算法-决策树系列算法

阶段概述: 本阶段讲解,决策树算法、随机森林算法、Adaboost 算法、GBDT 算法、XGBoost 算法 达成目标: 通过本阶段学习,掌握非线性决策树系列算法,重点掌握 Kaggle 神奇 XGBoost 算法,理 解 GBDT 和 XGBoost 涉及的公式推导,本阶段的掌握将大大提升学员数据挖掘的能力,对 于后续理解 Kaggle 实战阶段内容会起到很大的帮助。 实战教学项目: 通过 g...

weixin_42515631的博客 914

决策树(Decision Tree)

一些关于决策树的基础知识。

W________11的博客 1650

DS&ML_分类算法笔记之决策树模型

对于决策树模型的相关知识点的总结与整理 简单描述一下决策树模型的思想,决策树是什么?

S_gy_Zetrov的博客 3299

决策树的使用

上边中有3个哈密瓜的属性,如何综合利用这些属性去判断哈密瓜的好坏?决策树的做法是每次选择一个属性进行判断,如果不能得出结论,继续选择其他属性进行判断,直到能够“肯定地”判断出哈密瓜的好坏或者是上述属性都已经使用完毕。比如说我们要判断一个哈密瓜的好坏,我们可以先根据哈密瓜的气味进行判断,如果不能得出结论,再根据形状相似的瓜重量作判断,这样以此类推,直到可以得出结论为止。决策过程中提出的每个判定问题都是对某个属性的“测试”;

weixin_57258604的博客 165

解析数据结构与算法中的决策树模型

决策树是机器学习中最基础且广泛应用的算法之一,它模拟人类决策过程,通过树形结构对数据进行分类或回归预测。系统性地介绍决策树的核心原理和数学基础深入分析不同决策树算法的实现细节提供可实践的Python代码实现探讨决策树在实际应用中的表现和优化方法首先介绍决策树的基本概念和核心术语然后深入分析决策树的算法原理和数学基础接着通过Python代码实现完整的决策树分类器最后探讨实际应用和未来发展方向决策树(Decision Tree)

AI天才研究院 1007

7篇1章9节:认识决策树,构建CART算法的决策树模型

在本文中,我们将深入探讨决策树算法的各个方面,首先概述决策树的基本概念,介绍其不同类型,并分析其优势与局限性。接着,我们将详细讲解如何构建CART算法的决策树模型,包括模型的构建、可视化以及剪枝技术等关键步骤。此外,还将探讨一些常用的决策树算法改进方法,以提升模型的性能和稳定性。

MD Code 1049

决策树原理及使用

1.树模型和线性模型的区别 树形模型是一个一个特征进行处理 线性模型是所有特征给予权重相加得到一个新的值 2.什么是决策树 所谓决策树,就是一个类似于流程图的树形结构,树内部的每一个节点代表的是对一个特征的测试,树的分支代表该特征的每一个测试结果,而树的每一个叶子节点代表一个类别。树的最高层是就是根节点。下图即为一个决策树的示意描述,内部节点用矩形表示,叶子节点用椭圆表示。 3.学习过程 **特征选择:**特征选择是指从训练数据中众多的特征中选择一个特征作为当前节点的分裂标准,如何选

qq_41481924的博客 1万+

修复zookeeper未授权访问漏洞

【代码】修复zookeeper未授权访问漏洞。

qq_28392947的博客 4067

pandas,pd.read_table导入文件 显示错误,以及转化时间

后面加个engine='python',如果乱码,后面再加个encoding='utf-8'

m0_71948961的博客 705

基于FPGA的 SelectIO IP核 的仿真验证-----( LVDS差分高速传输)

SelectIO IP核 的仿真验证

qq_43618170的博客 1万+

UDS诊断入门第一课:手把手教你玩转0x10会话控制服务(附ISO14229实战解析)

刚接触汽车电子诊断的工程师们,往往会被厚厚的ISO 14229标准文档和各种专业术语吓退。但就像学习编程要从"Hello World"开始一样,掌握UDS协议的最佳切入点就是0x10诊断会话控制服务。这个看似简单的服务,实际上是整个诊断系统的"钥匙"——它决定了ECU(电子控制单元)当前处于何种工作模式,直接影响着其他诊断服务的可用性。 在实际车辆诊断中,ECU默认处于DefaultSession模式,这种模式下许多高级诊断功能是被禁用的。想象一下你正在开发一个需要刷写ECU固件的工具,如果连最基本的会

weixin_30402343的博客 392

Python模块之Pandas(一)-- 读取数据

【代码】Python模块之Pandas(一)-- 读取数据。

wodertianna的博客 429

代号OneNET02 STM32+ESP8266 WIFI系列-第2节-STM32单片机通过ESP8266连接WIFI访问OneNET OTA服务器实现SOTA远程程序升级

第2节-STM32单片机通过ESP8266连接WIFI访问OneNET OTA服务器实现SOTA远程程序升级,这一节主要是实现通过OneNET OTA服务器将需要更新的程序远程下载到STM32单片机,这一节主要是引导程序和应用程序的讲解。

weixin_44862509的博客 1904

基于ID3算法及C4.5算法的决策树模型

决策树是一种树形结构,由节点和边组成。其中节点分为内部节点和叶节点,内部节点表示一个特征或属性,叶节点表示一个类别或值(在分类问题中是类别,在回归问题中是连续值)。从根节点开始,对数据的特征进行测试,根据测试结果将数据划分到不同的子节点,直到数据被划分到叶节点,从而得到相应的预测结果。例如,在判断一个人是否适合贷款的问题中,决策树可能会根据年龄、收入、信用记录等特征进行逐步判断,最终得出 “适合” 或 “不适合” 贷款的结论。

2301_80378324的博客 1259

无线传感网络的Matlab实现

Matlab是一种功能强大的数值计算和数据分析工具,也可以用于无线传感网络的建模和仿真。根据实际需求,可以进一步扩展和优化模型,例如考虑节点能量消耗、网络路由、数据融合等方面的问题。函数用于绘制节点之间的连接关系,其中第一个参数是邻接矩阵,描述了节点之间的连接关系。这里使用了一个4个节点的简单例子,可以根据实际需求修改节点数量和连接关系。可以使用Matlab中的图形绘制函数来可视化节点的位置和连接关系。在无线传感网络中,节点的能量是一个关键因素。通过计算节点的剩余能量,可以评估节点的能量消耗情况。

2301_79331387的博客 248

ESP32 物联网宠物喂食器:实现远程智能投喂的完整方案

本项目基于 ESP32 实现了智能宠物喂食器的核心功能,硬件结构简单、成本较低,软件支持远程控制和状态监测。添加摄像头:通过 ESP32-CAM 模块实时观察宠物进食情况。APP 集成:开发专属手机 APP,支持定时设置、报警推送、喂食记录查询。语音控制:结合 Alexa 或小爱同学,实现语音指令喂食。太阳能供电:户外使用时,通过太阳能板为设备供电,节能环保。

weixin_42300449的博客 1274

【海量数据挖掘/数据分析】之 决策树模型(决策树模型、决策树构成、决策树常用算法、决策树性能要求、信息增益、信息增益计算公式、决策树信息增益计算实例)

【海量数据挖掘/数据分析】之 决策树模型(决策树模型、决策树构成、决策树常用算法、决策树性能要求、信息增益、信息增益计算公式、决策树信息增益计算实例) 一、决策树模型 1、常用算法 2、属性划分策略 3、其他算法 三、决策树算法性能要求 四、 决策树模型创建 ( 递归创建决策树 ) 1 、 决策树模型创建 2 、 决策树创建算法 ( 递归 ) 3 、 递归操作 4 、 递归停止的条件 五、 决策树 树根属性 选择 六、信息增益 说明 1、 熵 和 信息 的数据组成 2 、 信息增

仙魁XAN 1万+

innovus:ccopt_design流程

我正在「拾陆楼」和朋友们讨论有趣的话题,你⼀起来吧?spec文件可以只创建一次,无需多次创建。2)virtual balance阶段。3)Full Balancing阶段。4)Clock Routing阶段。1)clustering阶段。

m0_61544122的博客 2475

【算法】决策树模型 & 集成算法模型GBDT

决策树 ID3 C4.5 CART 剪枝 GBDT

qq_36643449的博客 2438

SAP Integration Suite 与 SAP Cloud Integration 的关系解析

SAP Cloud Integration是SAP Integration Suite套件的核心组件,专注于消息与流程集成。两者关系可概括为:Integration Suite是SAP BTP上的集成平台套件(iPaaS),而Cloud Integration是其中负责应用与B2B集成的关键能力。日常所说的"CPI"实际指代的是Integration Suite中的Cloud Integration功能。该套件还包含API管理、事件网格等其他集成能力,共同构成企业集成解决方案。理解这一层

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 592

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

【数据挖掘】决策树算法简介 ( 决策树模型 | 模型示例 | 决策树算法性能要求 | 递归创建决策树 | 树根属性选择 )

I . 决策树模型 II . 决策树模型 示例 III . 决策树算法列举 IV . 决策树算法 示例 V . 决策树算法性能要求 VI . 决策树模型创建 ( 递归创建决策树 ) VII . 决策树 树根属性 选择

让 学习 成为一种 习惯 ( 韩曙亮 の 技术博客 ) 4488

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

决策树模型 - (ID3算法、C4.5算法) - Python代码实现

目录 算法简介 信息熵(Entropy) 信息增益(Information gain) - ID3算法 信息增益率(gain ratio) - C4.5算法 源数据 代码实现 - ID3算法 代码实现 - C4.5算法 画决策树代码-treePlotter 算法简介 决策数(Decision Tree)在机器学习中也是比较常见的一种算法,属于监督学习中的一种。其中ID3算法是以...

黄饱饱 1万+

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

聊聊基于Alink库的决策树模型算法实现

决策树模型再现了人们做决策的过程,该过程由一系列的判断构成,后面的判断基于前面的判断结果,不断缩小范围,最终推出结果。

2401_85327249的博客 422

决策树 结构_手把手带你用ID3算法实现决策树模型

今天是机器学习专题的第21篇文章,我们一起来看一个新的模型——决策树。决策树的定义决策树是我本人非常喜欢的机器学习模型,非常直观容易理解,并且和数据结构的结合很紧密。我们学习的门槛也很低,相比于那些动辄一堆公式的模型来说,实在是简单得多。其实我们生活当中经常在用决策树,只是我们自己没有发现。决策树的本质就是一堆if-else的组合,举个经典的例子,比如我们去小摊子上买西瓜。水果摊的小贩都是怎么做的...

weixin_33578569的博客 2136

决策树模型下的几种优质算法剖析

决策树模型下的几种优质算法剖析 1.决策树模型的发展 决策树(decesion tree) 是一种基本的分类和回归方法,其呈树型结构,在分类问题中,在基于特征对实例进行分类过程中,其常常被认为是if-then规则的集合,也可以认为是定义在特征空间与类空间上的条件概率分布,该模型具有可读性,分类速度快,学习时,利用训练数据,根据损失最小化的原则建立决策树模型,预测时,对新的数据,利用决策树模型...

https://github.com/Wheeeeeeeeels 1086

决策树模型之ID3算法、C4.5算法和CART算法

决策树模型是一种常用的有监督的学习模型,其主要用来解决分类问题,但是也可用来解决回归问题。 信息熵和信息增益 我们先来了解两个概念,信息熵与信息增益。 信息熵 信息熵用来表示事物的不确定性或不纯性,信息熵越大,则表示该事物的不确定性或不纯性越大。 信息熵的公式为: H(x)=−∑i=1npilogpiH(x)=-\sum_{i=1}^{n}p_ilogp_iH(x)=−∑i=1n​pi​logpi...

Jerry_Chang31的博客 2002
上一篇: xgboost算法的学习小案例
下一篇: 在python,Scikit-learn的SVM算法
cmdtth
博客等级 码龄14年 15粉丝 17原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值