WEKA算法解析 -- PART决策树

PART决策树算法是一种高效的规则提取方法,由Eibe Frank和Ian H. Witten在1998年提出。该算法通过局部决策树优化,避免了全局优化的复杂性。在WEKA中,PART算法结合了建树和修剪,通过创建覆盖实例最多的规则,逐步构建决策树。算法的主要优势在于简洁和高性能,尤其适用于大数据集。本文详细介绍了PART算法的原理和WEKA中的实现,包括相关类和变量,如MakeDecList、ClassifierDecList等,并展示了如何构建和应用决策树。

      PART 决策树算法是一种由 WEKA 的作者 Eibe Frank 和 lan H. Witten 在1998年发明的算法,他们在1998年发表了论文Generating accurate rules sets without global optimization 详细地介绍了PART决策树的原理,并在WEKA中完整地实现了PART决策树。由于之前的股票数据挖掘的决策树部分就是用的这个算法,所以看了源代码,涉及的类比较多,贴上主要的一部分。

     PART决策树实际上是一种利用不完整的决策树在数据集中提取规则的算法。算法最初的原理来源于割治的思想:先建立一条规则,将规则所覆盖的实例去除,然后递归为剩余的实例建立规则,直至没有剩余的实例。而创建一条规则的过程就是在当前的实例集上创建一个完整的决策树,然后将覆盖实例数最多的叶子节点转化成一条规则,然后丢弃这个决策树。
     上述的方法看上去是一个效率很低的算法,但是可以通过优化,使程序加速。关键的思路在于建立局部决策树而不展开整棵树。局部决策树将建树和修剪合为一体,从而得到一个简化后的子树,从简化后的子树中读出一条规则来,并停止建树的过程。

     这个算法对比其他规则形成方法,它的主要优势在于简便,因为其他方法需要采用全局优化才能达到相当的性能水准。对于我们的股票数据挖掘而言,这个算法既利用了决策树的特性,又能直接生成规则,相比其他算法而言,省去了我们从决策树提取规则的步骤,且由于我们的数据集较大,算法的性能对于我们来说十分重要,所以PART决策树算法的高性能也是我们选择它的重要原因之一。

 

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值