Weka算法Classifier-tree-J48源码分析（一）算法和基本数据结构

最新推荐文章于 2024-01-15 16:08:08 发布
原创 最新推荐文章于 2024-01-15 16:08:08 发布 · 2.2w 阅读 · 15 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#算法 #机器学习 #数据挖掘 #数据结构 #源码

本文介绍了Weka中的J48算法，它是基于C4.5的决策树算法。讨论了算法原理，包括信息增益、信息增益率，并解释了为何C4.5算法优于ID3。同时，概述了算法中涉及的主要数据结构，如Instances对象、Instance、Classifier接口等。

大概一年没打理博客了，重新拿起笔不知道该从哪里写起，想来想去就从最近手头用的Weka写起吧。


Weka为一个Java基础上的机器学习工具，上手简单，并提供图形化界面，提供如分类、聚类、频繁项挖掘等工具，本篇文章主要写一下分类器算法中的J48算法及其实现。


一、算法

J48是基于C4.5实现的决策树算法，对于C4.5算法相关资料太多了，笔者在这里转载一部分（来源：http://blog.youkuaiyun.com/zjd950131/article/details/8027081）

 C4.5是一系列用在机器学习和数据挖掘的分类问题中的算法。它的目标是监督学习：给定一个数据集，其中的每一个元组都能用一组属性值来描述，每一个元组属于一个互斥的类别中的某一类。C4.5的目标是通过学习，找到一个从属性值到类别的映射关系，并且这个映射能用于对新的类别未知的实体进行分类。

    C4.5由J.Ross Quinlan在ID3的基础上提出的。ID3算法用来构造决策树。决策树是一种类似流程图的树结构，其中每个内部节点（非树叶节点）表示在一个属性上的测试，每个分枝代表一个测试输出，而每个树叶节点存放一个类标号。一旦建立好了决策树，对于一个未给定类标号的元组，跟踪一条有根节点到叶节点的路径，该叶节点就存放着该元组的预测。决策树的优势在于不需要任何领域知识或参数设置，适合于探测性的知识发现。

    从ID3算法中衍生出了C4.5和CART两种算法，这两种算法在数据挖掘中都非常重要。下图就是一棵典型的C4.5算法对数据集产生的决策树。

数据集如图1所示，它表示的是天气情况与去不去打高尔夫球之间的关系。

image

图1  数据集

        

最低0.47元/天 解锁文章
Weka算法Classifier-tree-J48源码分析（二）ClassifierTree
锐之锋芒
09-07 6005
Weka算法Classifier-tree-J48源码分析（二）ClassifierTree
weka[2] - J48(一)
狂奔的番茄
06-11 1517
test
weka 中j48源码解析
06-24
详细讲述了weka中j48源码解析，详细，值得学习
Weka算法Classifier-tree-J48源代码分析（一个）基本数据结构和算法
weixin_34273481的博客
08-14 448
大约一年，我没有照顾的博客，再次拿起笔不知从何写上，想来想去手从最近使用Weka要正确书写。 Weka为一个Java基础上的机器学习工具。上手简单，并提供图形化界面。提供如分类、聚类、频繁项挖掘等工具。本篇文章主要写一下分类器算法中的J48算法及事实上现。 一、算法 J48是基于C4.5实现的决策树算法。对于C4.5算法相关资料太多了。笔者在这里转载一部分（来源：ht...
代码-Weka的决策树类J48
weixin_30298497的博客
01-03 381
package kit.weka; /** * desc:试试Weka的决策树类 * <code>J48Test</code> * */ import java.io.File; import java.io.IOException; import we...
Weka算法Classifier-tree-J48源码分析（四）总结
锐之锋芒
09-08 9059
Weka算法Classifier-tree-J48源码分析（四）总结
Weka算法Classifier-trees-RandomTree源码分析
锐之锋芒
09-14 7754
一、RandomTree算法
Weka算法Classifier-trees-REPTree源码分析（一）
锐之锋芒
09-21 8055
Weka算法Classifier-trees-REPTree源码分析（一）
weka源码学习
02-02
目录 Weka 开发［1］－Instances类 1 Weka开发［2］－分类器类 2 Weka开发［3］－Evaluation类 3 Weka开发［4］－特征选择 4 Weka开发［5］－半监督算法 6 Weka开发［0］－导入Weka包 8 半监督算法工具SVMlin使用 12 半监督算法工具SVMlin读取数据代码介绍 14 Weka开发［6］－参数设置 16 Weka开发［7］－LibSVM 17 Weka开发［８］－ID3源码介绍 18 Weka开发［9］—KMeans源码介绍 21 Weka开发［10］—NBTree源码介绍 25 Weka开发［11］—J48源代码介绍 31 Weka开发［13］－Ensemble 39 Weka开发［14］－AdaBoost源代码介绍 42 Weka开发［15］－ZeroR源代码介绍（入门篇） 45 Multi-Label Classification(多标签分类) 介绍 47 Weka开发［16］－OneR源代码介绍 47 Weka开发［-1］——在你的代码中使用Weka 51 挖掘多标签数据综述(multi-label data mining)[Available] 62 数据流-移动超平面(HyperPlane)构造 63 Weka开发［17］——关联规则之Apriori 66 Weka开发［18］——寻找K个邻居 67 Weka开发［19］——NaiveBayes源代码分析 69 Weka开发［20］——IB1源代码分析 74 Weka开发［21］——IBk(KNN)源代码分析 77 Weka开发［22］——REPTree源代码分析（1） 81 Weka开发［23］——PART源代码分析 94 Weka开发［24］——Apriori源代码分析(1) 101 Weka开发［24］——Apriori源代码分析(2) 106 Weka开发［25］——Bagging源代码分析 112 Weka开发［26］——Voting源代码分析 116 Weka开发［27］——SMO源代码分析［1］ 122 Weka开发［27］——SMO源代码分析［2］ 127 weka开发［27］——SMO源代码分析［3］ 132 Weka开发［27］——SMO源代码分析［4］ 138
java weka 分类_从java中调用weka中的分类函数的问题
weixin_39790760的博客
02-15 289
下面是问题java，请高手帮忙改下，本人不是很了解，谢谢~~~~比较急提示问题是：weka.core.UnassignedClassException:weka.classifiers.trees.j48.C45PruneableClassifierTree:Classat...下面是问题java，请高手帮忙改下，本人不是很了解，谢谢~~~~比较急提示问题是：weka.core.Unassigne...
weka J48决策树学习
热门推荐
路远，漫步前行
06-10 2万+
Weka为一个Java基础上的机器学习工具，上手简单，并提供图形化界面，提供如分类、聚类、频繁项挖掘等工具，本篇文章主要写一下分类器算法中的J48算法及其实现。 一、算法 J48是基于C4.5实现的决策树算法，对于C4.5算法相关资料太多了，笔者在这里转载一部分（来源：http://blog.youkuaiyun.com/zjd950131/article/details/802708
【weka】决策树C4.5
bryant_meng
03-08 1万+
参考 C4.5算法详解（非常仔细） 用 WEKA 进行数据挖掘，第 2 部分 weka算法参数整理 文章目录1 算法原理1.1 计算类别信息熵1.2 计算每个属性的信息熵1.3 计算信息增益1.4 计算属性分裂信息度量1.5 计算信息增益率2 weka上的实现2.1 WEKA 数据集2.2 在 WEKA 内进行分类 1 算法原理   首先，C4.5是决策树算法的一种。决策树算法作为一种分类算法，...
Weka分类---J48
水滴石穿
12-22 3996
利用iris数据集用weka只带的J48训练分类器详细见程序注释package wekaTest;import weka.classifiers.meta.FilteredClassifier; import weka.classifiers.trees.J48; import weka.core.Instances; import weka.core.converters.ConverterUti
分类器
u011860731的专栏
03-18 653
weka中的J48算法就是经典的C4.5算法，soga~~ C4.5决策树算法是机器学习中广为人知的算法，是ID3算法的改进，并继承了ID3的全部优点。 数据挖掘中算法的性能比较一般从分类速度、准确率、可伸缩性、强壮型以及可理解性等几个方面进行比较。 强壮型一般指容忍噪音数据和缺失数据的能力； 可伸缩性一般随着数据规模的扩大，算法处理的效率； 可理解性是指学习出来的模型是否容易理解。
行为树（Behavior Tree）
weixin_43735634的博客
01-15 9226
在行为树中，根节点是AI的起点，通过遍历子节点来决策AI的行为。前两个通知其父节点其操作是成功还是失败。下次树被选择时，该节点将再次被选择，此时它将再次有机会成功，失败或继续运行。行为树（Behavior Trees）是一种在游戏开发中广泛使用的AI设计模式，主要用于描述AI的行为和决策过程，实现更加智能和自然的游戏AI。它由多个节点组成，每个节点代表一个行为或决策，按照特定的方式连接在一起，形成一个树状结构。行为树通过模拟树状结构来描述AI的行为和决策过程，使得AI的行为更加灵活、自然和智能。
数据挖掘---决策树
weixin_44748341的博客
01-04 604
文章目录一、构建训练集与检验集二、J48构建决策树三、tree构建决策树四、混淆矩阵五、随机森林 三种属性选择度量：信息增益（ID3）、增益率（C4.5）、基尼指数（CART） ID3：Iterative Dichotomiser（迭代的二分器），利用增益比不纯性，树采用二叉树，停止准则为当所有的记录属于同一类时，停止分裂；或当所有的记录都有相同的属性时，停止分裂 C4.5：ID3的改进版，也是最流行的决策树算法，采用多重分枝和剪枝技术。 CART：Classification and Regress
weka3.7数据的类型已改，J48算法没法点亮
wzennn的博客
07-07 3158
ROS2中使用Behavior Tree (1)
mubibaiwhale的博客
07-17 1632
BT类似于 FSM 有着广泛的应用，BT框架可以集成到任何其他软件中，首先记录一下没有ROS的纯BT框架，在理解核心原则之后，将BT程序的相同结构合并到ROS2环境中。行为树（Behavior Tree，BT）是一种用于设计和管理机器人或自主智能的行为的框架。它可以将复杂的任务和行为分解成逻辑上连续的节点，使得整个系统的控制逻辑更加清晰、灵活和可扩展。在BT中，整个行为树的结构类似一个树状图，从根节点开始，逐级向下展开，直到叶子节点为止。
weka如何分析超大数据集
最新发布
11-04
WEKA（Waikato Environment for Knowledge Analysis）是一款广泛用于数据挖掘任务的开源软件。当处理超大数据集时，可采用以下方法： ### 流式学习 WEKA支持流式学习算法，这些算法可以一次处理一个或一批数据实例，而不是将整个数据集加载到内存中。例如，使用 Hoeffding 树（HoeffdingTree）等增量式分类器，它们可以在数据不断流入时进行实时学习和分类。以下是使用 WEKA API 进行流式学习的简单示例代码： ```java import weka.classifiers.trees.HoeffdingTree; import weka.core.Instances; import weka.core.converters.ConverterUtils.DataSource; public class StreamingLearningExample { public static void main(String[] args) throws Exception { // 加载数据集 DataSource source = new DataSource("your_large_dataset.arff"); Instances data = source.getDataSet(); if (data.classIndex() == -1) { data.setClassIndex(data.numAttributes() - 1); } // 创建 Hoeffding 树分类器 HoeffdingTree tree = new HoeffdingTree(); // 进行流式学习 for (int i = 0; i < data.numInstances(); i++) { tree.updateClassifier(data.instance(i)); } // 可以进行预测等操作 } } ``` ### 数据采样 如果数据集过大无法全部加载到内存中，可以对数据进行采样。WEKA 提供了多种采样方法，如随机采样（Random Sampling）、分层采样（Stratified Sampling）等。可以使用 `weka.filters.supervised.instance.Resample` 过滤器进行采样。以下是使用 Java 代码进行随机采样的示例： ```java import weka.core.Instances; import weka.core.converters.ConverterUtils.DataSource; import weka.filters.supervised.instance.Resample; public class DataSamplingExample { public static void main(String[] args) throws Exception { // 加载数据集 DataSource source = new DataSource("your_large_dataset.arff"); Instances data = source.getDataSet(); if (data.classIndex() == -1) { data.setClassIndex(data.numAttributes() - 1); } // 创建采样过滤器 Resample resample = new Resample(); resample.setSampleSizePercent(10); // 采样 10% 的数据 resample.setInputFormat(data); // 应用过滤器进行采样 Instances sampledData = weka.filters.Filter.useFilter(data, resample); // 可以对采样后的数据进行分析 } } ``` ### 分布式计算 可以将 WEKA 与分布式计算框架（如 Apache Hadoop、Apache Spark）结合使用，以处理超大数据集。例如，使用 Spark-WEKA 集成，将数据分布在多个节点上进行并行处理。以下是一个简单的 Spark-WEKA 集成示例： ```python from pyspark import SparkContext from pyspark.sql import SparkSession from weka.core.converters import Loader from weka.classifiers import Classifier # 创建 Spark 上下文和会话 sc = SparkContext("local", "WEKA on Spark") spark = SparkSession.builder.appName("WEKA on Spark").getOrCreate() # 加载数据集 loader = Loader(classname="weka.core.converters.ArffLoader") data = loader.load_file("your_large_dataset.arff") data.class_is_last() # 创建 WEKA 分类器 classifier = Classifier(classname="weka.classifiers.trees.J48") # 将数据转换为 RDD 并进行分布式处理 rdd = sc.parallelize(data.to_instances().to_list()) # 可以进行分布式训练和预测等操作 # 停止 Spark 上下文 sc.stop() ``` ### 内存管理 合理配置 WEKA 的内存使用，通过调整 Java 虚拟机（JVM）的堆内存大小来避免内存溢出。可以在启动 WEKA 时使用 `-Xmx` 参数指定最大堆内存大小，例如： ```sh java -Xmx4g -jar weka.jar ``` 上述代码将 WEKA 的最大堆内存设置为 4GB。
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值