weka 特征选择

最新推荐文章于 2021-02-27 16:28:11 发布
原创 最新推荐文章于 2021-02-27 16:28:11 发布 · 5.2k 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#attributes #dataset #filter #class

1 infomation gains:

      会对连续的attribute进行离散化：

           NumericToBinary, 将属性进行0/1离散，Converts all numeric attributes into binary attributes (apart from the class attribute, if set): if the value of the numeric attribute is exactly zero, the value of the new attribute will be zero. If the value of the numeric attribute is missing, the value of the new attribute will be missing. Otherwise, the value of the new attribute will be one. The new attributes will be nominal.

           Discretize，An instance filter that discretizes a range of numeric attributes in the dataset into nominal attributes. Discretization is by Fayyad & Irani's MDL method (the default).

基于Weka的典型数据挖掘应用
赴前尘
07-05 4385
实验目标 理解数据挖掘的基本概念，掌握基于Weka工具的基本数据挖掘（分类、回归、聚类、关联规则分析）过程。 实验内容 下载并安装Java环境（JDK 7.0 64位）。 下载并安装Weka 3.7版。 基于Weka的数据分类。 基于Weka的数据回归。 基于Weka的数据聚类。 基于Weka的关联规则分析。 实验步骤 下载并安装Java环境（...
fcbf特征选择步骤_【Machine Learning】wekaの特征选择简介
weixin_36472625的博客
02-15 314
看过这篇博客的都应该明白，特征选择代码实现应该包括3个部分：搜索算法；评估函数；数据；因此，代码的一般形式为：AttributeSelection attsel = new AttributeSelection(); // create and initiate a new AttributeSelection instanceRanker search = new Ranker(); // ch...
weka特征选择（IG、chi-square)
weixin_33708432的博客
04-03 887
一、说明 　　IG是information gain 的缩写，中文名称是信息增益，是选择特征的一个很有效的方法（特别是在使用svm分类时）。这里不做详细介绍，有兴趣的可以googling一下。 　　chi-square 是一个常用特征筛选方法，在种子词扩展那篇文章中，有详细说明，这里不再赘述。 二、weka中的使用方法 　　1、特征筛选代码 package com.lvxinjian...
weka 特征选择
06-24
详细讲述了weka中特征选择的使用，清晰，值得学习
weka特征选择
02-20
图像美学是一个新兴的产业，通过weka软件选择高质量特征分辨图像美学。
Weka开发［4］－特征选择
zt_706的专栏
04-26 1588
转自 Koala++'s blog 感谢原作者 特征选择，我对这一部分也不熟，大概讲一下，用AttributeSelection进行特征选择，它需要设置3个方面，第一：对属性评价的类（自己到Weka软件里看一下，英文Attribute Evaluator），第二：搜索的方式（自己到Weka软件里看一下，英文Search Method），第三：就是你要进行特征选择的数据集了
weka的java使用——特征选择
tiamo823的专栏
01-16 2013
继续weka的编程系列。数据挖掘的一个重要的过程就是要特征选择，主要作用就是降维，并且降低计算的复杂性，摒弃那些可能的潜在噪声。在我的paper中和硕士论文中都用到了CFS的特征子集选择方法，配以最佳优先的搜索或者贪心搜索，这样可以将维度比较高的训练特征集降维并简化，大概用CFS+Best first可以将我的训练样本中的145维特征降到40-50之间。 具体的实现方法见下面的测试代码（只做
精选资源
机器学习工具WEKA的使用总结,包括算法选择、属性选择、参数优化.pdf
11-27
根据 Chen Lianglong 的研究，特征选择算法可以分为三类：filter、wrapper和embedded方法。Filter 方法直接对每个特征进行评估，而 wrapper 方法则是使用学习算法来评估特征子集的优劣。 2. WEKA中的属性选择 WEKA...
特征选择算法java实现_科学网—Weka中的特征选择(Attribute selection) - 李向东的博文...
weixin_33603067的博客
02-27 473
import weka.attributeSelection.*;import weka.core.*;import weka.core.converters.ConverterUtils.*;import weka.classifiers.*;import weka.classifiers.meta.*;import weka.classifiers.trees.*;import weka.fi...
Weka中的特征选择(Attribute selection)
热门推荐
qeeainburg的专栏
01-17 1万+
按照http://weka.wiki.sourceforge.net/Use+Weka+in+your+Java+code的说法，在使用weka进行分类时，其实没有必要在代码中直接使用特征选择类，因为已经有meta-classifier和filter可以进行特征选择。 Weka里有个称为AttributeSelectedClassifier的带有特征选择的分类器，和一个称为GreedySte
基于weka的数据分类分析实验报告(精选)
12-14
数据挖掘课程中，关于分类算法的课程实验报告，要求使用weka工具完成
使用weka的select attribute
iamsamzhang的专栏
03-04 3908
原文：http://blog.youkuaiyun.com/anqiang1984/article/details/4048177 package com.csdn; import java.io.File; import weka.attributeSelection.InfoGainAttributeEval; import weka.attributeSelection.Rank
Weka数据挖掘——选择属性
weixin_30487317的博客
01-23 1562
如果你现在还不努力，那么将来的你会过的更加吃力。 1 选择属性 属性选择是通过搜索数据中所有可能的属性组合，以找到预测效果最好的属性子集。手工选择属性既繁琐又容易出错，为了帮助用户事项选择属性自动化。Weka中提供了选择属性面板。要自动选择属性需要设立两个对象：属性评估器和搜索方法，如下图所示： 属性评估器确定使用什么方法给每个属性分配一个评估值...
Weka选择属性算法介绍
memory专栏
09-16 4071
在Select attribute标签页中可以指定属性评估器和搜索方法。 选择属性通常搜索属性子集空间，评估每一个空间，这可以通过组合属性子集评估器和搜索方法得以实现。 快捷但准确度不高的方法是评估单个属性并排序，丢弃低于指定截止点的属性，这可以通过组合单个属性评估器和属性排名的方法得以实现。 1、属性子集评估器 属性子集评估器选取属性的一个子集，并返回一个指导搜索的度量数值。 C...
Weka内置特征选择算法整理
integrity
05-21 9302
属性评估方法：   CfsSubsetEval ：根据属性子集中每一个特征的预测能力以及它们之间的关联性进行评估。   ChiSquaredAttributeEval ：根据与分类有关的每一个属性的卡方值进行评估。   ClassifierSubsetEval ：根据训练集或测试集之外的数据评估属性子集。   ConsistencySubsetEval ：根据利用属性子集进
weka特征选择之构建数据集
chuanye9781的博客
08-28 1277
1、weka数据集基本概念 weka.core.Instances-拥有一个完整的数据集。这个数据结构是基于行的；单一的行可以通过从0开始索引的instance(int) 方法获得。有关列的信息可以通过attribute(int)方法获得。此方法返回 weka.core.Attribute...
(转）机器学习工具WEKA使用总结，包括算法选择、参数优化、属性选择
smilehehe110的博客
11-16 6446
该文章主要讲解了WEKA在数据挖掘中的运用之属性选择，参数优化及相关算法总结。
weka中特征选择法差异
最新发布
06-06
### Weka 中不同特征选择方法的差异与比较 Weka 是一个流行的机器学习工具，提供了多种特征选择方法。这些方法可以分为过滤式（Filter）、包裹式（Wrapper）和嵌入式（Embedded）三大类[^1]。以下将详细介绍 Weka 中常见特征选择方法的差异及其适用场景。 --- #### 1. 过滤式（Filter）特征选择 过滤式方法基于统计特性评估特征的重要性，独立于具体的学习算法。Weka 提供了多种过滤式特征选择方法，包括信息增益（Information Gain）、卡方检验（Chi-Squared）、相关系数（Correlation Coefficient）等。 - **信息增益**：衡量特征对目标变量的信息贡献程度。信息增益越大，特征越重要。这种方法适用于分类问题，能够有效减少特征维度[^2]。 - **卡方检验**：用于评估特征与目标变量之间的关联性，特别适合处理离散型数据。卡方检验的效果在纯文本分类任务中表现优异[^3]。 - **相关系数**：衡量连续型特征与目标变量之间的线性关系强度。适用于回归问题，但无法捕捉非线性关系。 过滤式方法的优点在于计算效率高，适合大规模数据集。然而，由于不依赖具体模型，可能忽略特征之间的交互作用。 --- #### 2. 包裹式（Wrapper）特征选择 包裹式方法结合特定的机器学习模型进行特征子集评估，Weka 中常见的包裹式方法包括递归特征消除（RFE）和前向/后向选择。 - **递归特征消除（RFE）**：通过训练模型并逐步移除权重较小的特征，直到达到所需的特征数量。RFE 通常与线性模型（如逻辑回归或 SVM）结合使用[^4]。 - **前向选择**：从空集开始，每次添加一个特征，直到模型性能不再显著提升。 - **后向消除**：从完整特征集开始，每次移除一个特征，直到模型性能下降到不可接受的程度。 包裹式方法的优点是可以考虑特征之间的交互作用，从而找到更优的特征子集。然而，这种方法的计算成本较高，尤其在高维数据上。 --- #### 3. 嵌入式（Embedded）特征选择 嵌入式方法将特征选择过程嵌入到模型训练过程中，Weka 支持的嵌入式方法包括基于正则化的特征选择（如 Lasso 回归）和基于树模型的特征重要性评分。 - **Lasso 回归**：通过引入 L1 正则化项，使得部分特征的系数为零，从而实现特征选择。Lasso 方法特别适合稀疏数据集[^5]。 - **决策树和随机森林**：通过计算特征的重要性得分（如基尼指数或信息增益），自动选择对模型预测贡献最大的特征。 嵌入式方法的优点是能够在训练过程中同时完成特征选择和模型优化，计算效率较高。然而，其结果可能依赖于特定模型的选择。 --- #### 4. 混合式（Hybrid）特征选择 混合式方法结合了过滤式和包裹式方法的优点，通常先用过滤式方法减少特征维度，再用包裹式方法进一步优化特征子集。Weka 中可以通过自定义脚本实现混合式特征选择。 这种方法可以在保证计算效率的同时，提高特征选择的准确性。例如，可以先使用信息增益筛选出前 100 个特征，然后再通过 RFE 进一步优化。 --- ### 示例代码：Weka 中不同特征选择方法的实现 以下是使用 Weka 的 Java API 实现不同特征选择方法的示例： ```java import weka.attributeSelection.InfoGainAttributeEval; import weka.attributeSelection.Ranker; import weka.attributeSelection.AttributeSelection; import weka.core.Instances; import weka.classifiers.functions.Logistic; // 加载数据集 Instances data = ... // 加载数据集 // 过滤式特征选择：信息增益 InfoGainAttributeEval eval = new InfoGainAttributeEval(); Ranker search = new Ranker(); search.setNumToSelect(10); // 选择前 10 个特征 AttributeSelection attsel = new AttributeSelection(); attsel.setEvaluator(eval); attsel.setSearch(search); attsel.SelectAttributes(data); // 包裹式特征选择：递归特征消除 Logistic model = new Logistic(); RFE rfe = new RFE(model); rfe.setNumFeaturesToSelect(10); // 选择前 10 个特征 rfe.buildReducer(data); // 嵌入式特征选择：Lasso 回归 Logistic lasso = new Logistic(); lasso.set Ridge(0.0); // 设置为 Lasso ``` --- ### 方法对比与适用场景 | 方法类型 | 特点 | 优点 | 缺点 | 适用场景 | |----------|------|------|------|----------| | 过滤式 | 独立于模型，基于统计特性 | 计算效率高，适合大规模数据 | 忽略特征交互作用 | 高维数据、初步筛选 | | 包裹式 | 结合具体模型，评估特征子集 | 考虑特征交互作用，效果较好 | 计算成本高 | 中小规模数据、需要高精度 | | 嵌入式 | 在模型训练中完成特征选择 | 效率高，与模型紧密结合 | 结果依赖于模型选择 | 稀疏数据、复杂模型 | | 混合式 | 结合过滤式和包裹式方法 | 平衡效率与准确性 | 实现复杂度较高 | 复杂数据集、需要折中 | --- ###
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值