特征选择方法CHI和IG

墨衍会员 · AI 创作全网分发 墨衍智能分发 本文由作者通过墨衍一键同步至各平台 1分发平台 1.8k累计阅读 1.8k平均单平台已同步平台优快云微信公众号微博知乎掘金百家号博客园抖音小红书 你的文章也可以这样分发 墨衍会员 ¥399起/年，写一次发全网我也要 → 码龄11年

关注

转载最新推荐文章于 2026-04-22 02:45:48 发布 1.8k 阅读 AI 写同款· GEO 优化 ›

文本建模常用的预处理方法——特征选择方法（CHI和IG）本篇关于TF-IDF/CHI/IG，文本建模系列会不断更新。。。。阅读详情

转载自：https://blog.youkuaiyun.com/enter89/article/details/52538121

收录于

机器学习

当前文章被收录于：

机器学习

11 篇文章 3 人学习

订阅专栏查看详情

深度学习

当前文章被收录于：

深度学习

2 篇文章 0 人学习

订阅专栏查看详情

当前文章被以下社区和专栏收录：

文本分类——特征选择概述内容提要特征选择概述常见模型文档频率(DF)卡方校验(CHI)信息增益(IG)互信息(MI) 特征选择概述在向量空间模型中，文本可以选择字、词组、短语、甚至“概念”等多种元素表示。这些元素用来表征文本的性质，区别文本的属性，因此这些元素可以被称为文本的特征。在文本数据集上一般含有数万甚至数十万个不同的词组，如此庞大的词组构成的向量规模惊人，计算机运算非常困难。进行特征选择，对文本分类具有重要... 阅读详情

相关推荐

文本分类（2）——取特征词构建词典

https://blog.youkuaiyun.com/han_xiaoyang/article/details/50629608 真的是看的我神志模糊，方法多，弄不清都是干什么的。。个人理解TF-IDF和CHI就相当于对词袋模型的一种改进，不是单纯的算出现次数那么贝叶斯是怎么实现TF-IDF这些么？？毕竟他不是概率啊。。 001 常见词向量表达 https://blog.youkuaiyun.com/sina...

_年_ 4769

特征选择方法之CHI、IG、TF-IDF

1）TF-IDF在特征选择时的误区。 TF-IDF（term frequency–inverse document frequency）是一种用于信息检索与数据挖掘的常用加权技术。TF意思是词频(Term Frequency)，IDF意思是逆文本频率指数(Inverse Document Frequency)。TF-IDF是一种统计方法，用以评估一字词对于一个文件集或一个语料库中的其中一份文件的...

时光、疏离了记忆づ童话的博客 2754

72、文本分类的两阶段特征选择管道

本文提出了一种两阶段特征选择管道，结合过滤方法（如信息增益和卡方）与包装方法（如遗传算法和粒子群优化），用于提升文本分类性能。通过在20 Newsgroups和IMDB Reviews数据集上的实验，验证了该管道方法相比单一包装方法能显著提高分类准确率，尤其在PSO与过滤方法结合时表现突出。研究结果表明，两阶段特征选择有效降低了特征维度并增强了模型性能，为文本分类提供了高效的特征选择策略。

jj890的博客 64

文本分类入门（十一）特征选择方法之信息增益

摘自：[url]http://www.blogjava.net/zhenandaci/archive/2009/03/24/261701.html[/url] 前文提到过，除了开方检验（CHI）以外，信息增益（IG，Information Gain）也是很有效的特征选择方法。但凡是特征选择，总是在将特征的重要程度量化之后再进行选择，而如何量化特征的重要性，就成了各种方法间最大的不同。开方检验...

lovejuan1314的专栏 1320

文本特征选择工具 IG CHI DF方法.........

VSM文本特征选择 文本特征选择 文本特征选择 文本特征选择

featureselect_IG:通过IG特征选择法选择特征

featureselect_IG 使用的语料格式为：每一篇文档在一行中，文档分类号和文档内容由\t分割，文档内容内部各词有空格分割，生成语料时严格遵守改格式。在使用时请注意，本算法retainPercent值如果设置的比较大，算法运行会很慢。实际测试结果：五十万个特征，加上特征IG值计算，20%时，时间在四十分钟左右，10%时时间在十分钟左右。测试分类器是朴素贝叶斯分类器，正确率在81%左右，当然，这跟自己使用的语料有关系。使用手工语料测试的结果在百分之八十五以上，测试语料地址为： ,使用的是十二分类进行测试的。

特征选择的方法

本文介绍了特征选择的三类方法，过滤式，包裹式，嵌入式。

浅梦的学习笔记 7115

实现chi、ig、mi计算（python）

使用python，计算两类文档的chi、ig、mi值。其中文档类型比例为1:1，可以自己调整。

信息增益（IG）特征提取实例

最近在做贝叶斯文本多分类，记录一下特征提取的过程：如果你对TF、DF、IDF不懂： Term Frequency：term 在文档d中的出现次数，记做tf。tf越高，意味着term 对于文档d 就越重要。 ...

1284

解决AutoDock与Python版本冲突导致的内存泄漏问题：从BHtree *错误到环境配置优化

本文深入解析了AutoDock分子对接中常见的‘BHtree *’内存泄漏错误，其根源在于SWIG接口模块与Python运行环境的版本不匹配。文章提供了根治方案：通过构建Python 2.5.4与MGLTools 1.5.6的黄金兼容组合，并详细指导环境清理、安装配置及实战测试，从而彻底解决该内存泄漏问题，确保AutoDock工作流的稳定运行。

g5h6i的博客 1113

OpenHarmony自定义Launcher

OpenHarmony源码版本：4.0release开发板：DAYU / rk3568DevEco Studio版本：4.0.0.600切换分支为OpenHarmony-4.0-Release，并下载源码。

Abner_Crazy的博客 1629

（7）文本挖掘（四）——特征选择

特征选择指的是按照一定的规则从原来的特征集合中选择出一小部分最为有效的特征。通过特征选择，一些和任务无关或是冗余的特征被删除，从而提高数据处理的效率。文本数据的特征选择研究的重点就是用来衡量单词重要性的评估函数，其过程就是首先根据这个评估函数来给每一个单词计算出一个重要性的值，然后根据预先设定好的阈值来选择出所有其值超过这个阈值的单词。根据特征选择过程与后续数据挖掘算法的关联，特征选择方法可

好女绪的博客 6292

ISO15118-20证书结构关系解读（7.3.2.1）

本文主要讲述ISO15118-20：2022标准所有证书结构的关联关系，目的是为后续基于ISO15118-20车桩通讯及PNC充电等提供基础支撑。本文所有的证书关系图全部来源于ISO15118-20:2022标准规范，在后续的讲解过程会将图的摘取出处给提供出来，便于后期文章和标准对应起来解读。

weixin_40900932的博客 3183

mysql做文本挖掘_【原】文本挖掘——特征选择

特征选择有很多方法，看了很多资料后，我总结了以下几种，以后有新内容会随时修改1.DF——基于文档频率的特征提取方法概念：DF(document frequency)指出现某个特征项的文档的频率。步骤：1).从训练语料中统计出保函某个特征的文档频率(个数)2).根据设定的阈值(min&max)，当该特征的DF值小于某个阈值时，去掉。因为没有代表性。当该特征的DF值大于某个阈值时，去掉。因为这...

weixin_31600305的博客 207

全国大学校园网—拓扑图欣赏

全国大学网络拓扑图（一百张）典型十张 1、中央财经大学 2、国防科技大学 3、济南大学 4、西安石油大学 5、南通大学IPV6网络 6、中国矿业大学 7、青海师范大学 8、内蒙古科技大学 9、三峡大学 10、中共江苏省党校剩余90张点赞、评论获取 ...

LiBai'S BLOG 5万+

TI C2000 DSP CLA实战：用F28069的协处理器实现ADC采样与PWM相位实时联动控制

本文详细介绍了如何利用TI C2000系列DSP的CLA协处理器在TMS320F28069上实现ADC采样与PWM相位的实时联动控制。通过CLA的零周期上下文切换和硬件级任务触发特性，显著提升了电机控制和数字电源应用的实时性能，特别适用于需要亚微秒级响应的场景。

weixin_30932215的博客 3966

python文本特征选择_文本挖掘之特征选择（Python版）-阿里云开发者社区

机器学习算法的空间、时间复杂度依赖于输入数据的规模，维度规约(Dimensionality reduction)则是一种被用于降低输入数据维数的方法。维度规约可以分为两类：特征选择(feature selection)，从原始的d维空间中，选择为我们提供信息最多的k个维(这k个维属于原始空间的子集)特征提取(feature extraction)，将原始的d维空间映射到k维空间中(新的k维空间不输...

weixin_39936310的博客 223

Cadence IC5141保姆级教程：Bandgap电路四大仿真（稳定性/噪声/启动/PSRR）完整流程与调参心得

本文提供Cadence IC5141中Bandgap电路的四大仿真（稳定性仿真、噪声仿真、启动仿真、PSRR仿真）的完整流程与调参心得。从原理图检查到ADE L配置，详细解析各仿真步骤的关键参数设置与优化策略，帮助工程师高效完成电路设计与性能调优。

weixin_30399821的博客 1650

文本挖掘之特征选择【转】

机器学习算法的空间、时间复杂度依赖于输入数据的规模，维度规约(Dimensionality reduction)则是一种被用于降低输入数据维数的方法。维度规约可以分为两类： 特征选择(feature selection)，从原始的d维空间中，选择为我们提供信息最多的k个维(这k个维属于原始空间的子集) 特征提取(feature extraction)，将原始的d维空间映射到k维空...

anqiu4023的博客 379

数据挖掘实战-基于LSTM时间序列模型的香烟销售预测分析

本文介绍了基于LSTM时间序列模型的香烟销售预测分析实验。实验背景为烟草市场竞争激烈，企业需提高销售预测准确性以优化生产、库存和营销策略。LSTM模型因其处理长序列数据的能力被选为预测工具。实验步骤包括数据准备、特征工程、模型构建、训练与评估及结果分析。数据集来自某市门店的销售数据，技术工具为Python 3.9和Jupyter Notebook。实验过程涵盖数据导入、预处理、产品销售与区域销售分析、销售预测（包括销售额、销量、利润及海通店销售额预测）。

m0_64336780的博客 8951

YOLOv11【第二章：核心模块进阶篇·第3节】LDConv线性可变形卷积改进YOLOv11！

🏆 本文收录于专栏《YOLOv11实战：从入门到深度优化》。本专栏围绕 YOLOv11 的改进、训练、部署与工程优化展开，系统梳理并复现当前主流的 YOLOv11 实战案例与优化方案，内容目前已覆盖分类、检测、分割、追踪、关键点、OBB 检测等多个方向。

**My Coding Family** 7439

使用Python的文本挖掘的特征选择/提取

在文本挖掘与文本分类的有关问题中，文本最初始的数据是将文档表示成向量空间模型的一个矩阵，而这个矩阵所拥有的就是不同的词，常采用特征选择方法。原因是文本的特征一般都是单词(term)，具有语义信息，使用特征选择找出的k维子集，仍然是单词作为特征，保留了语义信息，而特征提取则找k维新空间，将会丧失了语义信息。当然，另一方面，在处理文本时，对于我们来说，已经拥有将不同词在低维空间上总结归纳...

aohun0743的博客 2171

IMSL CNL 7.0.0 (x86-64)Crack

IMSL CNL 7.0.0 (x86-64)Crack intel的算法库破解文件，这是C++版本的破解文件

文本分类的特征选择方法

https://www.cnblogs.com/wangbogong/p/3251132.html 　在文本挖掘与文本分类的有关问题中，常采用特征选择方法。原因是文本的特征一般都是单词(term)，具有语义信息，使用特征选择找出的k维子集，仍然是单词作为特征，保留了语义信息，而特征提取则找k维新空间，将会丧失了语义信息。对于一个语料而言，我们可以统计的信息包括文档频率和文档类比例，所有的特征选择...

wyyhuli的博客 770

NTscan扫描工具

ntscan是一个扫描器，可以扫描没有密码和弱密码的共享，先到配置文件中填写猜测的用户名和密码，扫描过程中右侧出现的是扫描日志。

OV9734 DATASHEET，完整规格书

OV9734完整规格书，包括电气参数，尺寸规格，寄存器配置表等

【机器学习知识】在文本分类中常用的特征选择算法

文本分类中常用的特征选择算法总结~

Aime5211的博客 765

STM32F407中文手册

STM32f407中文手册本参考手册面向应用开发人员，提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微控制器系列，各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性，请参见数据手册。有关 ARM Cortex™-M4F 内核的信息，请参见《Cortex™-M4F 技术参考手册》。

Java 文本特征挖掘

panjiao119的博客 4075

上一篇：编程语言：弱类型&强类型，动态类型&静态类型

下一篇： Python学习系列之padas-DataFrame

文本分类（2）——取特征词构建词典

_年_

01-17

4769