卡方分箱(Chi Merge 算法)

最新推荐文章于 2025-01-01 22:30:34 发布
最新推荐文章于 2025-01-01 22:30:34 发布
阅读量6.7k 收藏 22
点赞数 4
CC 4.0 BY-SA版权
分类专栏： MachineLearning
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/troysps/article/details/104037176
本文介绍了卡方分箱的原理，包括卡方分布的定义和卡方检验的基本思想，以及如何通过卡方值衡量实际值与理论值的偏离程度。此外，文章还提到了卡方分箱算法在数据处理中的应用，并展示了如何使用Chi Merge算法进行分箱操作。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

卡方分箱原理及实现(Chi Merge 算法)

一. 卡方分布

卡方分布的定义:

若k个独立的随机变量Z1,Z2,…,Zk满足标准正态分布N(0, 1), 则这k个随机变量的平方和:
X=∑i=1kZi2 X = \sum_{i=1}^{k}Z_{i}^2 X=i=1∑k​Zi2​

最低0.47元/天 解锁文章

200万优质内容无限畅学
ChiMerge 算法
水滴石穿
01-02 1万+
基本思想ChiMerge 是监督的、自底向上的(即基于合并的)数据离散化方法。它依赖于卡方检验：具有最小卡方值的相邻区间合并在一起，直到满足确定的停止准则。 基本思想：对于精确的离散化，相对类频率在一个区间内应当完全一致。因此，如果两个相邻的区间具有非常类似的类分布，则这两个区间可以合并；否则，它们应当保持分开。而低卡方值表明它们具有相似的类分布。 参考 参考： 1. ChiMerge:Di
python实现卡方分箱Chi-Merge
weixin_42097808的博客
05-29 2万+
卡方分箱是依赖于卡方检验的分箱方法，在统计指标上选择卡方统计量（chi-Square）进行判别，分箱的基本思想是判断相邻的两个区间是否有分布差异，基于卡方统计量的结果进行自下而上的合并，直到满足分箱的限制条件为止。 卡方分箱的实现步骤： 卡方统计量衡量了区间内样本的频数分布与整体样本的频数分布的差异性，在做分箱处理时可以使用两种限制条件： （1）分箱个数：限制最终的分箱个数结果，每次将样...
chimerge算法
06-06
ChiMerge 是监督的、自底向上的(即基于合并的)数据离散化方法。它依赖于卡方分析:具有最小卡方值的相邻区间合并在一起,直到满足确定的停止准则。
卡方分箱算法
LuLuYao9494的博客
06-15 5360
最近看了很多评分卡文章，很多前辈都讲解了程序，然后讲解了原理，但个人感觉程序部分讲的不够细致，很多时候看觉得难懂，所以，便产生了想要很细致地解释代码的想法，通过手写和思路讲解，加深自己的理解~ 再看这篇文章前，最好先了解卡方分箱算法的原理再来看代码，这样才能有帮助，并且看的时候要从头到尾的看完，不要看一半，有些函数是嵌在其他函数中计算的，明白这点很重要~ 这里主要包括了一些基础函数和主体...
[数据挖掘]chimerge算法
weixin_30915275的博客
03-17 716
数据离散化数据离散化的一种常用方法是依据数据的相关性程度进行离散化，最常见的算法就是ChiMerge算法定义chimerge是基于chi-squre的，监督的，自底向上（合并的）一种数据离散化方法。卡方检验xyzAx1y1z1aBx2y2z2bxyzN统计AB属性的独立性：1. 分别计算期望频率，例如(A, x)期望频率为a * x / N2. 计算卡方值k...
卡方分箱原理
05-23
卡方分箱算法ChiMerge卡方分箱算法ChiMerge卡方分箱原理阐述，论文
python 卡方分箱算法_python实现二分类的卡方分箱示例
weixin_36247891的博客
03-01 998
解决的问题：1、实现了二分类的卡方分箱；2、实现了最大分组限定停止条件，和最小阈值限定停止条件；问题，还不太清楚，后续补充。1、自由度k,如何来确定，卡方阈值的自由度为 分箱数-1，显著性水平可以取10%，5%或1%算法扩展：1、卡方分箱除了用阈值来做约束条件，还可以进一步的加入分箱数约束，以及最小箱占比，坏人率约束等。2、需要实现更多分类的卡方分箱算法；具体代码如下：# -*- coding: ...
【卡方分箱】理论 & Python源码解析
weixin_42487713的博客
04-14 2154
一、介绍 分箱就是将特征进行离散化处理的过程，将变量可能取值的范围依据一定的挡板进行分隔。比如年龄这个变量是，可以分箱为0-18，18-30，30-45，45-60，婚姻状况这个变量，可以分为【初婚、复婚】，【未婚、未知】，【离异、丧偶】等。 　分箱的好处主要有这些： 分箱后的特征对异常数据有更强的鲁棒性。比如年龄中有一个异常值为300，分箱之后就可能划到>80这一箱中，而如果直接入模的话会对模型造成很大干扰。 特征离散化之后，每个变量有单独的权重，可以为逻辑回归模型引入了非线性，能够提升模型
PART 3.3 风控建模卡方分箱计算篇
不太焦虑又不太安分
03-06 4354
卡方分箱算法 主要包括两个阶段：初始化阶段和自底向上的合并阶段 卡方值计算公式： O =观测频率 E =期望频率 ∑ =总和 X2 =卡方值 卡方分箱excel计算演示 1 对数据进行排序 2 对数据进行分组（比如10组） 3 计算相邻两箱的期望值数据 4 选择最小卡方值进行合并 如果结果所示 group0.61-0.7 与 group0.71-0.8两组差异化最小卡方值最小...
ChiMerge 算法: 以鸢尾花数据集为例
不积跬步，无以至千里；不积小流，无以成江海
03-25 2万+
ChiMerge 是监督的、自底向上的(即基于合并的)数据离散化方法。它依赖于卡方分析：具有最小卡方值的相邻区间合并在一起，直到满足确定的停止准则。 基本思想：对于精确的离散化，相对类频率在一个区间内应当完全一致。因此，如果两个相邻的区间具有非常类似的类分布，则这两个区间可以合并；否则，它们应当保持分开。而低卡方值表明它们具有相似的类分布。 参考： 1. ChiMerge:Discretiz
【有监督分箱】方法一：卡方分箱
热门推荐
hxcaifly的博客
05-06 4万+
1.前言 评分卡建模在金融行业应用得比较广泛，比如对客户的信贷诚信度进行评分。在建模过程中，对连续变量的分箱是一个必不可少的过程。正好我最近的项目也是要做一个积分卡，因此想对分箱做一个较全面的总结。 2.定义 何谓分箱，简单地说，分箱就是将连续变量离散化，将多状态的离散变量合并成少状态。 3.分箱的用处 离散特征的增加和减少都很容易，易于模型的快速迭代； 稀疏向量内积乘法运算速...
数据分箱4——卡方最优分箱 ChiMerge算法使用（有监督）
呆萌的代Ma
12-13 2030
论文地址：https://sci2s.ugr.es/keel/pdf/algorithm/congreso/1992-Kerber-ChimErge-AAAI92.pdf Kerber, Randy. “Chimerge: Discretization of numeric attributes.” Proceedings of the tenth national conference on Artificial intelligence. 1992. ChiMerge算法详解（英文）：https:/.
卡方分箱(chi-square)
toby001111的博客
08-20 7418
卡方分箱(chi-square)
卡方检验及其分箱方法
Mark_Australia的博客
03-12 1096
卡方检验是一种用途很广的基于卡方分布的假设检验方法， 根本思想就是比较理论频数和实际频数的吻合程度或拟合优度问题。 主要应用于分类变量，根据样本数据推断总体分布与期望分布是否有显著差异或推断两个分类变量是否相关或相互独立。 公式是利用类别变量的观测值频数与期望值频数进行构建的。 #方法一 crit = stats.chi2.ppf(q=0.95,df=5) #95置信水平 df = 自由度 print(crit) #临界值，拒绝域的边界 当卡方值大于临界值，则原假设不成立，备择假设成立 P_
卡方分箱（Chi-square Binning）
最新发布
彬彬侠的博客
01-01 1705
卡方分箱（Chi-square Binning）是一种基于卡方检验（Chi-square Test）原理的分箱方法，常用于对连续变量或有序离散变量进行区间划分，进而提升评分卡模型中特征的区分度和稳定性。由于评分卡模型（如 Logistic 回归）通常喜欢离散化（分桶）后的特征，因此卡方分箱在信用评分、风控建模等业务场景十分常见。
分箱_卡方分箱
Silenceyezi的博客
05-27 3314
我们都知道：卡方、best-ks、最优分箱等都是比较常用的有监督分箱，那么他们都是如何实现的呢？今天我们就先来学习一下卡方分箱吧，之后会再出其他分箱代码，期待一下吧~图片 1.分箱逻辑：   将变量排序后，计算每一对相邻区间的卡方值，然后将卡方值最小的两个相邻区间进行合并，直至达到箱子上限数、或者卡方阈值 2.核心思想：   如果两个区间合并，那么需要两个区间的样本分布相似，卡方值小，说明两个区间分布相似。（卡方值：用于衡量实际值与理论值的差异程度） 3.实现代码： ####################
卡方分箱(chi-square)1
fulk6667g78o8的专栏
11-11 2460
统计学，风控建模经常遇到卡方分箱算法ChiMerge。卡方分箱在金融信贷风控领域是逻辑回归评分卡的核心，让分箱具有统计学意义（单调性）。卡方分箱在生物医药领域可以比较两种药物或两组病人是否具有显著区别。但很多建模人员搞不清楚卡方分箱原理。先给大家介绍一下经常被提到的卡方分布和卡方检验是什么。欢迎各位同学学习更多相关知识python金融风控评分卡模型和数据分析：https://edu.youkuaiyun.com/combo/detail/1927 一、卡方分布 卡方分布(chi-square distributio
数据离散化之chimerge算法的实现（python版）（以莺尾花数据为例）
weixin_43550933的博客
12-14 2240
今天介绍一种数据离散化方法——chimerge,该方法的主要思想是把所有的连续数据排序并分成多个区间，每次计算相邻两个区间的卡方(chi)值，（卡方见卡方分析，）每次取卡方值最小的两个区间进行合并。 在此之前，先介绍一下chi的计算： 表一为某个特征的observe列表，即实际的 区间 类别1 类别2 类别3 i行的总数 [4.3,4.5] 1 0 0 1 [4.6,4.9] 0 1 2 3 j列的总数 1 1 2 4 表2为根据表一所计算出的expecte列表，即期望的，计算方
特征工程之分箱--卡方分箱
weixin_30360497的博客
03-17 1279
1.定义 分箱就是将连续变量离散化，将多状态的离散变量合并成少状态。 2.分箱的用处 离散特征的增加和减少都很容易，易于模型的快速迭代； 稀疏向量内积乘法运算速度快，计算结果方便存储，容易扩展； 列表内容离散化后的特征对异常数据有很强的鲁棒性：比如一个特征是年龄>30是1，否则0。如果特征没有离散化，一个异常数据“年龄300岁”会给模型造成很大的干扰； 列表内容逻辑回归属于广...
用python详细举例说明卡方分箱原理
03-20
卡方分箱原理是一种常用的特征离散化方法，可以将连续型特征转化为离散型特征，以便于机器学习算法的处理。其基本思想是将连续型特征划分为若干个区间，使得每个区间内的样本数量尽可能相等，同时区间之间的差异尽可能大。 具体实现过程如下： 1. 将连续型特征按照大小排序，然后将其分为k个等频区间，每个区间内的样本数量相等。 2. 对于每个区间，计算其实际值与期望值之间的差异，使用卡方检验来衡量这种差异的显著性。 3. 如果某个区间的卡方值小于预设的阈值，则将其与相邻的区间合并，直到所有区间的卡方值都大于等于阈值为止。 4. 最终得到的k个区间就是特征的离散化结果。 下面是用Python实现卡方分箱的示例代码： ```python import pandas as pd import numpy as np from scipy.stats import chi2_contingency def chi_merge(df, col, target, max_groups, confidence): """ 卡方分箱函数 :param df: 数据集 :param col: 需要分箱的特征列名 :param target: 目标列名 :param max_groups: 最大分组数 :param confidence: 卡方检验的置信度 :return: 分箱结果 """ # 将数据按照特征列排序 df = df.sort_values(col) # 将目标列转化为二元变量 df['target'] = np.where(df[target] == 1, 1, 0) # 计算每个分组的样本数量 total = df['target'].sum() count = df.groupby(col)['target'].agg(['sum', 'count']) count.columns = ['target', 'total'] count['non_target'] = count['total'] - count['target'] # 初始化分组 groups = [[i] for i in count.index] # 合并分组直到达到最大分组数或者所有分组的卡方值都小于阈值 while len(groups) > max_groups: # 计算相邻分组的卡方值 chi_values = [] for i in range(len(groups) - 1): group1 = groups[i] group2 = groups[i + 1] obs = np.array([[count.loc[group1, 'target'].sum(), count.loc[group1, 'non_target'].sum()], [count.loc[group2, 'target'].sum(), count.loc[group2, 'non_target'].sum()]]) chi2, p, dof, ex = chi2_contingency(obs) chi_values.append(chi2) # 找到卡方值最小的分组 min_chi = np.min(chi_values) min_index = chi_values.index(min_chi) # 合并分组 groups[min_index] = groups[min_index] + groups[min_index + 1] groups.pop(min_index + 1) # 检查合并后的分组的卡方值是否小于阈值 if min_chi < chi2.isf(1 - confidence, 1): break # 将分组转化为分箱结果 result = {} for i, group in enumerate(groups): for val in group: result[val] = i return result ``` 注意：这段代码中的卡方检验使用了scipy库中的chi2_contingency函数，需要先安装该库。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值