连续变量离散化的几种方法

连续变量离散化有三种方法

1.等宽离散化

2.等频离散化

3.利用聚类进行离散化

import numpy as np
import pandas as pd

#参数初始化
datafile = './data/discretization_data.xls' 
#读取数据
data = pd.read_excel(datafile) 
data = data[u'肝气郁结证型系数'].copy()
k = 4

#等宽离散化,各个类比依次命名为0,1,2,3
d1 = pd.cut(data, k, labels = range(k)) 

#等频率离散化
w = [1.0*i/k for i in range(k+1)]
#使用describe函数自动计算分位数
w = data.describe(percentiles = w)[4:4+k+1] 
w[0] = w[0]*(1-1e-10)
d2 = pd.cut(data, w, labels = range(k))

from sklearn.cluster import KMeans #引入KMeans
kmodel = KMeans(n_clusters = k) #建立模型,n_jobs是并行数,一般等于CPU数较好
kmodel.fit(data.values.reshape((len(data), 1))) #训练模型
c = pd.DataFrame(kmodel.cluster_centers_).sort_values(0)#输出聚类中心,并且排序(默认是随机序的)
print(np.shape(c))
print("-------------")
print(c)
w = pd.rolling_mean(c, 2).iloc[1:] #相邻两项求中点,作为边界点
w = [0] + list(w[0]) + [data.max()] #把首末边界点加上
print("*****************")
print(w)
d3 = pd.cut(data, w, labels = range(k))


#自定义作图函数来显示聚类结果
def cluster_plot(d, k): 
  import matplotlib.pyplot as plt
  #用来正常显示中文标签
  plt.rcParams['font.sans-serif'] = ['SimHei'] 
  #用来正常显示负号
  plt.rcParams['axes.unicode_minus'] = False 
  
  plt.figure(figsize = (8, 3))
  for j in range(0, k):
    plt.plot(data[d==j], [j for i in d[d==j]], 'o')
  
  plt.ylim(-0.5, k-0.5)
  return plt

# 绘图
cluster_plot(d1, k).show()
cluster_plot(d2, k).show()
cluster_plot(d3, k).show() 

### 连续变量离散化方法及 Toad 工具支持 #### 离散化的定义与意义 离散化是指将连续型变量转换为分类变量的过程。这一过程可以减少噪声的影响,提高模型稳定性,并使某些算法更易于处理数据[^3]。 #### 常见的离散化方法 常见的离散化方法包括但不限于以下几种: - **等频分箱**:将数据划分为若干组,每组样本数量相等。 - **等距分箱**:将数据范围均分成若干个区间,每个区间的宽度相同。 - **基于卡方检验的最优分箱**:通过统计学中的卡方检验来判断相邻区间的相似性,逐步合并直至达到指定条件[^2]。 这些方法可以通过手动编码或者借助第三方库完成,在 `toad` 库中有现成的支持函数可以直接调用。 #### 使用 Toad 实现连续变量离散化 `toad` 是一个专注于数据分析和特征工程的 Python 库,提供了多种便捷的方法来进行数据预处理,其中包括对连续变量进行离散化操作的功能。以下是具体实现方式: ##### 方法一:使用 `cut` 函数进行自定义分箱 如果已知具体的分箱边界,则可直接利用 `toad.transform.CutTransformer` 完成分箱任务。 ```python from toad.transform import CutTransformer # 初始化CutTransformer对象并设置分箱界限 ct = CutTransformer(cuts=[0, 10, 20, 30]) # 对某一列执行分箱操作 data['new_column'] = ct.fit_transform(data['original_column']) ``` ##### 方法二:自动分箱 —— 卡方分箱法 (ChiMerge) 当不确定最佳分箱方案时,可以选择让程序依据数据特性自行决定合适的划分策略。其中一种有效的方式就是采用 ChiMerge 技术。 ```python import pandas as pd from toad.merge import chi_merge # 执行chi-square merge df_new = chi_merge(df_original, target='target_variable', max_interval=10) # 查看新生成的数据框结构 print(df_new.head()) ``` 上述代码片段展示了如何运用 `toad` 的内置功能 `chi_merge()` 来实施基于卡方值的最佳分割逻辑。 ##### 方法三:其他自动化手段 除了以上提到的手动设定或半监督学习模式外,还有更多高级选项可供探索,比如决策树衍生节点作为新的类别标签等等。不过需要注意的是,无论采取何种途径都需要充分考虑业务背景以及目标导向等因素综合评判最终效果的好坏程度。 --- ### 总结 综上所述,对于希望快速高效地完成大规模复杂场景下的特征加工需求而言,“toad”无疑是一个非常值得推荐的选择之一;它不仅简化了许多繁琐重复的工作流程而且还能够很好地兼容各类主流机器学习框架从而进一步提升整体开发效率。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值