python分箱_python的等深分箱实例

背景

当前很多文章尝试过最优分箱,python上也有cut等方法进行等宽分箱。为了方便日后输出结果以及分箱要求。做一个简单的轮子以供大家日后使用。很多能用其他轮子的地方也没有多余出力,也不托大会比别人写的好。空间复杂度尽我所能。

方法展示

话不多说上代码。

以下为等深分箱以及encoding方法

# -*- coding: utf-8 -*-

"""

Created on Tue Jan 29 17:26:38 2019

@author: DamomWCG

"""

class Equal_depth_box:

def equal_box(list, bin_num):

'''

param:

list:you need bin box list

bin_num: you want bin num

'''

bin_num = 10

list.sort() #need sort can replace by others

list_2 = list.copy()

all_num = len(list_2)

bin_sep = all_num/bin_num

bin_sep = int(bin_sep)

bin_list = []

for i in range(1,bin_num):

bin_dict = {}

bin_dict = i*bin_sep

bin_list.append(bin_dict)

bin_real_list = []

for i in bin_list:

#print(i)

bin_real_dict = {}

bin_real_dict = list[i]

bin_real_list.append(bin_real_dict)

return bin_real_list

def replace_box(list_1,replace_list):

'''

param:

list_1:you need bin list

replace_list: from equal box, replace the original list

'''

import pandas as pd

list_max = max(list_1)

list_min = min(list_1)

replace_list.insert(0,list_min -1) #insert start

replace_list.append(list_max + 1) #insert end

list_2 = pd.cut(list_1, bins = replace_list,

labels = range(len(replace_list) - 1)).tolist()

return list_2

if __name__ == '__main__':

import random

list_1 = random.sample(range(1000), 134)

print(list_1.sort())

print('real_list: {}'.format(list_1[0:50]))

replace_list = bin_class.equal_box(list_1, 10)

list_2 = bin_class.replace_box(list_1, replace_list)

print('encode_list: {}'.format(list_2[0:50]))

原始git地址

使用案例

本案例数据为,我进行过一步的最优分箱,来做一步等深分箱来进行横向对比。

原始数据形式

具体案例

# -*- coding: utf-8 -*-

"""

Created on Wed Jan 30 16:17:19 2019

@author: DamonWCG

"""

from Equal_depth_box import *

import pandas as pd

df = pd.read_csv('test.csv', encoding = 'gbk')

df.columns

####需要分箱的列

list_1 = df['deal_city_encoding'].tolist() #本方法是针对于list,所以对于series需要进行变换

####需要分箱的个数

replace_list = Equal_depth_box.equal_box(list_1, 5)

####替代的名称

##因为列表排序所以需要重新排序对齐,这里我有空再想想其他办法

df.sort_values(by="deal_city_encoding", inplace = True)

list_2 = Equal_depth_box.replace_box(list_1, replace_list)

df['deal_city_bin_encoding'] = list_2

df.to_csv('df.csv', encoding = 'gbk', index = False)

本方法现阶段encoding形式为数字型。

分箱最终结果形式

需要注意,我得列表形式重新decode时候需要按照当前排序数组重新编码,这个问题我年后会解决。

以上这篇python的等深分箱实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持脚本之家。

### Python 数据挖掘中的分箱方法实现 #### Pandas 中的数据可视化基础 在数据挖掘过程中,`DataFrame.plot()` 方法可以用于快速绘制图表以便更好地理解数据分布情况。通过指定 `kind="bar"` 或其他类型的参数,能够直观展示分类或数值型数据的特点[^1]。 #### 导入必要的库并加载数据集 为了演示分箱的实际应用,通常会从 CSV 文件读取数据到 Pandas 的 DataFrame 结构中。以下是标准的导入方式以及数据预览命令: ```python import pandas as pd # 加载本地CSV文件作为示例数据源 df = pd.read_csv('数据集/电影评分.csv', encoding='gbk', engine='python') print(df.head()) ``` 这段代码展示了如何利用 Pandas 库来处理外部存储的数据表,并将其转换成适合进一步分析的形式[^2]。 #### 使用自定义函数完成等宽分箱 对于连续型变量来说,“等宽法”是一种简单有效的离散化手段。下面给出了一种基于固定区间长度划分的方法论及其具体编码实例: ```python def equal_width_binning(data, bins=5): min_val = data.min() max_val = data.max() bin_width = (max_val - min_val) / bins labels = [f"{min_val + i*bin_width:.2f} to {min_val + (i+1)*bin_width:.2f}" for i in range(bins)] result = pd.cut(data, bins=bins, right=False, include_lowest=True, labels=labels) return result # 假设我们有一个名为 'score' 列代表用户给定分数 binned_scores = equal_width_binning(df['score'], bins=4) print(binned_scores.value_counts().sort_index()) ``` 此部分实现了基本的等宽度分割逻辑,其中还包含了标签生成机制使得最终输出更加易读[^3]。 #### 讨论不同策略下的优劣对比 尽管上述例子采用了较为普遍接受的方式来进行初步探索性研究,但在实际项目里还需要考虑更多因素比如异常值的影响等问题。例如,在采用 **等频分箱** 技术时虽然能较好保持样本间平衡状态,但也存在诸如计算成本较高或者极端情况下单个箱子跨度太大难以解释的风险[^4]。 --- ###
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值