文章大纲
Feature Engineering for Numerical Data(1)分箱(Binning)
数据分箱的价值,意义以及对后续学习器的影响:
现实的许多数值属性的分布往往是倾斜的,也就是说,某个范围的数值大量的出现,而其他范围的出现频率确很低。除此之外,数值属性的区间过大还会带来其他问题。例如,以音乐和视频数据为例, 有的音频或者视频的观赏量相当大,而有的音视频的播放量确少的可怜。如果之间使用原始的播放量统计数据不仅会是属性本省的表达性降低,而且给后续的学习器造成学习困难等问题。因此,需要对原始的数值数据进行分箱处理(binning)或者变换(Transformation)。分箱,其实就是把连续的数值变量变换为离散的数值变量。在建模中,需要对连续变量离散化,特征离散化后,模型会更稳定,降低了模型过拟合的风险。
固定箱(fixed-bin)
二箱离散
把数值属性离散成两个区间,即二分。你可以认为这是Threshold Learning.
#Load libraries
import numpy as