数据预处理第6讲:正态变换

本文探讨了正态变换在数据预处理中的应用,特别是Box-Cox和Yeo-Johnson变换。这些变换能够将不同分布的数据转换为正态分布。内容包括对六种不同分布的实验,比较分析显示Box-Cox变换在某些分布上优于分位数变换。考虑到小样本可能会导致分位数变换过度拟合,参数变换如Box-Cox和Yeo-Johnson在小样本中更为推荐。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

论文合作、课题指导请联系QQ2279055353

Box-Cox and Yeo-Johnson变换可以将来自不同分布的数据映射到正态分布。下面的例子将这两种变换应用到6种不同的概率分布数据:Lognormal, Chi-squared, Weibull, Gaussian, Uniform, and Bimodal. 通过PowerTransformer类,成功地将上述分布的数据映射到正态分布。可视化变换前后的数据比较之,得到下列结论:

  • Box-Cox变换不支持负值的输入;
  • Box-Cox变换对于lognormal and chi-squared分布,表现好于Yeo-Johnson变换;

比较分析

使用QuantileTransformer类,我们与分位数变换对比。分位数变换在训练样本足够大的情况下,通常需要几千个样本,可以把任意分布的数据变换成正态分布。分位数变换是一种非参数方法,它的结果比参数变换,例如这里的Box-Cox and Yeo-Johnson变换,更难解释。在小样本下(几百个样本),分位数变换被证明是过度拟合的(overfitting), 因此,推荐使用参数变换。

程序代码

# Author: Eric Chang <ericchang2017@u.northwestern.edu>
#         Nicolas Hug <contact@nicolas-hug.com>
# L
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值