特征筛选——风控业务为例

特征的好坏直接影响到机器学习的效果，机器学习模型本身只能尽可能接近本身的上限，而特征工程决定了机器学习的上限。所以特征工程尤其重要。特征构造之后就要进行特征筛选。

1、单特征分析

我们评价一个特征的好坏，一般从以下几个角度去衡量：

覆盖度

覆盖度 = 有数据的用户数/全体用户数。而覆盖度可以衍生两个指标：缺失率，零值率。

缺失率：一般就是指在全体有标签用户上的覆盖度
零值率：在数据缺失时会补零，所以需要统计零值率

业务越来越成熟，覆盖度可能会越来愈好，可以通过运营策略提升覆盖度。

区分度

评估一个特征对好坏用户的区分性能的指标。我们可以把单特征当做模型，使用AUC, KS来评估特征区分度。

例如在信贷领域，常用Information Value (IV)来评估单特征的区分度，Information Value刻画了一个特征对好坏用户分布的区分程度。IV越大越好，越小则越差。
IV=∑k(pgoodk−pbadk)ln(pgoodkpbadk)=∑k(pgoodk−pbadk)WOEkIV = \sum_{k}(p_{good}^k - p_{bad}^k)ln(\frac{p_{good}^{k}}{p_{bad}^{k}}) = \sum_{k}(p_{good}^k - p_{bad}^k)WOE_kIV=k∑​(pgoodk​−pbadk​)ln(p