特征选择之 FCBF算法

FCBF算法介绍

具体详述可见，提出该算法的论文 Feature Selection for High-Dimensional Data: A Fast Correlation-Based Filter Solution

FCBF算法： 全称 Fast Correlation-Basd Filter Solution, 是一种快速过滤的特征选择算法，一种基于symmetrical uncertainty（SU）的方法。算法步骤如下：
1. 计算每个特征$F_i$与目标C之间的相关性$SU_{F_i,c}$，计算公式如下：

$$SU(X,Y)=2\frac{IG(X,Y)}{E(X)+E(Y)}$$
$IG(X,Y)=E(X)-E(X|Y)$ ，