决策树demo

 

算法      支持模型                树结构    特征选择               连续值处理    缺失值处理            剪枝
ID3         分类                      多叉树    信息增益                 不支持          不支持                不支持
C4.5       分类                      多叉树    信息增益比              支持               支持                    支持
CART     分类，回归           二叉树    基尼系数，均方差    支持               支持                   支持
决策树的优点
1）简单直观，生成的决策树很直观。 
2）基本不需要预处理，不需要提前归一化，处理缺失值。 
3）使用决策树预测的代价是O(log2m)。 m为样本数。 
4）既可以处理离散值也可以处理连续值。很多算法只是专注于离散值或者连续值。 
5）可以处理多维度输出的分类问题。 
6）相比于神经网络之类的黑盒分类模型，决策树在逻辑上可以得到很好的解释 
7）可以交叉验证