机器学习算法02 - 决策树

决策树

ID3 & C4.5 & CART

机器学习基本算法之一的决策树的基本原理，其要点如下：

• 决策树是包含根节点、内部节点和叶节点的树结构，通过判定不同属性的特征来解决分类问题；
• 决策树的学习过程包括特征选择、决策树生成、决策树剪枝三个步骤；
• 决策树生成的基础是特征选择，特征选择的指标包括信息增益、信息增益比和基尼系数；
• 决策树的剪枝策略包括预剪枝和后剪枝。