weixin_56501618的博客

原创 决策树学习心得

决策树是一种解决分类问题的方法。它是一种树形结构，本质是一颗由多个节点组成的树，其中每一个内部节点表示一个属性上的判断，每一个分支代表一个判断结果的输出，每一个叶节点代表一种分类结果。 熵的概念： 熵表示物体内部的混乱程度，决策树中熵的计算公式： ​​​ (这里是log以2 为底的)熵值越高，数据不确定性越高 若只有两类则上公式变形为： 信息增益 ： 表示由于（选择）数据集的某一特征而使得对数据D的分类不确定性（熵）减少的程度。 公...