
决策树
吃机智豆长大的少女乙
笔记用途。
展开
-
Machine Learning学习笔记(十三)随机森林(RandomForest)
随机森林(RandomForest)一、知识铺垫1.1 决策树决策树是机器学习最基本的模型,在不考虑其他复杂情况下,我们可以用一句话来描述决策树:如果得分大于等于60分,那么你及格了。(if-then语句)这是一个最最简单的决策树的模型,我们把及格和没及格分别附上标签,及格(1),没及格(0),那么得到的决策树是这样的但是我们几乎不会让计算机做这么简单的工作,我们把情况变得...转载 2018-09-05 20:26:45 · 3898 阅读 · 1 评论 -
Machine Learning学习笔记(十四)集成学习(Boosting,Bagging,组合策略)
集成学习在一些数据挖掘竞赛中,后期我们需要对多个模型进行融合以提高效果时,常常会用到Bagging,Boosting,Stacking等这几个框架算法。集成学习在机器学习算法中具有较高的准确率,不足之处就是模型的训练过程可能比较复杂,效率不是很高。目前接触较多的集成学习主要有2种:基于Boosting的和基于Bagging,前者的代表算法有Adaboost、GBDT、XGBOOST、后者...转载 2018-09-06 11:48:19 · 1757 阅读 · 0 评论 -
Machine Learning学习笔记(五)决策树与迭代决策树
决策树决策树是一种基本的分类与回归方法,它可以被认为是一种if-then规则的集合。决策树由节点和有向边组成,内部节点代表了特征属性,外部节点(叶子节点)代表了类别。 目录 决策树决策树的构建过程计算数据集的经验熵和如何选择最优特征作为分类特征的代码决策树实战篇——为自己配个隐形眼镜ID3、C4.5&CART算法ID3算法Random ...转载 2018-08-07 15:43:05 · 6421 阅读 · 0 评论