link_the的博客

转载 机器学习基础简述（一）：决策树

决策树 学习的时候手抄了很多大佬们的笔记，这是从手抄本上重新整理的，有空搜一搜把参考过的大佬们的链接贴上来。 1. 几种常见算法的简单对比 算法类别 算法特点 对比 损失函数 随机森林（RF） bagging方法，基于样本 对样本进行有放回采样，多次采样来训练不同树，最后投票得到结果 adaboost boosting方法，基于样本 提高被错分样本的权重，最后加权计分来得到结果，使用的决策树通常为单层决策树（一个决策点） 指数损失函数 梯度下降树(GBDT) boosting方法，