参考
1.如果说决策树是一棵树,那么随机森林就是多棵决策树,随机森林的出现其实就是对决策树的补充和优化。
2.假如有一堆数据,原来是通过一个决策树来建立模型做分类,现在是把这堆数据再分成k个数据堆,建立k个决策树也就是k个模型,假如现在来了个测试数据,我让他在每个模型上都跑一遍得出k种结果,选择结果出现的频率比较高的结果作为最终结果。
3.Bootstrap抽样(自助法)
想要知道池塘里面鱼的数量,可以先抽取N条鱼,做上记号,放回池塘。
进行重复抽样,抽取M次,每次抽取N条,考察每次抽到的鱼当中有记号的比例,综合M次的比例,在进行统计量的计算。
4.不同的决策树,他们的不同点在什么地方?
还记得决策树建模的方法吗?你要认识到通过不同数据集所确定的最佳分割点是不同的,所以只要最佳分割点是不同的,那么决策树就是不同的。