机器学习算法之决策树（下）决策树优化策略

某晚上同学生日去唱KTV，他公司的一个美女工程师非要和我拼酒。她说如果她输了可以答应我一件事，而我输了同样也要答应她一件事。
结果我不出意外地赢了，于是迫不及待地带着她回家…嘿嘿嘿…
到家后，我看着她水汪汪的大眼睛，十分深情地说：”麻烦你帮我coding，顺便帮我debug。“
之后我一个人躲在被窝里暗暗地称赞自己真的太特么机智了！

决策树优化策略

剪枝优化
决策树过渡拟合一般情况是由于节点太多导致的，剪枝优化对决策树的正确率影响是比较大的，也是最常用的一种优化方式。
Random Forest
利用训练数据随机产生多个决策树，形成一个森林。然后使用这个森林对数据进行预测，选取最多结果作为预测结果。

决策树的剪枝

决策树剪枝损失函数及剪枝系数