Spring_Et的博客

随机森林应该这么理解随机森林是什么基本概念随机森林的理解随机森林的过程算法实现与举例随机森林是什么随机森林还是一种决策算法，是有多个决策树组成的集成学习方法，只是在决策树的构成中引入了随机性。基本概念集成学习：秉承“三个臭皮匠，顶个诸葛亮”的思想，通过多个相对弱的学习器，一起参与决策，从而得到一个强的决策方案。决策树： 什么是决策树就不多说了，决策树关键的是如何选择每个节点用来判断的属...

目录算法简介两个思想两个问题算法流程算法推倒举例论证算法简介Ababoost 算法是boost算法族之中的一个。boost 算法族是这样一种决策算法，它有多个子学习器组成，学习器之间的学习具有强依赖性，必须串行生成。Ababoost 是boost种最著名的一种。它使用的评价方式是指数损失函数。两个思想将弱的学习器进行线性组合得到一个强的学习器的过程。f(X)=∑t=1Nβϕt(x) ...

数据分类算法中，我们遵循“简单高效”，而最简单高效的算法就是1R什么是1R1R 就是 1-rule，称为1 规则，也就是产生一层的决策树，用一个规则集的形式，只在某个特定的属性上进行测试。1R是一个简单廉价的方法，但却常常能得到令人吃惊的准确率。1R 算法1R是一个非常简单的方法，就是对每一个属性逐个测试并且从中选择一个准确率最高的属性作为决策属性。大致的流程为：对所有的属性...

相比于只使用一种属性作为判别依据的1R 算法，另外一种分类算法是使用所有的属性作为判别的依据，并且每一种属性对决策都同等重要，且假设他们相互独立。算法概述对每一个属性的所有的值对结果的影响做统计，并根据统计的结果对未知属性进行预测。假如有数据如下表。NO. outlook temperature humidity windy play 1 sun...