§闪灵，～星～～的博客

决策树 1、算法思想： ​ 决策树是一棵树形结构，每个分支节点代表一个特征属性，而叶子节点则存放的是分类的类别对应的决策结果。非叶节点代表一个属性测试，存储该属性下的样本，将该样本集合按照其属性特征划分到子节点中，对于离散属性可以划分到多个子节点，连续属性可以使用二分法，也可以进行处理将其转换为可划分属性。 ​ 决策树的目标为建立一个具有强大泛化能力的模型，采用的“分而治之”的策略。 2、算法步骤 ` 输入 :训练集X={(x1,y1),(x2,y2),…,(xn,yn)} ​ 属性集A={a

机器学习绪论 ​ 今天开始机器学习理论知识学习，希望能坚持到最后，这里的理论知识是基于 周志华—机器学习 一书 的。 ​ 个人认为机器学习其实就是从现有的数据中通过统计、假设检验等手段获得一个模型，然后使用该模型去预测新的数据（未参与训练），也即是从模型中的假设空间中找到符合新数据特征的假设，但可能找到多条假设，因此需要我们给它对某种假设的偏好（归纳偏好），最终找的符合偏好的假设就是我们的预测结果。 ​ 通常使用‘奥卡姆剃刀’原则来确定‘正确的’偏好，一般来说，‘奥卡姆剃刀’是说“若有多个