宁静致远的博客

最近学习了一下决策树，根据自己的理解记录下来。（主要参考来自统计学习这本书，这本书很好），btw：不是做广告 首先说一下，什么是决策树？ 决策书（decision tree）是一种基本的分类和回归方法，我们这里主要讨论分类决策树。在分类问题中，表示基于特征对实例进行分类的过程。 其优点是：决策树模型具有可读性，分类速度快。 学习时：利用训练数据，根据损失函数(这是什么？下面会说到)最小化的

看完Logistic回归，绿一下思路：

最近三天，看了机器学习实战这本书的决策树一张，打算根据自己的li

在本章（机器学习实践，di）的代码实现中，

聚类：是yizh

我们很多人key

1、SVD作用 利用SVD实现，我们能够用小得多的数据集来表示

该算法是Adaptive Boosting的缩写 算法思想：三个臭皮匠，顶个诸葛亮，也就是说对于一个复杂的任务来说，将多个专家的判断进行适当的综合所得出的判断，要比其中任何一个专家的判断好。 从软学习算法出发，反复学习，得到一系列若分类器（基本分类器），然后组合这些弱分类器，构成一个强分类器（为什么要这样呢？因为对于分类问题而言，给定一个训练样本集，求比较粗糙的分类器（弱分类器）要比求精确的分

这里，主要说一下，机器学习算法的思想和应用！为了以后的应用总结一下！参考王斌译的机器学习实战一书。 1、SVD（奇异值分解） SVD可以简化数据，去除噪声！  对于简化数据，使用SVD，可以用小得多的数据集表示原有数据集。这样实际上是去除了噪声和冗余信息。 比如有一个32*32的图像，通过SVD的公式分解。假如分解为32*2   2*2  2*32的三个矩阵。那么我们得到的总数字数目就从10