Sweet Baby，甜宝

上一篇机器学习的博客我详细说了机器学习中决策树算法的原理，这篇博客我就以一个小例子来说明机器学习中决策树算法的实现。用Python实现机器学习中的决策树算法需要用到机器学习的库，sklearn，我的博客有详细讲解怎么安装机器学习中用到的sklearn库，如果我们安装的可以照着这篇博客去安装----Python2.7中安装sklearn。        补充和总结一下上一篇博客决策树中的算法

上面两篇博客对机器学习有了简单的介绍，并介绍了机器学习中的一些基本的概念；下面我们来介绍机器学习中的第一个算法决策树算法DT（Decision Tree）。        介绍Decision Tree之前我先来引入一些经典的小例子来说明什么是决策树。如下面的图：                      在当今这个社会尤其是我们这群程序员对象是一个很头疼的问题

上一篇博客对机器学习有了一个简单的介绍，这一篇博客我来说说机器学习中的一些基本的常见的概念。说到机器学习的概念，我相信有简单了解机器学习的人都会说得出一两个或者更多关于机器学习的基本概念，比如：监督学习，非监督学习，回归，分类，线性，非线性，特征值，特征向量，训练集，测试集，标签label，正例，反例等等一些关于机器学习的概念或者可以说有些关于数学的概念都听过或见过。下面我来详细说一说这些概念。

机器学习理论已经在很早都有提出，可是机器学习火起来却是在近几年，随着一些流行的脚本语言的产生，如Go语言，Python语言，R语言等等语言的诞生，也更加促进了机器学习的发展进程。在我国BAT是机器学习的领头羊，其中百度是我最喜欢的一个企业，它的百度深度学习研究院也是我作为一个刚刚入门机器学习的学生狗的梦想。作为好莱坞大片中，里面有好多机器学习的体现，最著名的就是我喜欢的电影《终结者》，里面很好的展

最邻近规则分类英文名字是：K-Nearest Neighbor，简称为KNN。它是机器学习中比较简单的算法，它是Cover和Hart在1968年提出来的最初原型为临近算法，它最早用于分类，故它属于分类算法中的一种；输入是有基于实例的学习（Instance-based Learning）即它的学习是从输入的一些带有label标签的实例中得来的，它也称为懒惰学习（Lazy Learning）（因为