iboxty的专栏

Dlib是一个机器学习的C++库，包含了许多机器学习常用的算法。而且文档和例子都非常详细，以后准备深入学习。 Dlib官网地址:http://www.dlib.net/ml.html 但准备使用的时候并没在网上找到很多关于安装的资料=.=对我们小白来说很不方便。所以决定在这里记录一下安装的过程。 我使用的是VS2013。在官网下载 dlib-18.14 之后解压到 D 盘。然后新建一个项目，右

k临近算法(kNN)采用测量不同特征值之间的距离方法进行分类，也是一种非常直观的方法。本文主要记录了使用kNN算法改进约会网站的例子。任务一：分类算法classify0 就是使用距离公式计算特征值之间的距离，选择最邻近的k个点，通过统计这k个点的结果来得出样本的预测值。 tile函数用法在这里 argsort函数在这里def classify0(inX,dataset,labels,k):

接着上一篇（这里），把这一章学习完。kNN算法其实并没有其他机器学习算法的“训练算法”的过程，他的执行过程更像是一种统计的过程。他是一种基于实例的学习算法，需要存储所需要的数据集。如果数据集很大将会需要很大的存储空间，时间开销也肯呢个会非常大。这一张的第二个例子是识别手写数字。书已经给出了trainingDigits和testDigits两个文件夹，里面是0~9每个数字的二进制”图像”的txt，实际

简述算法上一章的kNN更像是应用统计知识来进行科学的预测，它可以完成许多分类任务。但是最大的缺点就是无法给出数据的内在含义，而决策树算法数据形式非常便于理解。决策树的结果经常会应用到专家系统当中。构建一棵决策树的流程：检测数据集中每一个子祥的属性是否属于同一类 if so return 类标签； else 寻找划分数据集的最好特征 划分数据集

这里是接着上一篇决策树算法介绍来的。 之前已经学习过决策树的整个方法，对它构造的过程有了比较清楚的认识。这一次的读书笔记就主要关注决策树的应用和用matplotlib来画出一棵决策树。绘制决策树matplotlib提供了一个注解工具annotations,跟matlab中的非常相似[不过个人认为matlab画图操作起来更加方便]，他是一个很强大的工具。首先我们先绘制决策树的一个节