guduruyu的专栏

SVM，即支持向量机，在结合相关特征描述子之后，在目标识别，如行人识别、汽车识别、人脸识别等领域中有着重要应用。opencv中提供了HOG特征描述子，这种特征提供支持SVM的接口。这不再进行原理性的介绍，直接介绍如何使用opencv进行SVM+HOG训练和检测。 1、svm+hog训练 #include <iostream> #include <fstrea...

KNN学习（K-Nearest Neighbor algorithm，K最邻近方法）是一种统计分类器，属于惰性学习，对包容型数据的特征变量筛选尤其有效。KNN的基本思想是：输入没有标签即未经分类的新数据，首先提取新数据的特征并与测试集中的每一个数据特征进行比较；然后从样本中提取k个最邻近（最相似）数据特征的分类标签，统计这K个最邻近数据中出现次数最多的分类，将其作为新数据的类别。

在上一篇（【Machine Learning】K-means算法及优化）中，我们介绍了K-means算法的基本原理及其优化的方向。opencv中也提供了K-means算法的接口，这里主要介绍一下如何在python+opencv的环境下，使用k-means接口。

聚类算法是一种无监督的分类方法，即样本预先不知所属类别或标签，需要根据样本之间的距离或相似程度自动进行分类。聚类算法可以分为基于划分的方法、基于连通性的方法、基于密度的方法、基于概率分布模型的方法等，K-means(K均值)属于基于划分的聚类方法。

项目的需要，终究还是用到了深度学习，Caffe无疑是我这种菜鸟最好的入门平台，然鹅，事情并没有想象的那么简单！！！单是编译caffe的库就已经把我折腾得灰头土脸了，搜了很多caffe的编译教程，一步一步得去操作，没有一个编译通过的，起初是CMake不通过，不甘心，又花了两天时间逐个编译出caffe的依赖库，总算CMake通过了，生成vs2013编译工程后，总算可以Build了，各种语法错误，简直让人心力交瘁。用微软版的免依赖库版，也是各种编译错误。就在要放弃的时候，又重新开始尝试了一下，仔细分析了CMake

本篇主要介绍mnist数据集格式的转换，并测试Caffe的训练和检测效果。

opencv目前已经支持caffe训练模型的读取，以及使用模型进行预测，这个功能是dnn模块实现的，而这个模块位于opencv_contrib中，此前编译的opencv3.2.0并没有将opencv_contrib中的模块加进来。因此，这里重新将opencv_contrib加入到opencv3.2.0进行编译。

Cascade级联分类器是一种快速简单的分类方法，opencv2和opencv3中提供了完整的cascade分类器的训练和检测方法，本篇主要介绍下级联分类器的检测方法。

上一篇（OpenCV3中的级联分类器目标检测——cv::CascadeClassifier简介）介绍了如何使用级联分类器进行目标检测。这里，我们介绍一下如何训练自己的级联分类器。

回归学习（Regression Learning），又称为回归分析（Regression Analysis），是一种近似方法，从未知概率分布的随机样本中获得目标函数。变量之间的相互关系可以分为确定性和非确定性两大类，前者存在明显的函数关系，如线性函数。后者的变量之间存在关系但不完全确定，在某种随机干扰下产生统计关系们无法获得精确的数学函数关系。对于存在统计关系的变量，通过大量试验获取相关统计数据，并构造目标函数并逼近该关系，即回归学习。