79、机器学习中的K近邻与多层感知器算法详解

机器学习中的K近邻与多层感知器算法详解

1. K近邻算法（K-Nearest Neighbors，KNN）

1.1 算法概述

K近邻算法是一种简单的分类技术，它会存储所有的训练数据点，并根据新数据点与这些训练数据点的接近程度来进行标记。当需要对一个新的数据点进行分类时，KNN会查找其存储的最近的点，然后根据训练集中哪个类别包含这些邻居的多数来标记新的数据点。此外，KNN也可用于回归，在这种情况下，返回的结果是最近邻居相关值的平均值。

1.2 OpenCV中的实现

在OpenCV中，KNN算法通过 cv::ml::KNearest 类实现。该类的声明如下：

// Somewhere above..
// namespace cv {
//   namespace ml {
//
class KNearestImpl: public KNearest { // cv::ml::KNearest is derived
                                      // from cv::ml::StatModel
public:
  // (Inherited from cv::ml:: KNearest)
  //
  //enum Types {
  //  BRUTE_FORCE = 1,
  //  KDTREE      = 2
  //};
  // use K-nearest for regression or for classification
  //
  int  getDefaultK() const