KNN分类器

KNN分类器

        从测试样本x开始生长，不断扩大区域，直至包含进K个训练样本，把测试样本x的类别归于与之最近的k个训练样本中出现频率最大的类别。k近邻一般采用k为奇数，跟投票表决一样，避免因两种票数相等而难以决策。

         其决策规则：

 

        通俗易懂的规则是：

        1.计算待分类数据和不同类中每一个数据的距离（欧氏或马氏）。

        2.选出最小的前K数据个距离。

        3.对比这前K个距离，找出K个数据中包含最多的是那个类的数据，即为待分类数据所在的类。