kNN(k近邻算法)

kNN是一种基本的分类与回归方法，其三要素是k值得选择、距离度量及分类决策规则。

kNN算法流程：

简单的说就是计算查询点与数据集中所有数据的某种距离或者相似度，将其归为最近的K个数据中数量最多的一类。

kNN思想理论：
knn中最关键的理论就在于多数表决这种分类决策规则的理论过程：

从原文可以看到，多数表决分类的理论基础就经验风险最小化，也就是分类的正确率最高。

影响kNN分类效果的关键性因素：
1.距离度量方式
2.K值得选取