K近邻算法（KNN）（包含手写体识别、约会类型识别的代码）

K近邻：KNN-（k-nearest neighbor classification）

---

是有监督学习、属于判别模型 、支持多分类以及回归、非线性、有预测函数、无优化目标、无优化求解算法。（算法地图）

对应每个训练数据xi有对应的标签yi--监督学习；

优缺点：

优点：精度高、对异常值不敏感、无数据输入假定。
缺点：计算复杂度高、空间复杂度高。
适用数据范围：数值型和标称型。

简单描述预测过程：

假定其中的K值已经选定好，也即是模型已经确定

对于给定的训练数据点和输入数据点，确定输入点的k个最近邻训练点，利用k个训练点的类的多数预测输入点的类

1.算法的抽象解释如下：