机器学习（一）：k-近邻算法（kNN）

文中的代码和数据集下载地址：
https://github.com/TimePickerWang/MachineLearningInAction

k-近邻算法是一个比较简单的算法，它的基本思路是这样的：存在一个样本数据集（即训练集），样本集中的每个样本都存在标签（目标变量），即我们知道样本集中每一数据与所属分类的对应关系。在输入没有标签的新数据后，将新数据和样本集中的每个样本进行比较，然后用算法提取样本集中和待分类样本最相似的前k个样本，然后选择k个最相似样本中出现次数最多的类别，作为待分类样本的类别。

那么，怎么判断两个样本的相似程度呢？这里使用欧式距离来进行判断，判断方式如下：
设有两个n维向量：
$a=[a_1,a_2,......,a_n]$
$b= [b_1,b_2,......,b_n]$
那么，它们的欧式距离如下：
da,b=(a1−