机器学习之KNN算法及TensorFlow实战

首发于我的科学网博客，不知道为啥被屏蔽了，以后逐渐退出科学网博客

 

K近邻算法-监督学习-分类方法

 

一、分类

要训练的数据已经标记好了，标签的种类是确定的，训练数据与标签是一一对应的。

通过对训练集数据进行学习（训练），这种学习可以称为特征提取（或模式获取），最后得到一个模型或认知或一种映射关系（分类方法中就是分类器），将此模型用于没有标签的测试集，模型能够识别已有特征（模式）的数据，并对其进行分类。这是一种检验模型好坏（或叫泛化能力）的方法。

 

注意：待分类数据的特征必须是已有数据的特征。举个反例：训练数据是猫和狗，测试数据是老鼠，你这不是逗比吗？显然测试结果肯定错误。如果你想把老鼠确定为新的类别还是用无监督学习吧，比如聚类。

 

二、KNN方法

K近邻分类方法在于将测试集数据与训练集数据进行比较，通过比较特征的相似程度来进行分类。相似程度是根据测试集数据与训练集数据距离最近的k个数据来确定的，这就是k近邻的由来。

具体算法为：1.先对训练集数据标记，指定其类别；（K近邻不需训练数据，这是一种懒惰学习）；2.计算待分类数据