机器学习实战之knn

最新推荐文章于 2022-11-04 15:13:57 发布

原创最新推荐文章于 2022-11-04 15:13:57 发布 · 176 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#python #机器学习 #knn

本文深入讲解了K近邻(KNN)算法的实现细节，包括如何计算输入向量与训练样本的欧式距离，如何通过距离排序选择最近的k个邻居，并统计这些邻居中各类别的出现频率，最终确定输入向量的类别。同时，通过一个简单的例子展示了如何统计标记的频次。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

基本注释

import numpy as np
import operator
def classify(inX,dataSet,labels,k):#inX为输入向量，dataSet为训练样本集，labels为标记向量，
    dataSetSize=np.shape(dataSet)[0]#返回训练样本个数
    diffMat=np.tile(inX,(dataSetSize,1))-dataSet#返回输入向量与训练样本的标量的减法
    sqDiffMat=diffMat**2#平方，要修改这一块地方
    sqDistance=sqDiffMat.sum(axis=1)#对矩阵行累计求和（平方累计求和）,结果是一行n列的列表
    distances=sqDistance**0.5#开根号，求欧式距离
    sortedDistIndicies= np.argsort(distances)#对距离的索引从小到大进行排序
    classCount={}#创建空白字典，用于存储不同标签出现的次数
    for i in range(k):
        voteIlabel=labels[sortedDistIndicies[i]]#依据欧式距离从小到大对标记进行排序，取前k个
        classCount[voteIlabel]=classCount.get(voteIlabel,0)+1#整合不同标签出现的次数http://www.cnblogs.com/EvilAnne/p/9740111.html
    sortedClassCount=sorted(classCount.items(),key=operator.itemgetter(1),reverse=True)#按照字典的值对它进行从大到小的排序
    return sortedClassCount[0][0]#返回最终分类结果

标记统计

list0=['a','a','c','b','c','a']
map0={}
for i in range(6):
    map_key=list0[i]
    map0[map_key]=map0.get(map_key,0)+1
print(map0)

结果：{'a': 3, 'c': 2, 'b': 1}