机器学习实战笔记一_Python3-优快云博客

本文介绍了一种基于Python的K近邻算法实现方法，详细解释了如何利用numpy进行数据处理，以及如何定义函数来完成分类任务。文章还提供了一个简单的示例数据集并展示了如何调用函数进行分类。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

程序清单2-1

个人程序注释+Python3 部分代码改造（针对iteritems只支持python2的情况）

[html]view plain copy
from  numpy import *  
import operator#运算符模块  
  
def createDataSet():  
    group = array([[1.0,1.1],[1.0,1.0],[0,0],[0, 0.1]])  
    labels = ['A','A','B','B']  
    return group,labels  
  
group,labels=createDataSet()  
  
def classify0(inX, dataSet, labels, k): #inX: 待测试数据 ;  dataSet: 训练样本集  
    dataSetSize = dataSet.shape[0]      #to get the rows of the matrix  
    # to get the Xi-Yi of the dataSet  
    diffMat = tile(inX, (dataSetSize,1)) - dataSet      #a=[1 2],b=[2 3];tile(a,b) to generate 2*3 matrix when  
                                                        #the element all is a [1 2]  
    sqDiffMat = diffMat**2  
    sqDistances = sqDiffMat.sum(axis=1)         #使每行的元素相加，得到测试样本与各训练样本distance**2  
                                                #axis=0，按列相加；axis=1，按行相加；  
    distances = sqDistances**0.5  
    sortedDistIndicies = distances.argsort()    #将distance中的元素从小到大排列，  
                                                # 提取其对应的index(索引)，然后输出到 sortedDistIndicies  
   #声明一个dict：{key:value1,key2:value2}  
    classCount={}  
    for i in range(k):  
        voteIlabel = labels[sortedDistIndicies[i]]  
        #classCount= {'B': 2, 'A': 1}，初始化后，classCount每得到一个相同的voteIlabel，就+1  
        classCount[voteIlabel] = classCount.get(voteIlabel,0) + 1       #当我们获取字典里的值的时候，一个是通过  
                                                                        # 键值对，即dict['key'],另一个就是dict.get()方法  
                                                                        # dict.get(voteIlabel,0) = 0, 此处0 to be initiated,  
                                                                        #  之后就没有作用了。  
    #items方法是可以将字典中的所有项，以列表方式返回。 iteritems方法与items方法相比作用大致相同，只是它的返回值不是列表，而是一个迭代器  
    #Python3 中没有iteritems函数，需要用values()代替，并用list转为列表  
    # sortedClassCount = sorted((key_label, value_num), key=operator.itemgetter(1), reverse=True)  
    #python3中无法使用iteritems，需要对上面这句话改造，我们通过得到两个list，得到出现频率最高的label  
    key_label=list(classCount.keys())  
    value_num=list(classCount.values())  
    #label出现频率由小到大排列，并返回索引index  
    sortedvalue_num_indicies = argsort(value_num)  
    #返回频率最大的label  
    return key_label[len(sortedvalue_num_indicies)-1]  

[html]view plain copy
group,labels = createDataSet()  
a=classify0([0,0], group,labels,3)  
print(a)  

编辑运行，得'A'

##############################################################

转自：https://blog.youkuaiyun.com/shunquanlan9446/article/details/79725964