python 机器学习KNN分类算法_chn算法-优快云博客

本文链接：https://blog.youkuaiyun.com/CHN_NASA/article/details/53307868

本文详细介绍了k近邻算法的基本原理及其Python实现过程。通过一个简单的示例数据集，展示了如何计算距离、选择最近邻并进行分类预测。该算法适用于初学者理解机器学习中的基本分类任务。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

    k近邻算法是机器学习中最简单的算法，其可以做最基本的分类操作，伪代码如下：
对未知类别属性的数据集中的每个点依次执行以下操作：
（1）计算已知类别数据集中的每个点与当前点之间的距离；
（2）按照距离递增次序排序；
（3）选怒与当前点距离最小的k个点
（4）确定前k个点所在类别出现的频率；
（5）返回前k个点出现频率最高的类别作为当前点的预测分类。
具体python代码如下：
from numpy import *
import operator


def createDataSet():
    group = array([[1.0, 1.1], [1.0, 1.0], [0, 0], [0, 0.1]])
    labels = ['A', 'A', 'B', 'B']
    return group, labels


def classify0(inX, dataSet, labels, k):
    dataSetSize = dataSet.shape[0]
    diffMat = tile(inX, (dataSetSize, 1)) - dataSet
    sqDiffMat = diffMat ** 2
    sqDistances = sqDiffMat.sum(axis=1)
    distances = sqDistances ** 0.5
    sortedDistIndicies = distances.argsort()
    classCount = {}
    for i in range(k):
        voteIlabel = labels[sortedDistIndicies[i]]
        classCount[voteIlabel] = classCount.get(voteIlabel, 0) + 1
    sortedClassCount = sorted(classCount.iteritems(),
                              key=operator.itemgetter(1), reverse=True)
    return sortedClassCount[0][0]
if __name__ == '__main__':
    group,labels = createDataSet()
    result = classify0([1.2,1.5],group,labels,3)
    print result