KNN底层的实现

最新推荐文章于 2024-03-31 15:30:19 发布

原创

最新推荐文章于 2024-03-31 15:30:19 发布 · 352 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #KNN

KNN（K最近邻）是一种简单的机器学习分类算法，基于样本最邻近的原则进行分类。核心思想是利用k个最近邻样本的类别进行决策。本文介绍了KNN的基本原理，并给出了简单的实现代码示例。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

KNN基础了解

学习KNN
- 了解KNN
- KNN的基本原理代码

学习KNN

了解KNN

邻近算法，或者说K最近邻(kNN，k-NearestNeighbor)分类算法是数据挖掘分类技术中最简单的方法之一。所谓K最近邻，就是k个最近的邻居的意思，说的是每个样本都可以用它最接近的k个邻居来代表。
kNN算法的核心思想是如果一个样本在特征空间中的k个最相邻的样本中的大多数属于某一个类别，则该样本也属于这个类别，并具有这个类别上样本的特性。该方法在确定分类决策上只依据最邻近的一个或者几个样本的类别来决定待分样本所属的类别。 kNN方法在类别决策时，只与极少量的相邻样本有关。由于kNN方法主要靠周围有限的邻近的样本，而不是靠判别类域的方法来确定所属类别的，因此对于类域的交叉或重叠较多的待分样本集来说，kNN方法较其他方法更为适合。

KNN的基本原理代码

def KNeighborsClassifier(inX,dataset,labels,n_neighbors=5,weights='uniform',p=2):
    '''
    inX:待测点
    dataSet 数据集 
    labels  数据值对应标签
    n_neighbors  k取值
    weights 权重  uniform 各样本权重相等 distance  按距离加