自己实现KNN算法

最新推荐文章于 2023-09-18 21:08:09 发布

weixin_33762321

最新推荐文章于 2023-09-18 21:08:09 发布

阅读量190

点赞数

CC 4.0 BY-SA版权

原文链接：http://www.cnblogs.com/Erick-L/p/9007633.html

本文介绍了一种基于Python实现的K近邻(KNN)分类器。该分类器使用欧式距离计算样本之间的距离，并通过投票机制确定未知样本的类别。文中详细展示了KNN分类器的实现过程，包括初始化、训练及预测等关键步骤。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

import numpy as np
from math import sqrt
from collections import Counter

class KNNClassifier(object):
    """docstring for KNNClassifier"""
    def __init__(self, k):
        assert k>=1,"k must be valid"
        self.k = k
        self._X_train = None
        self._y_train = None

    def fit(self,X_train,y_train):
        '''根据训练数据集X_train和y_train训练KNN分类器'''
        self._X_train = X_train
        self._y_train = y_train
        return self

    def predict(self,X_predict):
        y_predict = [self._predict(x) for x in X_predict]
        return np.array(y_predict)

    def _predict(self,x):
        distances = [sqrt(np.sum((x_train-x)**2) for x_train in self._X_train)]

        nearest = np.argsort(distances)

        topK_y=[self._y_train[i] for i in nearest[:self.k]]
        votes = Counter(topK_y)

        return votes.most_common(1)[0][0]