机器学习：KNN的python实现

最新推荐文章于 2023-05-19 15:34:45 发布
最新推荐文章于 2023-05-19 15:34:45 发布
阅读量302 收藏 2
点赞数
CC 4.0 BY-SA版权
分类专栏： 机器学习 python学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/nanxiaoting/article/details/80275096
本文介绍了一个基于鸢尾花数据集的KNN分类算法实现过程，包括数据预处理、训练集与测试集划分、距离计算、最近邻搜索及分类预测等步骤，并展示了分类准确率。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

依旧根据麦子学院彭亮老师的机器学习视频整理。

1.数据集（为UCI数据集的‘iris’数据集），粘贴出来，存为iris.data文件：

5.8,2.7,3.9,1.2,Iris-versicolor
6.0,2.7,5.1,1.6,Iris-versicolor
5.4,3.0,4.5,1.5,Iris-versicolor
6.0,3.4,4.5,1.6,Iris-versicolor
6.7,3.1,4.7,1.5,Iris-versicolor
6.3,2.3,4.4,1.3,Iris-versicolor
5.6,3.0,4.1,1.3,Iris-versicolor
5.5,2.5,4.0,1.3,Iris-versicolor
5.5,2.6,4.4,1.2,Iris-versicolor
6.1,3.0,4.6,1.4,Iris-versicolor
5.8,2.6,4.0,1.2,Iris-versicolor
5.0,2.3,3.3,1.0,Iris-versicolor
5.6,2.7,4.2,1.3,Iris-versicolor
5.7,3.0,4.2,1.2,Iris-versicolor
5.7,2.9,4.2,1.3,Iris-versicolor
6.2,2.9,4.3,1.3,Iris-versicolor
5.1,2.5,3.0,1.1,Iris-versicolor
5.7,2.8,4.1,1.3,Iris-versicolor
6.3,3.3,6.0,2.5,Iris-virginica
5.8,2.7,5.1,1.9,Iris-virginica
7.1,3.0,5.9,2.1,Iris-virginica
6.3,2.9,5.6,1.8,Iris-virginica
6.5,3.0,5.8,2.2,Iris-virginica
7.6,3.0,6.6,2.1,Iris-virginica
4.9,2.5,4.5,1.7,Iris-virginica
7.3,2.9,6.3,1.8,Iris-virginica
6.7,2.5,5.8,1.8,Iris-virginica
7.2,3.6,6.1,2.5,Iris-virginica
6.5,3.2,5.1,2.0,Iris-virginica
6.4,2.7,5.3,1.9,Iris-virginica
6.8,3.0,5.5,2.1,Iris-virginica
5.7,2.5,5.0,2.0,Iris-virginica
5.8,2.8,5.1,2.4,Iris-virginica
6.4,3.2,5.3,2.3,Iris-virginica
6.5,3.0,5.5,1.8,Iris-virginica
7.7,3.8,6.7,2.2,Iris-virginica
7.7,2.6,6.9,2.3,Iris-virginica
6.0,2.2,5.0,1.5,Iris-virginica
6.9,3.2,5.7,2.3,Iris-virginica
5.6,2.8,4.9,2.0,Iris-virginica
7.7,2.8,6.7,2.0,Iris-virginica
6.3,2.7,4.9,1.8,Iris-virginica
6.7,3.3,5.7,2.1,Iris-virginica
7.2,3.2,6.0,1.8,Iris-virginica
6.2,2.8,4.8,1.8,Iris-virginica
6.1,3.0,4.9,1.8,Iris-virginica
6.4,2.8,5.6,2.1,Iris-virginica
7.2,3.0,5.8,1.6,Iris-virginica
7.4,2.8,6.1,1.9,Iris-virginica
7.9,3.8,6.4,2.0,Iris-virginica
6.4,2.8,5.6,2.2,Iris-virginica
6.3,2.8,5.1,1.5,Iris-virginica
6.1,2.6,5.6,1.4,Iris-virginica
7.7,3.0,6.1,2.3,Iris-virginica
6.3,3.4,5.6,2.4,Iris-virginica
6.4,3.1,5.5,1.8,Iris-virginica
6.0,3.0,4.8,1.8,Iris-virginica
6.9,3.1,5.4,2.1,Iris-virginica
6.7,3.1,5.6,2.4,Iris-virginica
6.9,3.1,5.1,2.3,Iris-virginica
5.8,2.7,5.1,1.9,Iris-virginica
6.8,3.2,5.9,2.3,Iris-virginica
6.7,3.3,5.7,2.5,Iris-virginica
6.7,3.0,5.2,2.3,Iris-virginica
6.3,2.5,5.0,1.9,Iris-virginica
6.5,3.0,5.2,2.0,Iris-virginica
6.2,3.4,5.4,2.3,Iris-virginica
5.9,3.0,5.1,1.8,Iris-virginica

2.程序实现：

#coding=utf-8
import csv
import random
import math
import operator


# 读取数据并且将数据分成了训练集和测试集

def loadDataset(filename,split,trainingSet=[],testSet=[]):
    with open(filename,'rb') as csvfile:
        lines = csv.reader(csvfile)  #读取数的每一行
        dataset= list(lines)  #将数据变成了列表
        print dataset
        #print len(dataset)

        for x in range(len(dataset)-1):
            for y in range(4):
                dataset[x][y] =float(dataset[x][y])   #数据类型需要是float才能进行数据处理

            if random.random() < split:
                trainingSet.append(dataset[x])
            else:
                testSet.append(dataset[x])


def euclideanDistance(instance1,instance2,length):
    distance = 0
    for x in range(length):
        distance +=pow(instance1[x] - instance2[x],2)
    return math.sqrt(distance)


def getNeighbors(trainingSet,testInstance,k):
    distances = []
    length = len(testInstance)-1       #testInstance为待检测的样本,维数减1，去除标签，得到特征数
    for x in range(len(trainingSet)):  #遍历所有的训练样本
        dist = euclideanDistance(testInstance,trainingSet[x],length)
        distances.append((trainingSet[x],dist))  #把dist加进去了(([a, b, c, d, 'Iris-setosa'], dist))
    distances.sort(key = operator.itemgetter(1)) #将测试集所有数据和Instance的距离求出来排序
    neighbors = []
    for x in range(k):
        neighbors.append(distances[x][0])  #取的是trainingSet
    return neighbors


def getResponse(neighbors):
    classVotes = {}
    for x in range(len(neighbors)):
        response = neighbors[x][-1]    #得到标签

        #print(response)

        if response in classVotes:   #response为邻居们的标签
            classVotes[response] += 1
        else:
            classVotes[response] = 1

        sortedVotes = sorted(classVotes.items(),key = operator.itemgetter(1),reverse = True)  #operator.itemgetter(item),返回一个可调用的对象，该对象通过运算符的__getitem__()的方法从运算中获取item. operator.getitem(a,b) 返回a中索引为b的值。

        #从大到小排序

    #print(sortedVotes[0][0])
    #print(classVotes.items())
    #print(sortedVotes)

    return sortedVotes[0][0]  #给出排列在第一的目标
#对于测试样本的准确率计算：
def getAccuracy(testSet,predictions):
    correct = 0
    for x in range(len(testSet)):
        if testSet[x][-1] == predictions[x]:
            correct +=1
    return (correct/float(len(testSet)) *100.0)



def main():
    trainingSet = []
    testSet = []
    split = 0.67
    loadDataset(r'iris.data',split,trainingSet,testSet)
    print 'Train set:' + repr(len(trainingSet))
    print 'Test set:'  + repr(len(testSet))

    predictions = []
    k = 3
    for x in range(len(testSet)):
        neighbors = getNeighbors(trainingSet,testSet[x],k)
        result = getResponse(neighbors)
        predictions.append(result)
        print('>predicted=' +repr(result) +',actual = '+repr(testSet[x][-1]))
    accuracy =getAccuracy(testSet,predictions)
    print 'Accuracy:' +repr(accuracy) +'%'

main()

3.结果：

/home/troy/anaconda2/bin/python /home/troy/1.py
[['5.1', '3.5', '1.4', '0.2', 'Iris-setosa'], ['4.9', '3.0', '1.4', '0.2', 'Iris-setosa'], ['4.7', '3.2', '1.3', '0.2', 'Iris-setosa'], ['4.6', '3.1', '1.5', '0.2', 'Iris-setosa'], ['5.0', '3.6', '1.4', '0.2', 'Iris-setosa'], ['5.4', '3.9', '1.7', '0.4', 'Iris-setosa'], ['4.6', '3.4', '1.4', '0.3', 'Iris-setosa'], ['5.0', '3.4', '1.5', '0.2', 'Iris-setosa'], ['4.4', '2.9', '1.4', '0.2', 'Iris-setosa'], ['4.9', '3.1', '1.5', '0.1', 'Iris-setosa'], ['5.4', '3.7', '1.5', '0.2', 'Iris-setosa'], ['4.8', '3.4', '1.6', '0.2', 'Iris-setosa'], ['4.8', '3.0', '1.4', '0.1', 'Iris-setosa'], ['4.3', '3.0', '1.1', '0.1', 'Iris-setosa'], ['5.8', '4.0', '1.2', '0.2', 'Iris-setosa'], ['5.7', '4.4', '1.5', '0.4', 'Iris-setosa'], ['5.4', '3.9', '1.3', '0.4', 'Iris-setosa'], ['5.1', '3.5', '1.4', '0.3', 'Iris-setosa'], ['5.7', '3.8', '1.7', '0.3', 'Iris-setosa'], ['5.1', '3.8', '1.5', '0.3', 'Iris-setosa'], ['5.4', '3.4', '1.7', '0.2', 'Iris-setosa'], ['5.1', '3.7', '1.5', '0.4', 'Iris-setosa'], ['4.6', '3.6', '1.0', '0.2', 'Iris-setosa'], ['5.1', '3.3', '1.7', '0.5', 'Iris-setosa'], ['4.8', '3.4', '1.9', '0.2', 'Iris-setosa'], ['5.0', '3.0', '1.6', '0.2', 'Iris-setosa'], ['5.0', '3.4', '1.6', '0.4', 'Iris-setosa'], ['5.2', '3.5', '1.5', '0.2', 'Iris-setosa'], ['5.2', '3.4', '1.4', '0.2', 'Iris-setosa'], ['4.7', '3.2', '1.6', '0.2', 'Iris-setosa'], ['4.8', '3.1', '1.6', '0.2', 'Iris-setosa'], ['5.4', '3.4', '1.5', '0.4', 'Iris-setosa'], ['5.2', '4.1', '1.5', '0.1', 'Iris-setosa'], ['5.5', '4.2', '1.4', '0.2', 'Iris-setosa'], ['4.9', '3.1', '1.5', '0.1', 'Iris-setosa'], ['5.0', '3.2', '1.2', '0.2', 'Iris-setosa'], ['5.5', '3.5', '1.3', '0.2', 'Iris-setosa'], ['4.9', '3.1', '1.5', '0.1', 'Iris-setosa'], ['4.4', '3.0', '1.3', '0.2', 'Iris-setosa'], ['5.1', '3.4', '1.5', '0.2', 'Iris-setosa'], ['5.0', '3.5', '1.3', '0.3', 'Iris-setosa'], ['4.5', '2.3', '1.3', '0.3', 'Iris-setosa'], ['4.4', '3.2', '1.3', '0.2', 'Iris-setosa'], ['5.0', '3.5', '1.6', '0.6', 'Iris-setosa'], ['5.1', '3.8', '1.9', '0.4', 'Iris-setosa'], ['4.8', '3.0', '1.4', '0.3', 'Iris-setosa'], ['5.1', '3.8', '1.6', '0.2', 'Iris-setosa'], ['4.6', '3.2', '1.4', '0.2', 'Iris-setosa'], ['5.3', '3.7', '1.5', '0.2', 'Iris-setosa'], ['5.0', '3.3', '1.4', '0.2', 'Iris-setosa'], ['7.0', '3.2', '4.7', '1.4', 'Iris-versicolor'], ['6.4', '3.2', '4.5', '1.5', 'Iris-versicolor'], ['6.9', '3.1', '4.9', '1.5', 'Iris-versicolor'], ['5.5', '2.3', '4.0', '1.3', 'Iris-versicolor'], ['6.5', '2.8', '4.6', '1.5', 'Iris-versicolor'], ['5.7', '2.8', '4.5', '1.3', 'Iris-versicolor'], ['6.3', '3.3', '4.7', '1.6', 'Iris-versicolor'], ['4.9', '2.4', '3.3', '1.0', 'Iris-versicolor'], ['6.6', '2.9', '4.6', '1.3', 'Iris-versicolor'], ['5.2', '2.7', '3.9', '1.4', 'Iris-versicolor'], ['5.0', '2.0', '3.5', '1.0', 'Iris-versicolor'], ['5.9', '3.0', '4.2', '1.5', 'Iris-versicolor'], ['6.0', '2.2', '4.0', '1.0', 'Iris-versicolor'], ['6.1', '2.9', '4.7', '1.4', 'Iris-versicolor'], ['5.6', '2.9', '3.6', '1.3', 'Iris-versicolor'], ['6.7', '3.1', '4.4', '1.4', 'Iris-versicolor'], ['5.6', '3.0', '4.5', '1.5', 'Iris-versicolor'], ['5.8', '2.7', '4.1', '1.0', 'Iris-versicolor'], ['6.2', '2.2', '4.5', '1.5', 'Iris-versicolor'], ['5.6', '2.5', '3.9', '1.1', 'Iris-versicolor'], ['5.9', '3.2', '4.8', '1.8', 'Iris-versicolor'], ['6.1', '2.8', '4.0', '1.3', 'Iris-versicolor'], ['6.3', '2.5', '4.9', '1.5', 'Iris-versicolor'], ['6.1', '2.8', '4.7', '1.2', 'Iris-versicolor'], ['6.4', '2.9', '4.3', '1.3', 'Iris-versicolor'], ['6.6', '3.0', '4.4', '1.4', 'Iris-versicolor'], ['6.8', '2.8', '4.8', '1.4', 'Iris-versicolor'], ['6.7', '3.0', '5.0', '1.7', 'Iris-versicolor'], ['6.0', '2.9', '4.5', '1.5', 'Iris-versicolor'], ['5.7', '2.6', '3.5', '1.0', 'Iris-versicolor'], ['5.5', '2.4', '3.8', '1.1', 'Iris-versicolor'], ['5.5', '2.4', '3.7', '1.0', 'Iris-versicolor'], ['5.8', '2.7', '3.9', '1.2', 'Iris-versicolor'], ['6.0', '2.7', '5.1', '1.6', 'Iris-versicolor'], ['5.4', '3.0', '4.5', '1.5', 'Iris-versicolor'], ['6.0', '3.4', '4.5', '1.6', 'Iris-versicolor'], ['6.7', '3.1', '4.7', '1.5', 'Iris-versicolor'], ['6.3', '2.3', '4.4', '1.3', 'Iris-versicolor'], ['5.6', '3.0', '4.1', '1.3', 'Iris-versicolor'], ['5.5', '2.5', '4.0', '1.3', 'Iris-versicolor'], ['5.5', '2.6', '4.4', '1.2', 'Iris-versicolor'], ['6.1', '3.0', '4.6', '1.4', 'Iris-versicolor'], ['5.8', '2.6', '4.0', '1.2', 'Iris-versicolor'], ['5.0', '2.3', '3.3', '1.0', 'Iris-versicolor'], ['5.6', '2.7', '4.2', '1.3', 'Iris-versicolor'], ['5.7', '3.0', '4.2', '1.2', 'Iris-versicolor'], ['5.7', '2.9', '4.2', '1.3', 'Iris-versicolor'], ['6.2', '2.9', '4.3', '1.3', 'Iris-versicolor'], ['5.1', '2.5', '3.0', '1.1', 'Iris-versicolor'], ['5.7', '2.8', '4.1', '1.3', 'Iris-versicolor'], ['6.3', '3.3', '6.0', '2.5', 'Iris-virginica'], ['5.8', '2.7', '5.1', '1.9', 'Iris-virginica'], ['7.1', '3.0', '5.9', '2.1', 'Iris-virginica'], ['6.3', '2.9', '5.6', '1.8', 'Iris-virginica'], ['6.5', '3.0', '5.8', '2.2', 'Iris-virginica'], ['7.6', '3.0', '6.6', '2.1', 'Iris-virginica'], ['4.9', '2.5', '4.5', '1.7', 'Iris-virginica'], ['7.3', '2.9', '6.3', '1.8', 'Iris-virginica'], ['6.7', '2.5', '5.8', '1.8', 'Iris-virginica'], ['7.2', '3.6', '6.1', '2.5', 'Iris-virginica'], ['6.5', '3.2', '5.1', '2.0', 'Iris-virginica'], ['6.4', '2.7', '5.3', '1.9', 'Iris-virginica'], ['6.8', '3.0', '5.5', '2.1', 'Iris-virginica'], ['5.7', '2.5', '5.0', '2.0', 'Iris-virginica'], ['5.8', '2.8', '5.1', '2.4', 'Iris-virginica'], ['6.4', '3.2', '5.3', '2.3', 'Iris-virginica'], ['6.5', '3.0', '5.5', '1.8', 'Iris-virginica'], ['7.7', '3.8', '6.7', '2.2', 'Iris-virginica'], ['7.7', '2.6', '6.9', '2.3', 'Iris-virginica'], ['6.0', '2.2', '5.0', '1.5', 'Iris-virginica'], ['6.9', '3.2', '5.7', '2.3', 'Iris-virginica'], ['5.6', '2.8', '4.9', '2.0', 'Iris-virginica'], ['7.7', '2.8', '6.7', '2.0', 'Iris-virginica'], ['6.3', '2.7', '4.9', '1.8', 'Iris-virginica'], ['6.7', '3.3', '5.7', '2.1', 'Iris-virginica'], ['7.2', '3.2', '6.0', '1.8', 'Iris-virginica'], ['6.2', '2.8', '4.8', '1.8', 'Iris-virginica'], ['6.1', '3.0', '4.9', '1.8', 'Iris-virginica'], ['6.4', '2.8', '5.6', '2.1', 'Iris-virginica'], ['7.2', '3.0', '5.8', '1.6', 'Iris-virginica'], ['7.4', '2.8', '6.1', '1.9', 'Iris-virginica'], ['7.9', '3.8', '6.4', '2.0', 'Iris-virginica'], ['6.4', '2.8', '5.6', '2.2', 'Iris-virginica'], ['6.3', '2.8', '5.1', '1.5', 'Iris-virginica'], ['6.1', '2.6', '5.6', '1.4', 'Iris-virginica'], ['7.7', '3.0', '6.1', '2.3', 'Iris-virginica'], ['6.3', '3.4', '5.6', '2.4', 'Iris-virginica'], ['6.4', '3.1', '5.5', '1.8', 'Iris-virginica'], ['6.0', '3.0', '4.8', '1.8', 'Iris-virginica'], ['6.9', '3.1', '5.4', '2.1', 'Iris-virginica'], ['6.7', '3.1', '5.6', '2.4', 'Iris-virginica'], ['6.9', '3.1', '5.1', '2.3', 'Iris-virginica'], ['5.8', '2.7', '5.1', '1.9', 'Iris-virginica'], ['6.8', '3.2', '5.9', '2.3', 'Iris-virginica'], ['6.7', '3.3', '5.7', '2.5', 'Iris-virginica'], ['6.7', '3.0', '5.2', '2.3', 'Iris-virginica'], ['6.3', '2.5', '5.0', '1.9', 'Iris-virginica'], ['6.5', '3.0', '5.2', '2.0', 'Iris-virginica'], ['6.2', '3.4', '5.4', '2.3', 'Iris-virginica'], ['5.9', '3.0', '5.1', '1.8', 'Iris-virginica'], []]
Train set:98
Test set:52
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-setosa',actual = 'Iris-setosa'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-versicolor',actual = 'Iris-versicolor'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-versicolor',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
>predicted='Iris-virginica',actual = 'Iris-virginica'
Accuracy:98.07692307692307%

Process finished with exit code 0

最近邻分类算法KNN实现--参考麦子学院彭亮机器学习基础4.2
fukaixin12的博客
01-28 647
import csv import random import math import operator #导入数据，并分为训练集和测试集 def loadDataset(filename, split, trainingSet = [], testSet = []): with open(filename, 'rt') as csvfile: lines = csv....
python爬虫： 使用knn算法破解猫眼动态字体反爬
qq_29570381的博客
11-12 1225
猫眼字体反爬 动态变化的字形使用阈值判断误差率较大，甚至看到有的老哥使用ocr去搞…，大概两个月前，第一次看到有大佬使用knn算法搞字体反爬(源码地址)，听说效果不错，一直没有时间去尝试，不仅仅是没有时间，对于未知领域特别是机器学习，不知道从何搞起，但是遇到问题总得解决，今天逼着自己去搞 knn算法介绍 如果一个样本在特征空间中的k个最相似的样本中的大多数属于某一个类别，则该样本也属于这个类别 举...
2-2 Python实现最邻近规则KNN分类应用
蛋子哥的博客
12-03 1616
最邻近规则KNN分类应用数据集介绍虹膜 150个实例 萼片长度，萼片宽度，花瓣长度，花瓣宽度 (sepal length, sepal width, petal length and petal width） 类别： Iris setosa, Iris versicolor, Iris virginica. 利用python机器学习库sklearn:SkL
数据挖掘:：实验一 WEKA分类
热门推荐
Bamboo
05-08 3万+
目录 一、实验目的   二、实验环境  三、实验要求 四、实验过程及结果 （1）KNN分类器： （2）C4.5决策树分类器： （3）朴素贝叶斯分类器： 五、实验总结 一、实验目的   使用数据挖掘中的分类算法，对数据集进行分类训练并测试。应用不同的分类算法，比较他们之间的不同。与此同时了解Weka平台的基本功能与使用方法。  二、实验环境  实验采用Weka3.8 ...
朴素贝叶斯分类器及Python、MATLAB实现
weixin_30897233的博客
09-29 373
一、问题引入： 设有A，B，C三种花，且它们在自然界的数量都相同，即在这三类中任意取一花，P(A)=P(B)=P(C)=1/3。现有一枝花，问它属于哪一类，则在没有任何提示的情况下，可以得知，它是A（或B或C）的可能性一样。 但，若此时用它们花萼的长度，花萼的宽度，花瓣的长度，花瓣的宽度，即4维向量表示各自的特征，并且这些特征对我们已知。那么，这时它属于哪一类的不确定度减少，则我们能...
机器学习：Python实现KNN算法
m0_52331159的博客
03-25 1175
使用Python实现KNN 3 实验背景 本实验将演示使用Python的第三方库Numpy实现KNN算法，对训练样本进行建模，并对待测样本进行类别划分。KNN算法需要确定K值、距离度量和分类决策规则。 5.2 定义KNN函数 5.3 显示待测样本的标签完成分类 提示：shape用法
机器学习之KNN、Python实现
争渡的博客
05-19 1万+
KNN是一种基于实例的无参学习算法，通过计算新数据与训练集中所有样本之间的距离，并选取k个最近邻来进行分类或回归预测。在分类问题中，KNN算法采用多数投票的方法进行决策；在回归问题中，KNN算法采用平均值法进行预测。因此，KNN算法的目标是将新数据点分配给与其距离最近的训练数据点所属的类别或者预测其对应的数值，而不是最小化某个损失函数。也正因为如此，KNN算法适用于许多非线性和非参数化。
python实现knn房价预测_机器学习：KNN算法Python实现
weixin_39992760的博客
12-03 1181
KNN(K-Nearest Neighbor)K 近邻算法，K近邻就是k个最近的邻居的意思，说的是每个样本都可以用它最接近的k个邻居来代表。KNN算法用于监督学习分类模型，预测结果是离散的机器学习算法。KNN算法原理：1、计算每个测试数据与每个训练数据的距离(相识度)；2、按照距离升序，对训练集数据进行排序；3、获取距离最近的k个邻居，获取这k个邻居中的众数(取其中一个就行)；4、测试样本的预测...
基于Python3的机器学习实战：kNN、决策树等算法设计源码
最新发布
10-02
本项目所提供的源码集，是在Python3这一广泛应用的编程环境下，针对机器学习算法进行实践操作的详细实现。项目中包含的文件数量众多，总计3076个，包括丰富的文本文件和程序代码文件，为机器学习爱好者和研究者提供...
机器学习-基于Python实现的机器学习算法之KNN.zip
03-03
《机器学习：基于Python的KNN算法实现》 在当今数据驱动的世界中，机器学习作为人工智能的一个重要分支，已经深入到各个领域。其中，K-近邻（K-Nearest Neighbors, KNN）算法是一种基础但实用的监督学习方法，尤其...
KNN:KNN算法的Python实现
06-13
`scikit-learn`是Python中强大的机器学习库，包含各种预处理、模型选择和评估工具，以及大量的机器学习算法，包括KNN。 **使用scikit-learn实现KNN步骤** 1. **导入库**：首先，我们需要导入`sklearn`中的`...
机器学习之KNN算法原理及Python实现方法详解
09-20
KNN（K-Nearest Neighbors）算法是机器学习领域中一种基础且直观的分类和回归方法。它属于监督学习算法，即在训练过程中需要已知...现代机器学习库如`scikit-learn`提供了优化过的KNN实现，可以更高效地处理这些问题。
Python机器学习：Knn算法实现原理、自实现过程、调包实现详细代码！！！
jkx521的博客
09-20 778
KNN算法原理： 1预 KNN手写识别字案例： import pandas as pd import numpy as np import matplotlib.pyplot as plt import os from sklearn.neighbors import KNeighborsClassifier def build_data(dir_name): """ ...
python Numpy.ndsarray.tostring()
nanxiaoting的博客
06-17 1万+
在项目中，需要把图像输入subprocessing.Popen(),但是管道子进程无法直接输入图像矩阵，因此，需要把矩阵转化为字符串。使得np.ndarray转化为string(or bytes)  ——&gt;  利用tostring。但是这个方法会丢失原始数据中的类型信息（type）和维度信息（shape），这意味着你要将这两个信息一起穿到管道。再用 np.fromstring（）转化为原来的...
python 路径 . 与 ..
nanxiaoting的博客
06-17 2697
# coding=utf-8 ''' Ubuntu 14.04 ,python 2.7 文件位置：/home/troy/nanxiaoting/pythonxuexi/1,py ''' import os path1 = os.path.abspath('.') # 表示当前所处的文件夹的绝对路径 /home/troy/nanxiaoting/pythonxuexi print...
ubuntu 下 python opencv3不能导入cv问题
nanxiaoting的博客
06-08 1864
根据之前的帖子  https://blog.csdn.net/nanxiaoting/article/details/80396148，直接在anaconda下 pip install  opencv-python其实安装的是opencv3，无法导入from cv2 import cv  。考虑换成opencv2.4.11。于是，先卸载之前安装的opencv3 。执行命令：pip uninstal...
python numpy.argpartition
nanxiaoting的博客
08-06 1095
a = [9,1,8,2,7,3,0,6,4,5,14,56,110] ind = np.argpartition(a, -4)[-4:][::-1] b = [] for i in ind: print a[i] b.append(a[i]) print 'b:',b c = sorted(b,reverse=True) print c 结果： 9 14 56 110 b: [9...
python multiprocessing学习（一）
nanxiaoting的博客
06-10 725
1.python的GIL（全局解析器锁）在单核情况下对性能的影响可以忽略不计。2.python由于GIL的存在在多核CPU的情况下Thread的表现非常糟糕，但Process则不受GIL的影响。...
python Numpy 学习（一）
nanxiaoting的博客
06-07 562
#coding=utf-8 import numpy as np a=np.arange(15).reshape(3,5) print a ''' 输出为： [[ 0 1 2 3 4] [ 5 6 7 8 9] [10 11 12 13 14]] ''' print a.shape #(3,5) print a.ndim #2 print a.dtype.name #in...
Python机器学习实战：KNN与sklearn基础
总结来说，这部分内容涵盖了Python机器学习中基础的特征工程处理（通过转换器标准化）和分类模型构建（通过估计器和KNN算法），这些都是理解和应用机器学习技术的基础步骤。学习者通过实际操作这些概念，能够快速...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值