# 机器学习实战#（一）——KNN算法

于 2022-11-05 18:21:34 发布
阅读量866 收藏 9
点赞数 2
CC 4.0 BY-SA版权
文章标签： 算法 人工智能 python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Gucciwei/article/details/127696526

一、KNN算法

 

      KNN算法也叫k-近邻算法，简单的说就是运用k算法采用测量不同特征值之间的距离的方法对日常生活中出现的人或物进行分类。它的算法核心思想就是：近朱者赤，近墨者黑。举个例子： 如图1.1所示假设坐标图中有3种颜色的图案，其中有一个白色的图案，要判断它应该属于哪种颜色，取决于它的坐标位置，经过计算它离红色图案的坐标位置更近，所以它最后属于红色类型。

 图1.1

 二、K算法的一般流程

(1)收集数据：线上或者线下收集。
(2)准备数据：可以使用结构化的数据格式，比如二维坐标。
(3)分析数据：可以使用任何方法。
(4)训练算法：不需要。 
(5)测试算法：计算错误率。
(6)使用算法：首先需要输入样本数据和结构化的输出结果，然后运行k-近邻算法判定输入数据分别属于哪个分类,最后应用对计算出的分类执行后续的处理。

三、距离的计算

欧式距离：计算两点A、B之间的距离: 

d=\sqrt{(xA-xB)^2+(yA-yB)^2}

四、K值的确定

K近邻算法中的K是什么意思呢？

       K近邻，是k个最近的邻居，也就是每个样本都可以用它最接近的k个邻居来代表。

       K：临接近的数，在预测目标点时取几个临近的点来预测。

K值的确定：

（1）当K的取值过小时，会出现偏差，容易发生过拟合；

（2）当K的值取过大时，就相当于用较大邻域中的训练实例进行预测，

最低0.47元/天 解锁文章

200万优质内容无限畅学
Gucciwei
关注
机器学习——KNN算法实战
weixin_74340055的博客
04-01 2569
本文主要介绍博主学习完机器学习的第一个算法——KNN之后的实验和心得，主要包括对鸢尾花数据集进行分析和运用KNN算法划分鸢尾花种类的过程。因为是第一次实验，所以是根据《机器学习实战》这本书上的代码实现过程作为参考，并没有调用sklearn库来直接运用KNN算法模型。这是第一次机器学习的实验，有很多机器学习的概念都不是很清楚，对Python也不是特别熟悉，所以整个过程还是比较困难的，但是算是自己将整个代码敲下来了，也学到了很多，希望下次实验能更加得心应手，能学到更多机器学习的知识，并且增强自己的动手实践能力。
《机器学习实战》学习笔记——kNN算法
u014330961的专栏
06-05 689
《机器学习实战》（MLiA）是一本介绍机器学习的书（的确是废话），和其他书不同的地方在于它给出了python的实现代码，而其他的书籍重在解释理论。我作为一名渣渣，理论就先放一放了。 MLiA的第一章主要介绍了一些概念、常识性的东西，所以不做介绍，这篇文章主要介绍k-近邻算法（kNN）。kNN算法的优点是精度高，对异常值（离群点）不敏感且不需要训练；缺点是计算复杂度、空间复杂度高。 kNN算法的适
机器学习实战之KNN算法
罗罗攀
06-08 295
本系列教程为《机器学习实战》的读书笔记。首先，讲讲写本系列教程的原因：第一，《机器学习实战》的代码由Python2编写，有些代码在Python3上运行已会报错，本教程基于Python3进行代码的修订；第二：之前看了一些机器学习的书籍，没有进行记录，很快就忘记掉了，通过编写教程也是一种复习的过程；第三，机器学习相对于爬虫和数据分析而言，学习难度更大，希望通过...
机器学习实战 --- kNN
hliyang的博客
10-15 311
k-近邻算法： （kNN —— k-Nearest Neighbors） 测量不同特征值之间的距离方法进行分类。 有一个样本数据集（每个样本都存在标签），输入没有标签的新数据后，将新数据的每个特征与样本集中数据对应的特征进行比较，提取样本集中特征最相似数据（最近邻）的分类标签。一般，只选择样本数据中前k个最相似的数据（k通常不大于20），选择其中分类出现次数最多的作为新数据的分类。 欧式距离公式：...
机器学习实战--KNN
qxdoit的博客
10-15 188
import numpy as np import operator def createDataSet(): group = np.array([[1.0,1.1],[1.0,1.0],[0,0],[0,0.1]]) labels = ['A','A','B','B'] return group,labels def classify0(inX,dataset,lab...
《机器学习实战》--KNN
会打代码的扫地王大爷的专栏
02-09 1294
一、瞎扯 先拉一下仇恨，这篇文章是在喝着走亲戚时带来的饮料，单曲循环着成龙版本的《拯救》的情况下完成的，哈哈，过年难免有些活的太潇洒，于是还是需要写些代码，看些书来收收心，另外新的一年开始了，也该对“懒”开刀了，准备养成写博客这一及其装逼的技能，祝各位同行新年快乐！（开始写的的时候还是大年初一，发布的时候过期了可别怪我） KNN是机器学习中最简单，最基础的算法之一，算法实现起来没什么难度
【宅着宅着就学习惯了】机器学习课程——KNN算法实战代码
03-28
在本课程"宅着宅着就学习惯了"中，我们深入探讨了机器学习领域中的一个基础算法——K近邻（K-Nearest Neighbors，简称KNN）。KNN算法是一种监督学习方法，广泛应用于分类和回归问题。下面将详细阐述KNN算法的基本...
机器学习实战 KNN实战
不想做咸鱼的咸鱼的专栏
10-02 7258
KNN实战1、KNN算法的一般流程1、搜集数据：可以使用任何方法2、准备数据：距离计算所需要的数值，最好是结构化的数据格式3、分析数据：可以使用任何方法4、训练算法：此步骤不适用于KNN算法5、测试算法：计算错误率6、使用算法：首先需求输入样本数据和结构化的输出结果，然后运行KNN算法判定输入数据分别属于哪一个分类，最后应用对计算出的分类执行后续的处理。 学习《机器学习实战》 1、KNN算法的一般...
机器学习实战—KNN
L1142456160的博客
02-08 546
主要介绍人工智能领域的分支——机器学习。机器学习的大致分类，详细解释了KNN算法的几个重要知识点
《机器学习实战》kNN学习笔记（一）
01-20
概述 k-近邻算法采用测量不同特征值之间的距离方法进行分类 优缺点 优点：精度高、对异常值不敏感、唔数据输入假定 缺点：计算复杂度高、空间复杂度高。 适用数据范围：数值型和标称型 标称型：标称型目标变量的结果只在有限目标集中取值，如真与假(标称型目标变量主要用于分类)标称型：标称型目标变量的结果只在有限目标集中取值，如真与假(标称型目标变量主要用于分类) 数值型：数值型目标变量则可以从无限的数值集合中取值，如0.100，42.001等 (数值型目标变量主要用于回归分析) k-近邻算法的一般流程 收集数据：可以使用任何方法. 准备数据：距离计算所需要的数值，最好是结构化的数据格式. 分析数据：可
机器学习实战之kNN
丝萝愿为乔木的博客
04-05 456
1 算法概述： 对于某测试样本，选择距离其最近的K个训练样本，将这K个训练样本中类别最多的标签作为此测试样本的标签，如下图所示： 绿色圆圈是测试样本，其他的是训练样本，KNN的思想就是基于距离的方法，主要是其中K的确定。如上图所示，如果假设K=3，则绿色测试样本就视为与红色小三角一个类别，如果假设K=5，则绿色测试样本就视为与蓝色小矩形一个类别。 算法优点：算法思想简单；精度高 算法缺点
机器学习实战（一）：KNN
John的博客
04-16 383
转载自Python3《机器学习实战》学习笔记（一）：k-近邻算法(史诗级干货长文) 一.电影分类 # -*- coding: UTF-8 -*- import operator import numpy as np """ 函数说明:创建数据集 Parameters: 无 Returns: group - 数据集 labels - 分类标签 """ def c...
机器学习实战——KNN（K近邻算法）
qq_36393555的博客
10-10 553
首先，这篇博客是根据《机器学习实战》这本书写的，代码只是略有不同。书上的代码是python2.7版本的，我的python3.6有的用不了，各种问题。所以把我已经运行没问题的代码贴上来，再加上自己的一点注释。即是帮自己再次理解，也是帮助有可能因为问题运行不了的小伙伴。 KNN原理：根据已经有标签已经有类别的数据，凭借新输入样本与其最近的K个样本的类别来预测新输入的样本的类别。 先
机器学习实战——kNN
louishao的博客
05-21 1186
最近在学习机器学习算法，感觉有本书写得很不错——《机器学习实战》，如果有一点基础去看这本书，然后在结合书中实例进行实践，还是很有收获的。 之后，可能会不定时的更新此书的相关内容，主要内容参考此书，夹杂一些我自己实践中的经验。 KNN算法 本书介绍的第一个机器学习算法是kNN算法，这个算法比较基础，简单易懂。 实现的主要步骤： (1)收集数据。 (2)准备数据：使用python解...
机器学习实战——KNN算法
wxw_csdn的博客
10-24 428
机器学习实战——KNN算法k近邻算法的原理 k近邻算法的原理 k 近邻算法的工作机制非常简单:对给定的测试样本，基于某种距离度量找出训练集中与其最靠近的 k 个训练样本，然后基于这 k 个"邻居"的信息来进行预测。通常， 在分类任务中可使用"投票法" ，即选择这 k 个样本中出现最多的类别标记作为预测结果；
机器学习实战——knn（sklearn实现）
gy的博客
07-30 549
数据来源：请点击这里 代码： from sklearn.metrics import precision_score, recall_score, f1_score, accuracy_score from sklearn.model_selection import train_test_split from sklearn.preprocessing import scale import numpy as np import pandas as pd import matplotlib.pyplot
《机器学习实战》(一) —— kNN
Vinson的博客
09-22 671
文章目录资料kNN步骤知识点简易kNN算法海伦约会难点读取txt文件法一 : open打开法二 : pandas (不熟)字符串类别格式需转为数字格式matplotlib显示中文乱码问题数字识别 资料 Jack-Cherish 笔记 《机器学习实战》 kNN 步骤 1 计算未知点与样本的距离 2 距离递增排序 3 根据排序结果选出前K个样本 4 确定前k个样本的出现频率 5 频率最高的点的类别为结果 知识点 1 axis=0 #按行，向下压 axis=1 #按列，向右压 2 返回排序后的索引 In [2
机器学习入门：KNN算法详解与实战演示
在这个文档中，作者深入探讨了机器学习中的经典算法——K近邻(KNN)。KNN是一种监督学习方法，主要应用于分类问题，其基本原理是基于实例的学习。算法的核心思想是，给定一个未标记的新样本，通过计算它与已知分类...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值