机器学习笔记（二）：KNN

最新推荐文章于 2025-10-15 21:25:35 发布
原创 最新推荐文章于 2025-10-15 21:25:35 发布 · 166 阅读 · 0 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

此博客为机器学习笔记，聚焦KNN相关内容，虽目前内容待续，但可推测后续会围绕KNN在机器学习中的应用、原理等信息技术关键信息展开。

待续……

机器学习笔记1：KNN算法
Cqh__的博客
05-18 1132
机器学习笔记1：KNN算法 K近邻法（k-nearest neighbor) 是一种基本的分类与回归法 主要思想：假定给定一个训练数据集，其中实例标签已定（即输入输出都明确），当输入新的实例时，可以根据其最近的k个训练实例的标签，预测新的实例对应的标注信息。 分类问题：对新的实例，根据与之相邻的k个训练实例的类别，通过多数表决等方式进行预测 from sklearn.neighbors import KNeighborsClassifier # 模型训练 k = 5 clf = KNeighborsCl
机器学习算法笔记——KNN
sinat_34326100的博客
03-29 931
KNN，最简单的机器学习算法
机器学习笔记1：KNN算法解决分类问题
qq_44161734的博客
04-29 1572
前言 这是鄙人第一次写优快云，也是第一次用MarkDown，所以有哪里写得不恰当的地方，希望佬们可以在评论区指点。非常感谢！！！ 这篇博客主要是想记录一下自己的python机器学习时用到的K近邻算法，也希望可以做成自己的学习笔记系列，如果可以给大家带来一点帮助也是我的荣幸之至。 一、K近邻算法是什么？ K近邻算法 二、如何使用K近邻算法处理数据 1.载入数据 这里采用的数据是kaggle官网上的数据，这里给出数据的链接：`https://www.kaggle.com/c/facebook-v-predi
机器学习笔记一：k-近邻算法（kNN）
最新发布
2403_87569770的博客
10-15 876
特征说明算法类型监督学习任务类型分类 + 回归模型特征无需训练，是一种懒惰学习优点直观、简单、无假设缺点对样本规模敏感，计算量大，对噪声敏感1. kNN算法核心思想一个样本的类别（或回归值）由它周围距离最近的k 个样本的多数类别（或平均值）决定。2. 算法步骤（以分类为例）（1）计算距离：计算待预测样本与训练集中所有样本的距离（常用欧氏距离）。欧氏距离公式（对于两个n维向量 x=(x1, x2, …, xn) 和 y=(y1, y2, …
【数学建模学习笔记】机器学习分类：KNN分类
YZYZYYNO_2的博客
09-04 862
KNN分类算法是一种简单直观的监督学习方法，核心思想是根据样本的K个最近邻进行类别预测。本文详细介绍了KNN的实现步骤：数据准备（加载、预处理、标准化）、特征标签划分、模型训练与评估（准确率、分类报告），并提供了Python代码示例。同时讨论了K值选择（平衡过拟合与欠拟合）和距离计算方法（欧氏距离为主）。文章还分析了KNN的优缺点：简单易实现但计算量大，适合多分类但对高维数据效果不佳。通过3D可视化展示了分类结果，帮助理解算法原理。
传统机器学习笔记2——KNN算法
chase
10-14 2014
传统机器学习笔记2——KNN算法
机器学习实战笔记：KNN
liuxuejiang158的专栏
01-09 2946
1 KNN算法：       优点：精度高，对异常值不敏感，无数据输入假定        缺点：计算复杂度高，空间复杂度高       适用数据范围：数值型和标称型       算法原理：先给定训练集A，当一个测试集样本t，选择t与A中距离最近的k个训练样本(k通常不大于20),选择这些训练样本中出现次数最多的标签作为t的新标签。
机器学习笔记：kNN算法
TcD的博客
07-26 512
k-近邻算法 优点：精度高、对异常值不敏感、无数据输入假定。 缺点：计算复杂度高、空间复杂度高 适用数据范围：数值型和标称型 k的含义：我们只选择样本数据集中前k个最相似的数据，通常不大于20，在这k个数据集中选择出现次数最多的分类作为新数据的分类。 kNN算法有很多不同类型，这里介绍的是利用字典存储每个标签出现的频率，operator操作键值进行排序，返回出现最多的分类名称的方
《机器学习实战》笔记：KNN算法
zhang_cherry的博客
01-15 311
1、KNN算法介绍 KNN全称K-Nearest Neighbor，K-近邻算法。它是一种分类算法，通过测量不同特征值之间的距离进行分类。 优点：精度高、对异常值不敏感、无数据输入假定 缺点：计算复杂度高、空间复杂度高 适用数据范围：数值型和标称型 2、KNN算法实现步骤 计算测试数据与训练集之间的欧式距离（distance = sqrt(a-x1)**2 + (b-y1)**2） 将距离distance从小到大排序 取前K个距离最小值，并统计这些数据的类别出现次数 次数最大的那个类.
机器学习学习笔记8：银行客户流失预测
2202_75369126的博客
07-31 1664
本研究基于银行客户数据集构建了多种机器学习模型预测客户流失。通过数据预处理（异常值处理、SMOTE过采样）和特征工程后，对比了决策树、逻辑回归、XGBoost和神经网络的性能。结果显示XGBoost表现最佳（AUC=0.92，F1=0.67），SHAP分析发现年龄、产品数量、活跃度和性别是重要特征。研究为银行客户关系管理提供了有效预测工具，并建议未来扩展数据维度、尝试深度学习方法以进一步提升模型性能。
精选资源
机器学习笔记2-KNN
01-06
KNN-k最近邻 KNN(K-NearestNeighbor)–k最近邻，NN代表神经网络的意思 k最近邻，就是k个最近的邻居的意思，说的是每个样本都可以用它最接近的k个邻居表示 核心思想：如果一个样本在特征空间中的k个最相邻的样本中的...
【机器学习期末复习笔记】：快速了解机器学习的内容
08-19
内容概要：本文档《机器学习.pdf》系统介绍了多种机器学习算法及其应用场景，涵盖KNN、决策树、朴素贝叶斯、逻辑回归、SVM、集成学习（如Adaboost）、聚类（如K-Means和DBSCAN）、PCA和SVD等。文档详细解释了各算法...
精选资源
《机器学习实战》kNN学习笔记（一）
01-20
《机器学习实战》中的k-近邻(kNN)算法是一种基于实例的学习方法，它通过比较新样本与已知类别样本的距离来决定新样本的类别。本文主要探讨kNN算法的基本概念、优缺点以及一般流程，并提供一个简单的Python实现示例。...
数据不平衡：下采样、上采样python代码实现
热门推荐
xiaoxy97的博客
09-29 2万+
一、下采样 所有数据存在DataFrame对象df中。数据分为两类：多数类别和少数类别，数据量相差大。数据预处理已将多数类别的Label标记为1，少数类别的Label标记为0。从多数类中随机抽取样本（抽取的样本数量与少数类别样本量一致）从而减少多数类别样本数据，使数据达到平衡的方式。 import numpy as np import pandas as pd def lower_sam...
梯度下降法python+numpy实现
xiaoxy97的博客
10-11 2865
批量梯度下降法(Batch Gradient Descent, BGD)：使用所有样本在当前点的梯度值来对变量参数进行更新操作。 随机梯度下降法(Stochastic Gradient Descent, SGD)：在更新变量参数的时候，选取一个样本的梯度值来更新参数。 小批量梯度下降法(Mini-batch Gradient Descent, MBGD)：集合BGD和SGD的特性，从原...
机器学习笔记（七）：SVM
xiaoxy97的博客
10-11 2033
一、前导 1、最优化问题 最优化问题一般是指对于某一个函数而言，求解在其指定作用域上的全局最小值问题，一般分为以下三种情况(备注：以下几种方式求出来的解都有可能是局部极小值，只有当函数是凸函数的时候，才可以得到全局最小值)： ①无约束问题：求解方式一般求解方式梯度下降法、牛顿法、坐标轴下降法等； ②等式约束条件：求解方式一般为拉格朗日乘子法 拉格朗日乘子法求解 ③不等式约...
机器学习笔记（六）：聚类算法
xiaoxy97的博客
10-03 1377
一、聚类算法总括 1.1  定义 对大量未标注的数据集按数据内部存在的数据特征划分为多个不同类别，使类别内数据比较相似，类别间数据相似度比较小。 1.2  和分类算法区别 分类算法：有监督学习 聚类算法：无监督学习 1.3  样本相似度度量 1.3.1  闵可夫斯基距离(Minkowski) a. p=1：曼哈顿距离 b. p=2：欧氏距离（常用） c. p为无穷大：切比雪...
机器学习标准化处理小技巧
xiaoxy97的博客
07-09 522
数据标准化 StandardScaler (基于特征矩阵的列，将属性值转换至服从正态分布) 标准化是依照特征矩阵的列处理数据，其通过求z-score的方法，将样本的特征值转换到同一量纲下 常用与基于正态分布的算法，比如回归 数据归一化 MinMaxScaler （区间缩放，基于最大最小值，将数据转换到0,1区间上的） 提升模型收敛速度，提升模型精度 常见用于神经网络 Normalizer...
机器学习笔记（五）：XGBoost
xiaoxy97的博客
09-25 244
待续……
斯坦福机器学习课程笔记：矩阵向量乘法与机器学习概览
"本文主要介绍了矩阵向量乘法在机器学习中的应用，结合斯坦福大学2014年的机器学习课程进行阐述，并提到了海伦司招股书与年轻人小酒馆的拓展话题。" 在机器学习中，矩阵向量乘法是一项基础且至关重要的运算，它在多...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值