【机器学习】必会算法之：K-mans

最新推荐文章于 2025-11-23 12:52:00 发布
置顶 最新推荐文章于 2025-11-23 12:52:00 发布
阅读量29 收藏
点赞数 1
CC 4.0 BY-SA版权
分类专栏： 【机器学习】&【深度学习】 文章标签： 机器学习 算法 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/wuyoudeyuer/article/details/154570035

K-means

1、算法概述

K-means 是一种经典的无监督学习聚类算法，由 Stuart Lloyd 在1957年提出。它通过迭代的方式将数据集划分为 K 个簇，使得每个数据点都属于离它最近的簇中心（质心）对应的簇。

2、算法原理

K-means 的核心思想是最小化簇内平方和（Within-Cluster Sum of Squares, WCSS），即让每个簇内的数据点尽可能紧凑，簇间的数据点尽可能分离。

3、基本概念

  • K值：预设的聚类数量
  • 质心（Centroid）：每个簇的中心点
  • 距离度量：通常使用欧几里得距离

4、算法步骤

  • 初始化：随机选择 K 个数据点作为初始质心
  • 分配阶段：将每个数据点分配到最近的质心所在的簇
  • 更新阶段：重新计算每个簇的质心
  • 迭代：重复步骤2-3，直到质心不再显著变化或达到最大迭代次数

在这里插入图片描述

5、数学公式

5.1 目标函数

了解本专栏 订阅专栏 解锁全文 超级会员免费看
最优聚类个数与内部平方和之间的关系及通过弯曲法确定最优聚类个数（使用R语言）
PixelNinja的博客
08-24 437
通过弯曲法，我们可以找到WCSS值下降速度明显变缓的聚类个数，该聚类个数被认为是最优的聚类个数。在R语言中，我们可以使用k-means算法进行聚类分析，并通过绘制WCSS与聚类个数k的关系图以及差异与聚类个数k的关系图来确定最优聚类个数。通过观察WCSS与聚类个数k的关系图，我们可以发现随着聚类个数的增加，WCSS值逐渐减小。从差异与聚类个数k的关系图中，我们可以找到最后一个较大的差异值对应的聚类个数。最后，我们可以使用确定的最优聚类个数重新执行k-means聚类，并查看最终的聚类结果。
机器学习—K-means聚类、密度聚类、层次聚类理论与实战
柳杰的博客
05-27 3261
文章目录引言一、K-means聚类1.算法原理2.算法模型常用参数、属性、方法介绍3.算法实战二、密度聚类—DBSCAN1.算法原理2. 算法参数、属性、方法介绍3.算法实战三、层次聚类1.算法原理2.算法参数、属性、方法介绍3.算法实战四、总结 引言   聚类是机器学习算法中“新算法”出现最多、最快的领域。一个重要的原因是聚类不存在客观标准。下面我们分别介绍K-means聚类、DBSCAN算法（密度聚类）、AgglomerativeClustering算法（层次聚类），GMM算法（高斯混合模型）。 一、K
无监督聚类 -- Kmeans
jiangshandaiyou的博客
02-25 1166
无监督聚类 – K-means Kmeans将数据划分为几个等方差的类，并且使类内方差最小（minimizing a criterion known as the inertia or within-cluster sum-of-squares），类间方差最大。 算法大致步骤（摘自 https://zhuanlan.zhihu.com/p/78798251?utm_source=qq）： 1.选择初始化的 k 个样本作为初始聚类中心 ； 2.针对数据集中每个样本 计算它到 k 个聚类中心的距离并将其分到距
python——聚类
平平淡淡，戒急用忍，一生学闭嘴。
04-01 1107
目录Cluster Analysis聚类分析Introduction to Unsupervised Learning无监督学习简介ClusteringDistance or Similarity Function距离或相似度函数Clustering as an Optimization Problem聚类是一个优化问题Types of Clustering聚类的类型Partitioning Me...
【Scikit-Learn 中文文档】聚类 - 无监督学习 - 用户指南 | ApacheCN
妳那伊抹微笑的专栏
11-23 1570
未标记的数据的 Clustering（聚类） 可以使用模块 sklearn.cluster 来实现。 每个 clustering algorithm （聚类算法）有两个变体: 一个是 class, 它实现了 fit 方法来学习 train data（训练数据）的 clusters（聚类），还有一个 function（函数），是给定 train data（训练数据），返回与不同 clusters（聚类）对应的整数标签 array（数组）。对于 class（类），training data（训练数据）上的标签可
【人工智能】—基于K-Means算法商场顾客聚类实战教程
2202_76035290的博客
06-20 2506
算法是一种基于中心的聚类方法，它试图找到数据点的K个簇，使得簇内的数据点尽可能相似，而簇间的数据点尽可能不同。K-Means算法基于最小化簇内误差平方和（Within-Cluster Sum of Squares, WCSS）来划分簇。簇内误差平方和是簇内所有点到簇中心的距离平方的总和。算法的目标是最小化所有簇的WCSS。
WordPress监控新工具：wp-dead-mans-snitch插件介绍
资源摘要信息:"wp-dead-mans-snitch是一个专为WordPress设计的插件，它集成了Dead Man's Snitch服务，用于监测WordPress的WP-Cron系统。WP-Cron是WordPress内置的定时任务系统，负责处理诸如自动更新、定时发布文章...
no-mans-sky-rice-i3wm:以No Man's Sky的色彩为主题的i3WM水稻
05-15
powerlevel9k 脚本： 适用于i3块的Spotify脚本 i3blocks的天气脚本 Powermenu它采用rofi或zenity 正常运行时间 您无需单独下载脚本...只需说出我从何处获得了脚本。 我已经更改了脚本中的某些内容，并且将头文件...
请用具体的数据，利用K-mans的算法分析，给出代码示例
05-24
K-means 算法是一种聚类算法，可以将数据集分成 K 个不同的类别。 以下是使用 Python 实现 K-means 算法的示例代码： ```python import numpy as np def kmeans(X, k, max_iters=100): m, n = X.shape ...
在K-Means算法中使用肘部法寻找最佳聚类数
就很秃然
04-23 5968
1.from scipy.cluster.vq import kmeans包的介绍： 输入 数据集和簇的数量 返回 聚类中心坐标（codebook）、观测值与生成的质心之间的平均（非平方）欧氏距离（distortion） 例1： import numpy as np from scipy.cluster.vq import vq, kmeans, whiten import matplotlib.pyplot as plt features = np.array([[1,1], .
SPSS26统计分析笔记——8 聚类和判别分析
心有所信，方能远行！
09-24 739
聚类分析是一种无监督学习方法，旨在根据数据的相似性将对象分组，目的是将相似的对象归为同一类，而将差异较大的对象分到不同的类中，常用于模式识别、市场细分等。判别分析是一种有监督学习方法，用于根据已知类别的样本建立分类模型，以此对未知类别的对象进行分类预测。聚类分析侧重发现自然分组，而判别分析则用于对已有分组进行分类或判断新对象的归类。
聚类模型——k-means
weixin_52640021的博客
12-26 4046
物以类聚，人以群分”，所谓的聚类，就是将样本划分为由类似的对象组成的多个类的过程。聚类后，我们可以更加准确的在每个类中单独使用统计模型进行估计、分析或预测；也可以探究不同类之间的相关性和主要差异。
K-Means算法
ws19920726的博客
04-28 1272
K-Means算法 算法步骤 K-Means算法，即K均值算法，是最常见的一种聚类算法。顾名思义，该算法会将数据集分为K个簇，每个簇使用簇内所有样本的均值来表示，我们将该均值成为‘质心’。具体步骤如下： 从样本中选择K个点作为初始质心 计算每个样本到各个质心的距离，将样本划分到距离最近的质心所对应的簇中。 计算每个簇内所有样本的均值，并使用该均值更新簇的质心。 重复步骤2与3，直到达到以下条件之...
R语言做聚类分析Kmeans时确定类的个数
热门推荐
bug在左，生活在右
07-25 2万+
R语言做聚类分析Kmeans时确定类的个数
K-Means使用详解（scikit-learn）
qq_34104548的博客
02-20 2万+
    K-means算法是最经典的聚类算法，本文对scikit-learn中的kmeans进行说明，以便以后使用。    要使用kmeans算法的话，首先需要进行import：from sklearn.cluster import KMeans    scikit-learn中，通过KMeans进行对象的新建，并传入算法参数进行参数设置。    传参详解    1、n_clusters : 聚类...
MySQL 聚类合并算法_机器学习之聚类算法
weixin_29345939的博客
02-18 1417
一、引言聚类算法是无监督学习，只需要数据，而不需要标记结果，通过学习训练，用于发现共同的群体。本文将介绍几种常见的聚类算法，包括K-means、层次聚类和GMM高斯混合模型等。1、聚类算法是什么给定n个训练样本(未标记)，如：{X1,X2,…,Xn}，同时给定聚类的个数K。目标：把比较“接近”的样本放到一个簇类(cluster)里，总共得到K个簇类(cluster)。2、如何衡量样本距离下面是几个...
【机器学习基础】Attention in Transformers：注意力机制
最新发布
安如衫的刷怪之路
11-23 608
原始 Transformer 结构采用 Encoder-Decoder，Encoder 负责上下文建模，Decoder 通过自回归生成输出，二者通过 Cross-Attention 相连。文章重点拆解 Self-Attention 的 Q、K、V 机制：用点积计算相关性并经缩放与 Softmax 得到权重，再对 V 加权求和得到上下文化表示；解释了为何需要独立的 Q/K/V 投影以打破对称、解耦语义并做信息过滤。
人工智能与机器学习：未来技术的颠覆性力量
2501_94058529的博客
11-19 896
摘要： 人工智能（AI）与机器学习（ML）已深度融入各行业，从自动驾驶、医疗诊断到金融风控和智能制造，展现出广泛的应用潜力。AI通过模拟人类智能执行复杂任务，ML则依赖数据自主优化算法，而深度学习（DL）进一步推动了图像、语音等非结构化数据的处理。尽管面临数据隐私、算法透明性和偏见等挑战，AI/ML的未来仍充满可能，量子计算等技术将加速其发展。随着技术进步，AI将成为推动社会变革的核心力量，重塑生活与工作方式。
Python在机器学习中的数据处理
2509_93946355的博客
11-22 459
后来学会用Pandas的isnull().sum()先摸清底细，发现不同字段得区别对待：数值型用fillna(mean())，分类变量干脆单独标成“未知”类别。特征工程才是真正拉开差距的地方。最近用featuretools库自动生成特征，通过对客户交易表进行深度特征合成，半小时就构造出“最近三个月退款率”这类业务特征，比手工效率提升十倍不止。后来坚持用Python这套工具链认真做完数据清洗、特征工程、数据标准化三板斧，哪怕用最简单的随机森林，效果都比在脏数据上跑XGBoost强得多。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Carl_奕然

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值