聚类算法之K-means算法

最新推荐文章于 2025-10-01 14:36:59 发布
原创 最新推荐文章于 2025-10-01 14:36:59 发布 · 1.4k 阅读 · 3 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #聚类算法 #K均值 #k-means

本文介绍了K-means聚类算法的原理，包括聚类定义、相似度计算方法如欧式距离和曼哈顿距离，以及K-means的优缺点、对初始质心敏感的问题和K-means++的改进。此外，讨论了K值选择、K-means在处理异常点的局限性及其在大数据集上的效率。

关注微信公众号【Microstrong】,我写过四年Android代码，了解前端、熟悉后台，现在研究方向是机器学习、深度学习！一起来学习，一起来进步，一起来交流吧！


本文同步更新在我的微信公众号里，地址：https://mp.weixin.qq.com/s?__biz=MzI5NDMzMjY1MA==&mid=2247483987&idx=1&sn=6df96c39e5c1c055a6823c09afea354e&chksm=ec6533d6db12bac05efa7229f4812ae773f80d2970f023506c96fb0bab8e7949df5bb207a7a8&scene=0#rd


目录：

（1）      理解相似度度量的各种方法与相互联系（熟悉闵可夫斯基距离，其他作为了解）

（1）      掌握K-means聚类的思路和使用条件

 

（一）  聚类的定义

聚类就是对大量未知标注的数据集，按数据的内在相似性将数据集划分为多个类别，使类别内的数据相似度较大而类别间的数据相似度较小。聚类是无监督学习。

 

（二）  相似度、距离计算方法总结

相似度跟距离是相反的概念。如果两个样本Xi与Xj ,它们的距离比较大，那么它们的相似度是比较小的。总之，我们有了相似度就能度量距离，有了距离就能度量相似度。

（1）闵可夫斯基距离

给定样本Xi = (Xi1;Xi2;Xi3;……Xin)与X

最低0.47元/天 解锁文章
k-means-constrained:K均值聚类-受最小和最大聚类大小限制
05-18
k均值约束 K-均值聚类实现，可以为每个聚类指定最小和/或最大大小。 通过将K-means实现公式化为最小成本流（MCF）线性网络优化问题，它可以修改集群分配步骤（EM中的E）。 然后，使用成本缩放推入重新标记算法解决此问题，并使用这是一种快速的C ++实现）。 该软件包的灵感来自 。 Bradley等人提出的原始最低成本流（MCF）网络。 已被修改，因此最大群集大小和最小群集大小也可以指定。 该代码基于并实现了相同的 。 参考： 安装 您可以从PyPI安装k-means-constrained： pip install k-means-constrained 在Python 3.6及更高版本中受支持。 例子 可以在API文档中找到更多详细信息。 >> > from k_means_constrained import KMeansConstrained >> > i
Kmeans 算法 收敛
u014096903的博客
12-10 8948
转载自https://ask.julyedu.com/question/143?notification_id=10011 仅mark，侵删     下面我们来聊一下K-means。 我们要知道，其实K-means是一种为了简化计算以及加快收敛速度的近似算法，为什么？你看算法在距离上的定义 D=||xk−μ^i||2 是不是很熟悉呢，对的就是欧式距离 凭什么要用欧式距离？用别的距离不...
机器学习——聚类kmeans算法详解
最新发布
m0_74069207的博客
10-01 894
摘要 本文介绍了聚类算法的基本原理和实现方法，重点讲解了KMeans算法的实现流程。主要内容包括：1) 聚类算法分类，包括KMeans、层次聚类、DBSCAN和谱聚类等方法；2) KMeans算法的详细步骤，包括初始质心选择、距离计算、质心更新等过程；3) 聚类效果评价指标，如SSE误差平方和、SC系数、CH系数等；4) 肘部法确定最佳聚类数的方法；5) 客户数据分析案例，展示了从数据预处理到聚类的完整实现过程。文章通过图解和代码示例直观展示了聚类算法的应用。
【算法】K-Means聚类算法（k-平均或k-均值）
weixin_34221773的博客
08-24 388
1.聚类算法和分类算法的区别 a)分类 分类(Categorization or Classification)就是按照某种标准给对象贴标签(label)，再根据标签来区分归类。 举例： 假如你有一堆动物的头像图片样本，想把它们进行分类，分成：猫，狗，鱼等。当在有新的动物图片进来之后，能够自动的识别出属于哪一类，这就是分类，而猫，狗，鱼等就是标签 b）聚类 聚类是指事先没有“标签”而通...
Kmeans方法聚类原理及详解
weixin_43224539的博客
12-14 2万+
** kmeans聚类详解 ** (1) kmeans简介 K-means算法是很典型的基于距离的聚类算法，采用距离作为相似性的评价指标，即认为两个对象的距离越近，其相似度就越大。该算法认为簇是由距离靠近的对象组成的，因此把得到紧凑且独立的簇作为最终目标。 k个初始类聚类中心点的选取对聚类结果具有较大的影响，因为在该算法第一步中是随机的选取任意k个对象作为初始聚类的中心，初始地代表一个簇。该算法在...
K-Means算法的收敛性和如何快速收敛超大的KMeans？
weixin_34219944的博客
06-08 1483
    　　 　　不多说，直接上干货！   　　面试很容易被问的：K-Means算法的收敛性。 　　在网上查阅了很多资料，并没有看到很清晰的解释，所以希望可以从K-Means与EM算法的关系，以及EM算法本身的收敛性证明中找到蛛丝马迹，下次不要再掉坑啊。         EM算法的收敛性 1.通过极大似然估计建立目标函数：     通过EM算法来找到似然函数的极大值，...
聚类算法：K-means聚类图像分割
12-22
K-Means聚类是最常用的聚类算法，最初起源于信号处理，其目标是将数据点划分为K个类簇，找到每个簇的中心并使其度量最小化。该算法的最大优点是简单、便于理解，运算速度较快，缺点是只能应用于连续型数据，并且要在...
精选资源
K均值聚类即K-Means算法详解PPT
04-13
K均值聚类，也称为K-Means算法，是一种在数据挖掘和机器学习领域中应用广泛的无监督学习方法。通过聚类算法，我们可以将数据点分组成具有相似特性的簇，以揭示数据内在的结构和模式。K-Means因其简单高效而被广泛...
python实现鸢尾花三种聚类算法（K-means,AGNES,DBScan）
09-19
在鸢尾花数据集的例子中，我们可以使用`sklearn.cluster.KMeans`来实现K-means算法，并通过可视化结果来观察聚类效果。 ### 二、AGNES（凝聚层次聚类） AGNES（Agglomerative Hierarchical Clustering）是一种自底...
精选资源
K均值聚类(K-Means聚类)-聚类算法-聚类可视化-MATLAB代码
10-03
K均值聚类(K-Means聚类)-聚类算法-聚类可视化-MATLAB代码 本代码详细图文介绍，请点击博客主页查找对应文章查看。可保证运行，运行失败或报错免费解决。 ‌k均值聚类算法的基本概念和原理‌ ‌k均值聚类算法（k-...
精选资源
kmeans聚类算法和k-medoids聚类算法 matlab代码.rar
07-29
K-means是最为广泛使用的聚类算法之一，其目标是将数据集分割成K个不同的簇，每个簇内的数据点彼此相近，而不同簇间的数据点相距较远。这里的“近”通常是指欧氏距离。 **工作流程：** 1. 初始化：随机选择K个数据...
KMeans算法的收敛性分析
AI天才研究院
04-11 1153
K-Means算法的收敛性分析 作者：禅与计算机程序设计艺术 1. 背景介绍 K-Means聚类算法是一种广泛应用于数据分析和机器学习领域的无监督聚类算法。它通过迭代地将数据点划分到 K 个聚类中心周围，最终达到最优的聚类结果。K-Means算法简单高效,但其收敛性一直是业界关
k-means收敛的理解！
weixin_43867869的博客
05-01 5039
k-means收敛的理解！ K-means 首先，我们都介绍一下k-means的具体步骤： 1、首先，定义聚类个数参数K，然后初始原始的K个聚类中心点(可以采用随机，或者k-means++)； 2、遍历所有样本点，并计算其到各个聚类中心点的距离，然后选择距离最短的类别，并将样本点划分到该类别下； 3、当更新完毕所有点的类别后，重新计算每个类别的聚类中心点； 4、重复step2-step3，直到聚类中心点不再发生变化，或者达到一定的迭代次数。 =================================
kmeans算法
haimianjie2012的专栏
09-05 891
K均值算法的步骤、 选取初始聚类中心 通过计算距离进行聚类 重新计算聚类中心 重复2和3直到聚类中心不发生改变（或变化小于一定阈值）或者达到迭代次数上限。 K均值优缺点、 优点：1.原理简单，容易实现，收敛速度快，可解释性强；2.需要调节的参数较少（主要是聚类簇数K），且聚类效果好。 缺点：1.聚类簇数K不好把握，一般只能通过暴力搜索法来决定；2.只适合簇型数据，对其他类型数据聚类效果...
k-means聚类算法原理简析
热门推荐
Dhane的博客
01-26 8万+
k-means聚类算法原理简介概要算法思想算法流程图解代码实现 概要 K-means算法是最普及的聚类算法，也是一个比较简单的聚类算法，所以刚接触的同学不要感到害怕。算法接受一个未标记的数据集，然后将数据聚类成不同的组，同时，k-means算法也是一种无监督学习。 算法思想 k-means算法的思想比较简单，假设我们要把数据分成K个类，大概可以分为以下几个步骤： 随机选取k个点，作为聚类中心； ...
kmeans聚类算法_聚类算法之Kmeans
weixin_39857513的博客
11-18 2927
本篇大纲：1、背景知识：一些常见的距离度量/相似度计算方式2、聚类算法之Kmeans3、kmeans优缺点及其改进4、kmeans的简单代码实现上上期回顾1、我们先做了基本铺垫，对于最值求解问题进行三种类别划分，包括无约束问题，等式约束问题和不等式约束问题，并简单阐述对应的求解方式。2、我们从感知器出发，简单阐述其二分类原理，从而明白SVM是从何算法改进而来。3、我们从svm的两个核心目...
K-means聚类算法(基于轮廓系数来选择n_cluster)
xlperpetual的博客
01-13 7653
轮廓系数： 如果一个簇中的大多数样本具有比较高的轮廓系数，则簇会有较高的总轮廓系数，则整个数据集的平均轮廓系数越高，则聚类是合适的。如果许多样本点具有低轮廓系数甚至负值，则聚类是不合适的，聚类的超参数K可能设定得太大或者太小。 现在有这样的散点图，如果采用KMeans聚类的话，如何选择合适的n_cluster（簇）呢？ 我们先假设n_cluster=4 from sklearn.cluster ...
K-means算法
Allen的博客
08-12 720
聚类属于无监督学习，以往的回归、朴素贝叶斯、SVM等都是有类别标签y的，也就是说样例中已经给出了样例的分类。而聚类的样本中却没有给定y，只有特征x，比如假设宇宙中的星星可以表示成三维空间中的点集。聚类的目的是找到每个样本x潜在的类别y，并将同类别y的样本x放在一起。比如上面的星星，聚类后结果是一个个星团，星团里面的点相互距离比较近，星团间的星星距离就比较远了。      在聚类问题中，给我们
量子k-means聚类算法在D-wave环境的应用实现
在给定文件中提到的“量子k-means聚类算法代码”，是指将经典的数据聚类算法k-means与量子计算相结合，用于在量子计算机上实现k-means算法的量子版本。 k-means算法是一种广泛使用的聚类算法，它通过迭代地分配数据...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值