【机器学习】无监督学习--（聚类）K-Means肘部法则

已于 2023-03-07 23:56:55 修改
阅读量8.8k 收藏 54
点赞数 11
分类专栏： 机器学习 文章标签： python 机器学习 聚类 kmeans算法 无监督学习
于 2021-02-16 20:28:53 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.youkuaiyun.com/Roaddd/article/details/113826170
版权
本文深入探讨了K-Means算法的缺点，包括对初始质心选择的敏感性、k值选择的影响以及对非球形数据的局限性，并提出了通过多次随机初始化和肘部法则来优化聚类效果。通过代码实现展示了肘部法则选择最优k值的过程，以及K-Means算法的完整流程。此外，还提供了数据集和相应的损失函数曲线，以直观展示算法优化的效果。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

1. K-Means算法缺点

1）对k个初始质心的选择比较敏感，容易陷入局部最小值。如下面这两种情况。K-Means也是收敛了，只是收敛到了局部最小值。
在这里插入图片描述
2）k值得选择是用户指定的，不同的k得到的结果会有挺大的不同，如下图所示，左边是k=3的结果，蓝色的簇太稀疏了，蓝色的簇应该可以再划分成两个簇。右边的是k=5的结果，红色和蓝色的簇应该合并为一个簇
在这里插入图片描述
3）存在局限性，如下面这种非球状的数据分布就搞不定了。
在这里插入图片描述
4）数据量比较大的时候，收敛会比较慢。

2. K-Means算法优化<

了解本专栏 订阅专栏 解锁全文 超级会员免费看
【聚类】K-Means聚类（优缺点、手肘法、轮廓系数法、检测异常点、图像压缩，含代码实战）
学无止境、积少成多、厚积薄发
03-23 1万+
K-Means聚类（优缺点、手肘法、轮廓系数法、检测异常点、图像压缩，含代码实战）
使用肘部法则选择KMeans聚类中的k值
python收藏家的博客
12-05 1万+
任何无监督算法的基本步骤是确定数据可以被聚类到的聚类的最佳数量。因为我们在无监督学习中没有任何预定义数量的聚类。我们倾向于使用一些可以帮助我们决定最佳聚类数的方法。在K-Means聚类的情况下，我们使用肘部法则来定义最佳的聚类数。什么是K-Means聚类中肘部法则？如我们所知，在k-means聚类算法中，我们随机初始化k个聚类，并且我们迭代地调整这k个聚类，直到这些k-质心处于平衡状态。然而，在初始化这些集群之前，我们要做的主要事情是确定我们必须使用多少个集群。
Kmeans肘部法则确定K值
m0_53244394的博客
11-21 992
上次手写了Kmeans算法，但是关于分类数目K的取值，只是固定了两类，这次就手写一下Kmeans算法中K值的确定方法——肘部法则。介绍一个词WCSSWCSS是衡量聚类结果紧密程度的指标，表示每个样本点与其所属簇中心的距离平方和，简言之，就是样本类里面每个点到中心点的距离的平方，然后全部相加。
K-means 算法核心原理
最新发布
code旭的博客
03-07 828
中，使得每个样本到所属簇中心的。
K-means算法代码实现（python）
江南小帅瓜的博客
07-04 1万+
K-means算法代码实现以及解决质心选择问题 计算距离 距离通常使用欧几里得距离来衡量 def euclDistance(vector1, vector2): return np.sqrt(sum((vector2 - vector1) ** 2)) 初始化质心 def initCentroids(data, k): numSamples, dim = data.shape ...
k均值K-means算法案例，包括K=2和肘部法则及图形展示
02-09
k均值K-means算法案例，包括K=2和肘部法则及图形展示
使用肘部法则确定K-Means中的k值
跟着大数据和AI去旅行
09-11 3516
现在，为了确定最佳的聚类数（k），我们绘制了k与它们的WCSS值的关系图。为了确定聚类的最佳数量，我们必须选择“弯头”处的k值，即distortion/inertia开始以线性方式减小的点。在这种方法中，为了确定k值，我们连续迭代k=1到k=n（这里n是我们根据要求选择的超参数）。下面我们将分4步实现肘部法则。首先，我们将创建随机数据集点，然后我们将在此数据集上应用k均值，并计算1到4之间的k的wcss值。我们将k的值从1迭代到n，并计算每个k值的Distortion，给定范围内每个k值的Inertia。
KMeans算法，采用肘部法则获取类簇中心个数K的值。
weixin_46613998的博客
10-13 6587
K-Means是一种非常常见的聚类算法，在处理聚类任务中经常使用，K-Means算法是一种原型聚类算法。 该算法重要的一步就是确定K的值的划分，通常我们采用肘部法则选取K值，再依据轮廓系数，及各个数据集中数据的数量综合去评估哪个K值为最佳。 肘部法则 1 ）、对于n个点的数据集，迭代计算k from 1 to n，每次聚类完成后计算每个点到其所属的簇中心的距离的平方和； 2）、平方和是会逐渐变小的，直到k时平方和为0，因为每个点都是它所在的簇中心本身。 3）、在这个平方和变化过程中..
机器学习-python-实训-K 均值聚类的客户细分（CustomerSegmentation）-肘部方法TheElbowMethod-可视化的方法（EDA）
12-01
K 均值聚类（K-means clustering）作为一种常用的无监督学习算法，常被应用于客户细分领域。该算法通过迭代计算，将具有相似特征的客户分配到同一个类别中，从而实现对客户群体的有效划分。 肘部方法（The Elbow ...
机器学习基础算法 (八)-K均值聚类（K-Means Clustering）
海棠AI实验室
01-03 1491
K均值聚类是一种简单而高效的无监督学习算法，广泛应用于数据分析、模式识别等领域。尽管该算法具有较高的效率，但它也有一定的局限性，比如对初始簇中心的敏感性和对噪声点的敏感性。通过选择合适的K值、使用肘部法则或轮廓系数等方法，可以提高聚类的质量。通过本文的讲解，你应该能够理解K均值聚类的原理、实现过程，并能够在Python中应用该算法解决实际问题。希望本文对你学习K均值聚类有所帮助！AI基础机器学习基础算法 (一)-线性回归机器学习基础算法 (二)-逻辑回归。
【机器学习】机器学习的基本分类-无监督学习-K-Means聚类
IT古董
12-09 1351
K-Means 是一种基于划分的无监督学习算法，用于数据聚类任务，它通过迭代优化将数据分组为 k个互斥的簇，使得每个簇内数据点的相似性最大化，而簇间的相似性最小化。它通过最小化簇内样本点到簇中心的距离平方和（即误差平方和，SSE）来完成聚类任务。K-Means 是一种经典而高效的聚类算法，适合初学者和实际应用。通过改进方法和调参，可以应对不同类型的数据和应用场景。
Kmeans聚类算法-手肘法
01-08
Kmeans聚类算法-手肘法，jupyter notebook 编写，打开可以直接运行，使用iris等5个数据集，机器学习。
KMeans python 代码
12-04
使用python实现kmeans 算法，注释详尽。与sklearn中的kmeans算法的结果进行比较。
Python kmeans 源代码
11-11
Python 编写的 kmeans 聚类算法。
test4_k-means_K-Means聚类_k-means聚类算法_K._
09-29
K-Means是一种广泛应用的无监督机器学习算法，主要用于数据的聚类分析。它的目标是将数据集分割成K个不同的簇，每个簇内的数据点彼此相似，而不同簇之间的数据点差异较大。这里的“K”是预先设定的簇的数量，它对...
科研笔记第19期——K-means聚类（肘部法）_基于二维数据
weixin_53181946的博客
05-02 695
聚类中心的个数K需要事先给定，但实际中K值的选定是非常困难的，很多时候我们并不知道给定的数据集应该聚成多少个类别才最合适。针对这个缺点，通常我们会根据先前的经验选择一个合适的k值，如果没有先验知识，则可以使用“肘部法”来选择一个合适的k值。计算公式为式（2）。
聚类k值确定--肘部法则
m0_58625397的博客
03-01 2888
肘部法 k值确定
Kmeans算法肘部法则--Kmeans算法确定K值
热门推荐
feichong621的博客
10-12 3万+
肘部法则对于K-means算法的K值确定起到指导作用，很多人在用K-means算法的时候可能不知道如何确定K取多少比较好，在面试也会遇到K值确定的问题。肘部算法可以有效解决这个问题 简单叙述一下肘部法则，由左下图，y轴为SSE（Sum of the Squared Errors-误差平方和），x轴为k的取值，随着x的增加，SSE会随之降低，当下降幅度明显趋向于缓慢的时候，取该值为K的值。 1 ）对于n个点的数据集，迭代计算k from 1 to n，每次聚类完成后计算每个点到其所属 的簇中心的距离的平方和
kmeans的手肘法
qq_43679469的博客
12-31 2万+
关于kmeans的算法遇到有几个问题。还未解决，写个博客mark一下，也欢迎各位高手指点~ 中心点选取 在随机选取情况下，Kmeans算法可以实现，且优点为第一次选取中心点时，由于选择随机选取的算法，时间复杂度不高。但缺点为会出现两个中心点间隔近，k=4时，出现的结果和现象不符，如下图所示。这种情况出现概率约为1/10~1/15。 猜测：和点密集的聚集在（12，0）的领域，故两个中心点出现在...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值