K-means算法优化（二分K-means算法）

最新推荐文章于 2025-02-04 18:19:18 发布
原创 最新推荐文章于 2025-02-04 18:19:18 发布 · 2.8k 阅读 · 29 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#机器学习 #K-means #K-均值算法 #二分k-means #二分k-均值

本文介绍了K-means算法的缺点，包括对噪声和孤立点的敏感性以及需要预设K值。二分K-means算法作为改进方法，通过不断划分和合并簇来优化聚类效果，降低SSE（误差平方和）。通过Python实现，二分K-means在西瓜数据集上的实验结果表明其优于传统K-means算法。

关注微信公众号【Microstrong】,我写过四年Android代码，了解前端、熟悉后台，现在研究方向是机器学习、深度学习！一起来学习，一起来进步，一起来交流吧！


本文同步更新在我的微信公众号里，地址：https://mp.weixin.qq.com/s?__biz=MzI5NDMzMjY1MA==&mid=2247484014&idx=1&sn=516cdf9ec77302c2c11d398469ddf3f1&chksm=ec6533ebdb12bafd09112e86d655435456bd3b91bc9e2edc062494e76d25938e98e75ea052d4#rd


目录：

（1）回顾K-means算法缺点

（2）二分K-means算法介绍

（3）用Python实现二分k-means算法

 

（1）k-means算法缺点


上一篇文章《聚类算法之K-means算法》中介绍了K-means算法所有知识点并指出K-means算法的缺点。今天我们来回顾一下K-means的这些缺点：

  1. 对噪声和孤立点数据比较敏

最低0.47元/天 解锁文章
【机器学习-14】K-means聚类算法：原理、应用与优化
qq_38614074的博客
04-07 10万+
在众多聚类算法中，K-means算法因其简单高效而备受青睐。K-means算法的基本思想是：通过迭代的方式，将数据划分为K个不同的簇，并使得每个数据点与其所属簇的质心（或称为中心点、均值点）之间的距离之和最小。具体来说，K-means算法的执行过程通常包括以下几个步骤：首先，随机选择K个数据点作为初始的簇质心；然后，根据每个数据点与各个簇质心的距离，将其分配给最近的簇；接着，重新计算每个簇的质心，即取簇内所有数据点的平均值作为新的质心；
分析kMeans、二分K-Means算法及肘部法则
热门推荐
Starbeing的博客
09-10 2万+
K-Means算法是聚类中的基础算法，也是无监督学习里的一个重要方法。其基本原理是随机确定k（人为指定）个初始点作为簇质心，然后将数据样本中的每一个点与每个簇质心计算距离，依据此距离对样本进行分配；之后将每次簇的质心更改为该簇内所有点的平均值。 普通的K-Means算法因为初始簇质心的随机性，很可能会收敛到局部最优。为解决这一情况，可以随机初始化若干次，取最好结果，但这种方法在初始给定k值较大的情...
k-means算法、性能及优化
datoutong_的博客
12-14 1万+
k-means算法、性能及优化 一、k-means算法简介 k-means是用来解决著名的聚类问题的最简单的非监督学习算法之一。 该过程遵循一个简易的方式，将一组数据划分为预先设定好的k个簇。其主要思想是为每个簇定义一个质心。设置这些质心需要一些技巧，因为不同的位置会产生不同的聚类结果。因此，较好的选择是使它们互相之间尽可能远。接下来将数据中的每个点归类为距它最近的质心，距离的计
k-means优化算法
03-07
使用k-means聚类算法，使用无监督聚类算法。
Kmeans以及优化的二分Kmeans
Welcome ! This is Guanpx's blog.
07-27 1951
利用kmeans算法进行非监督分类1.聚类与kmeans 引例:2004美国普选布什51.52% 克里48.48% 实际上，如果加以妥善引导，那么一有小部分人就会转换立场，那么如何找到这一小部分人以及如何在有限预算采取措施吸引他们呢？答案就是聚类(<<机器学习实战>>第十章) kmeans,k均值算法,属于聚类算法中的一种，属于非监督学习。 聚类中的一个重要的知识就是”簇”，简单说簇就是相似数据的集
【机器学习】K-Means算法优化
风口IT猪的成长录
07-23 4926
K-Means算法优化学习目标1. Canopy算法配合初始聚类1.1 Canopy算法配合初始聚类实现流程1.2 Canopy算法的优缺点2. K-means++3. 二分k-means4. k-medoids（k-中心聚类算法）5. Kernel k-means6. ISODATA7. Mini Batch K-Means8. 小结 学习目标 知道K-means算法的优缺点 知道Canopy、K-means++、二分K-means、K-medoids的优化原理 了解Kernel K-means、ISO
Kmeans算法的经典优化——mini-batch和Kmeans++
hdx柿子的博客
03-27 722
感谢参考原文-http://bjbsair.com/2020-03-27/tech-info/7090/ mini batch mini batch的思想非常朴素，既然全体样本当中数据量太大，会使得我们迭代的时间过长，那么我们 缩小数据规模 行不行？ 那怎么减小规模呢，很简单，我们随机从整体当中做一个抽样， 选取出一小部分数据来代替整体 。这样我们人为地缩小样本的规模，不就可以提升迭代的速度了？ ...
k-means算法课件ppt
09-28
k-means算法是一种广泛应用的无监督学习方法，主要用于数据聚类。它的主要目标是将数据集...对于k值的选择和算法的局限性，可以通过讨论实际案例来深入探讨，以帮助听众了解如何在实际问题中应用和优化k-means算法。
模式识别 K-Means算法 实现模式分类
04-20
K-Means算法是机器学习领域中一种广泛应用的无监督聚类方法，它主要用于将数据集中的样本点划分到不同的类别或簇中。在模式识别中，K-Means算法常用于对未知分类的数据进行自动分组，以便于后续分析和理解。Matlab...
机器学习Elkan K-Means算法原理、实现与应用：优化传统K-Means聚类效率与效果
最新发布
08-18
随后，详细介绍了Elkan K-Means算法如何通过三角形不等式优化距离计算，减少不必要的计算量，从而大幅提升聚类速度。文章还探讨了该算法的适用场景与局限性，特别是在稠密数据集上的优异表现，以及在稀疏数据和有...
K_means的改进：二分K_means算法
chenlang
01-06 1015
传统K_means算法存在的缺陷 （1）算法的初始中心点选择与算法的运行效率密切相关，而随机选取中心点有可能导致迭代次数很大或者限于某个局部最优状态；通常 k （2）K均值的最大问题是要求用户必须事先给出 k 的值，k 的选择一般都基于一些经验值和多次试验结果，对于不同的数据集，k 的取值没有可借鉴性。 （3）对异常偏离的数据敏感——离群点；K均值对 “ 噪声 ” 和孤立点数据都是敏感的，
基于遗传算法优化的利用kmeans对数据集聚类数（优化K）
09-06
之前找了很多利用遗传算法优化聚类数K值的程序，结果网上一堆程序不能用，只能自己写一个了。 该程序是基于matlab编写的，调用了kmeans函数和遗传算法工具箱，这个函数主要部分是在定义遗传算法的适应度函数上，最后取整数就是K值了。 程序附带了自己定义的排序函数，该函数的作用是先对一个矩阵里A列进行排序，然后在根据排序结果对B列进行排序，这样得到的最后结果是A\B列都排序的矩阵。
数据挖掘-K-Means算法
09-08
在数据挖掘中，K-Means算法是一种cluster analysis的算法，其主要是来计算数据聚集的算法，主要通过不断地取离种子点最近均值的算法。
matlab k-means 实现代码
06-25
用matlab实现的k-means代码，放在根目录下可以直接使用
K-means算法及其优化
xiedelong的博客
03-26 4195
本文摘选自：https://blog.youkuaiyun.com/google19890102/article/details/26149927https://blog.youkuaiyun.com/taoyanqi8932/article/details/53727841https://blog.youkuaiyun.com/gamer_gyt/article/details/48949227https://www.cnblog...
机器学习（聚类四）——K-Means的优化算法
张连海
03-20 7275
K-Means算法是最基本的一种聚类算法，也会有一些问题，前面的博客《机器学习（聚类二）——K-Means》中有介绍，这里就不详细说了。本篇文章介绍一下典型的优化算法。
K-means算法优化：三种进阶方法详解
Lostgreen的博客
02-04 1368
收敛速度慢陷入局部最优聚类结果不稳定K-means++通过概率选择随机选择第一个质心计算每个点到最近质心的距离DxD(x)Dx按概率Dx2D(x)^2Dx2选择下一个质心重复直到选出k个质心传统K-means需要每次迭代计算所有数据点，计算开销大。每次迭代随机采样一个小批量（mini-batch）仅用这批数据更新质心引入学习率逐步调整质心位置将数据映射到高维特征空间在高维空间执行K-means使用核技巧避免显式计算高维映射Kxyexp⁡−。
关于K-means的详细介绍和优化方法
PANHUBO的博客
11-17 936
http://wenku.baidu.com/link?url=D3vu4BoqwbBu8Zaxttr347Y-rmzxyPhDmA6HqMpva-bNhL9CGMF9PrUQljgepDbOGNhybPZY9g3cnni5seYu3ROIwjb5lyGngQVHPoct-P7 文章来自百度，比较简单但是值得一读。
K-Means算法及多种优化改进算法，聚类模型评估、面试总结
julinglan7642的博客
07-10 4942
一、聚类分析 聚类分析是根据在数据中发现的描述对象（数据）及其关系的信息，将数据划分成有意义或有用的组（簇）。其目标是： 组内的对象相互之间是相似的（相关的），而不同组中的对象是不同的（不相关的）； 组内的相似性（同质性）越大，组间差别越大，聚类就越好。 二、不同的聚类类型 1层次的（嵌套的）与划分的（非嵌套的） 划分聚类：简单地将数据对象集划分成不重叠的子集（簇），是的每个数据对象恰在一个子集中 层次聚类：允许簇具有子簇；层次聚类是嵌套簇的集合，组成一棵树 2互斥的、重叠的与模糊的 互斥的：每个对象都指派
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值