机器学习入门（11）——聚类(Clustering)

最新推荐文章于 2025-11-17 16:43:14 发布

原创

最新推荐文章于 2025-11-17 16:43:14 发布 · 2.7k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习 #聚类 #人工智能 #kmeans算法

K-均值算法（K-Means Algorithm）
优化目标（Optimization Objective ）
随机初始化（Random Initialization）
选择聚类数（Choosing the Number of Clusters）

在无监督学习中，我们需要将一系列无标签的训练数据，输入到一个算法中，然后我们告诉这个算法，快去为我们找找这个数据的内在结构给定数据。图上的数据看起来可以分成两个分开的点集（称为簇），一个能够找到我圈出的这些点集的算法，就被称为聚类算法。

K-均值算法（K-Means Algorithm）

K-均值是最普及的聚类算法，算法接受一个未标记的数据集，然后将数据聚类成不同的组。
K-均值是一个迭代算法，假设我们想要将数据聚类成n个组，其方法为:

首先选择K个随机的点，称为聚类中心（cluster centroids）；
对于数据集中的每一个数据，按照距离K个中心点的距离；
将其与距离最近的中心点关联起来，与同一个中心点关联的所有点聚成一类；
计算每一个组的平均值，将该组所关联的中心点移动到平均值的位置。
重复步骤2-4直至中心点不再变化。

在这里插入图片描述

Repeat {
   
   
for i = 1 to m
c(i) :

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

StriveQueen

关注关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

数学建模之聚类算法（K-means）

weixin_45876289的博客

04-24

3719

计算两条数据相似性时, Sklearn的K-Means默认使用的是欧式距离。如果要改变计算距离的公式时，可以改变K-means的源代码。结论：从这几次聚类的比较中可以看出，消费水平相近的省市聚集在一类。而北京、上海和广东很稳定的一直聚集在同一类中，在当k = 4时，这样的一种聚类可以比较明显的看出消费层级。、对于剩下的点，根据其与棸类中心的距离，将其归入最近的簇。个簇，使簇内具有较高的相似度，而簇间的相似度较低。、对于每个簇，计算所有点的均值作为新的聚类中心。年各个省份的消费水平在国内的情况。

kmeans算法入门案例以聚类中心数的确定

qq_51118755的博客

09-13

6717

在本次实验中，我们先使用make_blobs（）这个函数设置中心点并且生成了五个簇。生成的图像如下然后进入一个循环，设置不同的聚类中心点k的值，调用kmeans算法的一个接口进行分类，并且通过数据可视化的手段将结果表现在一张图片上。图片如下。

参与评论您还未登录，请先登录后发表或查看评论

机器学习之无监督学习：聚类

Mr_BigG的博客

01-22

770

【亲测免费】探索Leiden算法：社区检测的新视角

最新发布

gitblog_00058的博客

11-17

3101

是一个开源项目，由Vincent Traag开发，它提供了高效的Python实现，用于执行社区检测任务，特别是在复杂网络中。社区检测是网络科学的一个重要分支，旨在识别网络中的紧密相连的子群或“社区”，这些子群内的节点比与子群外的节点有更强的连接。 ## 项目简介 Leiden算法是对经典的 Louvain 方法的改进版。Louvain方法通过不断优化模块度（modularity）来找到网络的最

【模式识别与智能计算】第9章聚类分析

机器学习初学者必看，关注我，一起了解机器学习

02-23

1945

本章要点: 聚类的设计基于试探的未知类别聚类算法层次聚类算法动态聚类算法模拟退火聚类算法 9.1聚类的设计聚类分析是指事先不了解-批样品中的每一个样品的类别或者其他的先验知识,而唯一的分类根据是样品的特征,利用某种相似性度量的方法,把特征相同或相近的归为一类,实现聚类划分。例如，对于- -幅手写数字图像,如图9- 1所示,将相同的手写数字划分为一类,即聚类分析要解决的问题。本书从...

聚类中心部分

xsj2191139968的博客

11-13

1415

Ｋ均值聚类算法属于一种动态聚类算法，也称逐步聚类法，在聚类算法迭代之前，算法首先随机的从数据集中依次选取ｋ个数据对象作为ｋ个初始聚类中也，根据类中对象的均值，即聚类中也，依次将其他的数据对象划分到与其最近的聚类中也所在的类中，数据对象划分完毕，然后计算每个聚类的中心，更新聚类中心作为新的聚类中心点，迭代上述聚类过程。K均值聚类算法是由Mac Que提出的。K均值聚类算法是一种经典的划分聚类算法，Ｋ均值聚类算法是一种迭代的聚类算法，在迭代的过程中不断移动聚类中心，直到聚类准则函数收敛为止。

聚类

huipingx的博客

12-15

700

1.KMeans聚类选择想要聚成多少组。随机初始化中心点，计算该点与每个组中心之间的距离，然后将该点分类为其中心最接近它的组，对每个数据点进行分类。基于这些分类点，我们通过取组中所有向量的均值来重新计算组中心。重复这些步骤进行一定数量的迭代，直到组中心在迭代之间没有太大变化。 KMeans的优势在于它非常快，因为我们所做的只是计算点和组中心之间的距离。另一方面，KMeans有几个缺点。首先，必须...

机器学习经典无监督算法——聚类K-Means算法

m0_69045813的博客

01-17

1614

机器学习无监督学习算法之K-Means

机器学习自学笔记——聚类

m0_61787307的博客

03-13

1715

每个类中的样本点都有某些相似的特征。而分裂聚类正好相反，先将所有样本分到一个类之中，再将样本中距离最远的分到两个新的类。在上面的聚类算法的步骤中，“进行聚类”这一步骤中出现了“相似度度量”，这也是聚类算法中最重要的点。比如像我用图书的例子进行类比时，在“进行聚类”这一步说得就十分不清楚，因为我没法找到一个合适的标准去衡量图书之间的相似程度。需要注意的是，这里的“距离”是广义距离，并不仅仅是我们通常理解的。定义两个类任意样本之间的距离的平均为两类之间的距离。定义两个类的样本中心之间的距离为两类之间的距离。

机器学习——聚类——距离聚类法——K-means

热门推荐

PRINCE2327的博客

11-20

2万+

目录理论部分1.1 聚类概念1.1.1 定义1.1.2 与分类的区别1.2 相似度测量1.2.1 欧式距离1.2.2 马氏距离1.3 聚类准则1.3.1 试探方法1.3.2 聚类准则法1.4 常见聚类方法1.5 K均值聚类1.5.1 K均值聚类思想1.5.2 K均值聚类流程1.5.3 实例1.5.4 K均值聚类优点1.5.5 K均值聚类缺点1.6 评估指标代码部分2.1 K均值代码实现2.2 评估指标代码实现2.3 整体实现理论部分 1.1 聚类概念 1.1.1 定义定义：对一批没有标出类别的模式样本

机器学习——聚类——密度聚类法——OPTICS

PRINCE2327的博客

12-05

8782

目录理论部分1.1 提出背景1.2 OPTICS算法1.2.1 基本概念理论部分 1.1 提出背景在DBSCAN算法中，需要人为确定领域半径ϵ\epsilonϵ和密度阈值MMM,同时该算法的性能又对这两个超参数非常敏感，不同的初始参数设定会导致完全不同的结果。基于此，学者们提出了新的聚类算法OPTICS。该聚类算法同样也是基于密度聚类的算法，与DBSCAN不同的是，该算法的设计使得其对初始超参数的设定敏感度较低。 1.2 OPTICS算法 1.2.1 基本概念 ·核心距离一个对象ppp的核心距离定义为

K-means聚类算法初始聚类中心确定 matlab实现

03-18

改进的K-means聚类算法初始聚类中心确定，采用matlab实现，2016a的matlab，直接打开文件、添加路径就可以使用了。

K中心点聚类算法

12-25

最传统的K中心点聚类算法，具有易陷入局部最优和随机选取质心的缺点

kmeans设置中心_基于kmeans的聚类算法—机器学习(四)

weixin_39526741的博客

11-20

674

1. k-means算法思想k-means算法中文名叫做k均值。它是一种非监督聚类算法，如有一堆数据，但是知道这些数据有k个类，具体每一个数据点所属分类不知道。此时就需要用k-means聚类算法，它可以把原先的数据分成k个部分，相似的数据就聚在一起。2. k-means算法步骤共有3个步骤：初始化–随机生成K个初始“均值”(质心);分配–通过将每个观测值与最近的质心相关联来创建K个聚类,...

机器学习笔记（十一）-聚类（Clustering）

zxq997997的博客

03-16

3233

聚类

聚类中心的选取-ChatGPT4o作答

qq_46215223的博客

11-13

930

聚类中心的选取是聚类算法中影响聚类效果的关键因素之一。

机器学习_聚类

qq_34229228的博客

05-28

1670

1.观察距离最近样本点是否分类准确 import numpy as np def find_closest_centroids(X, centroids): K = centroids.shape[0] m = X.shape[0] idx = np.zeros(m) #用来存放每一个样本点的索引号 # ===================== Your Co...

探索数据的星群：SKlearn聚类中心计算方法全解析

2401_85762266的博客

07-08

1135

在数据科学和机器学习领域，聚类是一种将数据集中的样本分组的无监督学习方法，其目的是使得同一组内的样本相似度高，而不同组间的样本相似度低。Scikit-learn（简称sklearn），作为Python中一个功能丰富的机器学习库，提供了多种聚类算法，这些算法可以用来计算数据的聚类中心。本文详细介绍了sklearn中不同的聚类算法及其计算聚类中心的方法，并提供了实际的代码示例。层次聚类是一种基于树状的聚类方法，可以是凝聚的（自底向上）或分裂的（自顶向下）。

关于mahout中的canop聚类

nuoline的专栏

02-25

1021

1.Canopy聚类 Canopy聚类是一种简单、快速、但不太准确的聚类方法。该算法需一种快速的近似距离度量方法和两个距离阈值T1>T2。 while(没有标记的数据点){ 选择一个没有强标记的数据点p 把p看作一个新Canopy c的中心离p距离离p距离 } Canopy聚类常作为更强聚类方法的初始步骤。 mahout Canopy聚类实现，采用了两

机器学习——聚类算法合集

05-28

### 机器学习中聚类算法的集合与综述聚类算法是机器学习领域中的一个重要分支，其主要目标是将未知标签数据集中的样本分成不同的组别（簇），使得同一组内的样本相似度较高，而不同组之间的相似度较低[^3]。以下是对几种常见聚类算法的总结和介绍： #### 1. 基于传统方法的聚类算法传统的聚类算法主要包括 K-Means、层次聚类（Hierarchical Clustering）、DBSCAN（Density-Based Spatial Clustering of Applications with Noise）等。这些算法在结构化数据上表现良好，并且实现相对简单。 - **K-Means**：K-Means 是一种基于划分的聚类算法，它通过迭代优化簇中心来最小化簇内样本的距离平方和。其实现可以通过 Python 的 `sklearn.cluster.KMeans` 模块完成[^4]。 ```python from sklearn.cluster import KMeans kmeans = KMeans(n_clusters=3) kmeans.fit(X) ``` - **层次聚类**：层次聚类分为凝聚型和分裂型两种，分别从单个点开始逐步合并或从整体开始逐步分裂。这种方法可以生成树状图（Dendrogram），帮助理解数据的层级关系。 - **DBSCAN**：DBSCAN 是一种基于密度的聚类算法，能够识别任意形状的簇，并对噪声数据具有较强的鲁棒性。其核心思想是通过邻域密度定义簇。 #### 2. 基于深度学习的聚类算法随着深度学习的发展，基于深度学习的聚类算法逐渐成为研究热点。这类算法结合了神经网络的强大特征提取能力与聚类的目标函数优化。 - **自编码器聚类**：自编码器（Autoencoder）是一种无监督学习模型，通过压缩和重建输入数据来学习低维表示。自编码器聚类通常结合 K-Means 或其他传统聚类方法使用，以提升聚类效果[^1]。 - **变分自编码器聚类**：变分自编码器（VAE）引入了概率生成模型的思想，能够在隐空间中生成新的数据样本。变分自编码器聚类通过最大化后验概率来实现聚类目标。 - **深度聚类网络（Deep Clustering Network, DCN）**：DCN 结合了深度神经网络和聚类算法，通过端到端的方式优化特征表示和聚类分配。 - **生成对抗网络聚类（GAN-based Clustering）**：生成对抗网络（GAN）通过生成器和判别器的对抗训练生成逼真的数据样本。GAN 聚类则利用生成器生成的分布信息进行聚类分析。 #### 3. 大规模数据处理中的聚类算法对于大规模数据集，传统的聚类算法可能无法满足性能需求。Spark 等分布式计算框架提供了多种高效的聚类算法实现[^2]。 - **K-Means on Spark**：Spark MLlib 提供了分布式版本的 K-Means 实现，能够处理海量数据集。 - **Bisecting K-Means**：二分 K-Means 是一种递归的聚类方法，每次将一个簇划分为两个子簇，直到达到指定的簇数。 - **Gaussian Mixture Model (GMM)**：GMM 是一种基于概率模型的聚类方法，假设数据由多个高斯分布组成。 #### 4. 总结聚类算法的选择取决于具体应用场景和数据特性。传统聚类算法适合结构化数据，而基于深度学习的聚类算法更适合复杂特征的学习。大规模数据处理场景下，分布式聚类算法能够显著提升效率。 ```python from sklearn.cluster import DBSCAN dbscan = DBSCAN(eps=0.5, min_samples=5) dbscan.fit(X) ```