机器学习 | K均值聚类(K-means Clustering)

本文从概念、应用场景、原理、工作流程、优缺点、应用实践、代码、可视化等几方面诠释 K 均值聚类模型

K均值聚类(KMC) | 机器学习 - Devean从概念、应用场景、原理、工作流程、优缺点、应用实践、代码、可视化等几方面诠释 K 均值聚类算法https://www.devean.cn/zh/blog/2023/machine-learning-k-means-clustering/

概述

K-Means 是一种无监督的聚类算法，其目的是将 n 个数据点分为 k 个聚类。每个聚类都有一个质心，这些质心最小化了其内部数据点与质心之间的距离。

它能做什么

• 市场细分: 识别具有相似属性的潜在客户群体。

• 图像分析: 图像压缩和图像分割中的像素聚类。

• 异常检测: 通过标识不符合标准集群特征的观测结果来检测异常。

• 基因表达数据分析: 对基因进行聚类以识别具有相似表达模式的基因家族。

原理

初始化： 随机选择 k 个数据点作为初始聚类中心，这些可以是数据集中实际存在的点，也可以是随机生成的点。

• K-Means++: 为了避免随机初始化可能导致的不良结果，K-Means++ 策略通过特别选择远离其他中心的起始中心来优化初始聚类中心的位置。

分配： 遍历样本数据集，计算每个数据点到每个质心的距离，找出数据点距离最近的质心，将数据点分配给该聚类。

• 公式

  设 是第 i 个集群， 是第 i 个集群的中心，目标是最小化所有数据点和其所在集群中心之间的平方距离之和：

更新： 计算每个聚类内的平均值，并将平均值设为新的聚类中心。

假设我们有一个聚类 ，其中包含数据点 ，那么该集群的质心