Elbow Method（肘部法则）

1. 肘部法则是什么？

肘部法则（Elbow Method）是一种启发式方法，用于在K-Means聚类（或其他基于簇数量的聚类算法）中选择最优的簇数量（K值）。其核心思想是通过计算不同K值下聚类的代价函数（通常是簇内误差平方和，Within-Cluster Sum of Squares，简称WSS），绘制K值与WSS的曲线，寻找曲线的“拐点”（形似肘部），即增加K值带来的收益（WSS下降）开始显著减少的点。这个点通常被认为是最佳的K值。

简单来说，肘部法则的目标是找到一个K值，使得聚类效果较好（簇内样本相似，簇间差异大），同时避免过多的簇导致模型过于复杂或过拟合。

---

2. 为什么需要肘部法则？

在K-Means聚类中，K（簇数量）是一个超参数，必须在运行算法前手动指定。但如何选择合适的K值是一个挑战：

• K太小：可能导致不同类别的样本被强制分到一个簇中，聚类效果差（欠拟合）。
• K太大：可能将同一类别的样本拆分成多个簇，增加计算复杂性，甚至导致过拟合。

肘部法则通过可视化和量化分析，帮助我们在“模型复杂度”和“聚类质量”之间找到平衡点。

---

3. 肘部法则的数学原理

肘部法则的核心是基于K-Means的代价函数，即簇内误差平方和（WSS）。我们先来了解WSS的定义。

3.1 簇内误差平方和（WSS）

WSS衡量的是每个簇内样本点到其簇中心的距离平方和，公式如下：

$\text{WSS}={\sum }_{i=1}^K{\sum }_{x\in C_i}\Vert x-{\mu }_i{\Vert }^2$

其中：

• KK