聚类算法(一)：K-Means算法（K均值）

K-Means算法（K均值）

一、概念补充

所谓聚类，就是将相似的事物聚集在一起，聚类试图将数据集中的样本划分为若干个通常是不相交的子集，每个子集称为一个“簇”，通过这样的划分，每个簇可能对应于一些潜在的类别。

1. 性能度量

对聚类结果，我们需要通过某种性能度量来评估其好坏。

聚类性能度量大致有两类。一类是将聚类结果与某个“参考模型”进行比较，称为“外部指标”；另一类是直接考察聚类结果而不利用任何参考模型，称为“内部指标”。

常用的外部指标有：Jaccard系数，FM指数，Rand指数。

常用的内部指标有：DB指数，Dunn指数。

1. 距离计算

通常我们是基于某种形式的距离来定义“相似度度量”，距离越大，相似度越小。

• 能直接在属性值上计算距离的属性，称为“有序属性”，常用“闵可夫斯基距离”：

给定样本与，距离为

（p=1时，即曼哈顿距离，p=2时，即欧式距离，p→∞时，即切比雪夫距离）

• 不能直接在属性值上计算距离的离散属性，称为“无序属性”，常用VD