数据聚类:理论、算法与应用
1. 定义
聚类分析(Cluster Analysis)是一种将一组对象划分为若干个簇(clusters)的方法,使得同一簇内的对象彼此非常相似,而不同簇之间的对象则差异较大。聚类分析也被称为簇分析、分割分析、分类分析或无监督分类。聚类分析的核心目标是揭示数据的内在结构,从而帮助我们更好地理解和解释数据。
2. 词汇
2.1 记录和属性
在聚类分析中,数据集通常由多个记录(records)组成,每个记录包含多个属性(attributes)。例如,一个客户数据集可能包含客户的年龄、性别、收入等多个属性。这些属性可以是数值型、分类型或二进制型等。
2.2 距离和相似性
衡量数据点之间的相似性和差异性是聚类分析的关键步骤之一。常用的相似性度量方法包括欧几里得距离、曼哈顿距离、余弦相似度等。例如,欧几里得距离公式如下:
[
d(x, y)= \left( \sum_{j=1}^{d} (x_j - y_j)^2 \right)^{\frac{1}{2}}
]
2.3 簇、中心和模式
在聚类分析中,簇(clusters)是指一组相似的对象。簇的中心(center)通常是簇中所有对象的平均值或中位数。模式(mode)则是指簇中最频繁出现的对象。例如,对于数值型数据,Lorr(1983)提出存在两种类型的簇:紧凑簇和链式簇。紧凑簇可以通过一个代表点或中心来表示,而链式簇中的任意两个数据点可以通过一条路径连接。
2.4 硬聚类和模糊聚类
硬聚类(Hard Clusteri