16、基于密度的聚类算法及 kNN 质心聚类算法详解

基于密度的聚类算法及 kNN 质心聚类算法详解

1. 基于密度的聚类相关文献综述

基于密度的聚类算法是数据聚类中非常流行的一个分支，它依靠局部密度准则来形成聚类，能够检测出不同形状、大小和密度的聚类。

1.1 早期基于网格的方法

早期的基于密度的聚类方法将数据空间划分为多个不重叠的网格单元，把包含相对较多对象的单元视为潜在的聚类中心，周围是低密度的边界单元。不过，单元的大小需要用户指定，这会直接影响聚类结果。小体积的单元会对密度给出非常“嘈杂”的估计，而大单元则倾向于过度平滑密度估计。其他流行的基于网格的算法包括 WaveClusters、DENCLUE 和 CLIQUE。近年来，2004 年提出了一种新的移动网格聚类算法，它使用移动网格的概念，无需用户输入参数，属于非参数类型。该算法将数据空间的每个维度划分为特定的区间，在数据空间中形成网格结构，基于滑动窗口的概念，利用整个网格结构的移动来获得更具描述性的密度分布，并以单元而非点的方式对数据进行聚类。

1.2 基于 DBSCAN 的方法

DBSCAN 算法由 Ester 等人在 1996 年提出，允许用户确定两个参数：给定半径的邻域（ε）和邻域中的最小点数（MinPts）来完成聚类过程。然而，现代大型现实世界数据集通常具有高度偏斜的分布，仅使用一个全局参数设置很难揭示这种分布。例如，在某些数据集中，不可能使用一个全局密度参数同时检测出所有聚类。为了解决这个问题，1999 年提出了 OPTICS 算法，它创建了一个表示数据集基于密度的聚类结构的增强排序，但它只是创建了排序，而没有明确地生成数据集的聚类，并且在生成重叠聚类方面表现不佳。

Duan 等人在 2007