14、层次聚类：概念、方法及其应用

层次聚类：概念、方法及其应用

1. 层次聚类概述

层次聚类（Hierarchical Clustering）是聚类分析中的一种重要方法，主要用于揭示数据集中的内在结构。与划分聚类（Partitioning Clustering）不同，层次聚类并不将数据集划分为单一的分区，而是生成一系列嵌套的分区。这种特性使得层次聚类特别适用于探索数据的多层次结构，从而帮助我们更好地理解数据的内在关系。

层次聚类主要分为两大类： 凝聚算法（Agglomerative Algorithm） 和 分裂算法（Divisive Algorithm） 。这两种算法的核心思想分别是自底向上和自顶向下，下面将详细介绍这两种算法的具体实现方式。

2. 凝聚算法

凝聚算法是一种自底向上的层次聚类方法。它的基本思想是：从每个单独的对象开始，逐步合并最相似的簇，直到所有对象都被合并到一个簇中。这个过程可以通过以下步骤来描述：

1. 初始化 ：每个对象被视为一个独立的簇。
2. 计算相似度 ：计算所有簇之间的相似度或距离。
3. 合并簇 ：选择最相似的两个簇进行合并。
4. 更新相似度 ：重新计算新簇与其他簇之间的相似度。
5. 重复步骤3和4 ：直到所有对象都被合并到一个簇中。

2.1 凝聚算法的实现