Python层次聚类sci.cluster.hierarchy.linkage函数详解

最新推荐文章于 2025-06-22 11:06:15 发布

原创最新推荐文章于 2025-06-22 11:06:15 发布 · 4.1w 阅读

176 ·

CC 4.0 BY-SA版权

文章标签：

#层次聚类相关函数

python 同时被 2 个专栏收录

17 篇文章

订阅专栏

层次聚类

0 篇文章

订阅专栏

本文详细介绍了使用Scipy库中的层次聚类方法进行数据聚类的过程。涵盖了不同聚类方法如single、complete、average等的选择与应用，以及如何利用linkage函数进行聚类，并解释了返回值的具体含义。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1 函数原型：

scipy.cluster.hierarchy.linkage(y, method='single', metric='euclidean', optimal_ordering=False)

函数功能：进行层次聚类/凝聚聚类。

参数：

y: 可以是1维压缩向量（距离向量），也可以是2维观测向量（坐标矩阵）。若y是1维压缩向量，则y必须是n个初始观测值的组合，n是坐标矩阵中成对的观测值。

返回值：(n-1)*4的矩阵Z（后面会仔细的讲解返回值各个字段的含义）

linkage方法用于计算两个聚类簇s和t之间的距离d(s,t)，这个方法的使用在层次聚类之前。当s和t行程一个新的聚类簇u时，s和t被从森林（已经形成的聚类簇群）中移除，而用新的聚类簇u来代替。当森林中只有一个聚类簇时算法停止。而这个聚类簇就成了聚类树的根。

距离矩阵在每次迭代中都将被保存，d[i,j]对应于第i个聚类簇与第j个聚类簇之间的距离。每次迭代必须更新新形成的聚类簇之间的距离矩阵。

假定现在有|u|个初始观测值u[0],...,u[|u|-1]在聚类簇u中，有|v|个初始对象v[0],...,v[|v|-1]在聚类簇v中。回忆s和t合并成u。让v成为森林中的聚类簇，而不是u。

下面是计算新形成的聚类簇u和v之间距离的方法：

method = ‘single’

d(u,v) = min(dist(u[i],u[j]))

对于u中所有点i和v中所有点j。这被称为最近邻点算法。

[source]

method = 'complete'

d(u,v) = max(dist(u[i],u[j]))

对于u中所有点i和v中所有点j。这被称为最近邻点算法。

method = 'average'

|u|，|v|是聚类u和v中元素的的个数，这被称为UPGMA算法（非加权组平均）法。

method = 'weighted'

d(u,v) = (dist(s,v) + dist(t,v))/2

u是由s和t形成的，而v是森林中剩余的聚类簇，这被称为WPGMA（加权分组平均）法。

method = 'centroid'

Cs和Ct分别为聚类簇s和t的聚类中心，当s和t形成一个新的聚类簇时，聚类中心centroid会在s和t上重新计算。这段聚类就变成了u的质心和剩下聚类簇v的质心之间的欧式距离。这杯称为UPGMC算法（采用质心的无加权paire-group方法）。

method = 'median'

当两个聚类簇s和t组合成一个新的聚类簇u时，s和t的质心的均值称为u的质心。这被称为WPGMC算法。

method = 'ward' （沃德方差最小化算法）

新的输入d(u,v)通过下式计算得出，

u是s和t组成的新的聚类，v是森林中未使用的聚类。T = |v|+|s|+|t|，|*|是聚类簇中观测值的个数。

注意：当最小距离在一个森林中成对存在时，即有多个最小距离的时候，具体的实现要看MATLAB的版本（因为这个函数是从matlab里面copy过来的）。

2 参数：

y：nump.ndarry。是一个压缩距离的平面上三角矩阵。或者n*m的观测值。压缩距离矩阵的所有元素必须是有限的，没有NaNs或infs。

method：str，可选。

metric：str或function，可选。在y维观测向量的情况下使用该参数，苟泽忽略。参照有效距离度量列表的pdist函数，还可以使用自定义距离函数。

optimal_ordering:bool。若为true，linkage矩阵则被重新排序，以便连续叶子间距最小。当数据可视化时，这将使得树结构更为直观。默认为false，因为数据集非常大时，执行此操作计算量将非常大。

Note：上述算法的时间复杂度如下：

上述算法时间复杂度对比
算法	时间复杂度
single	O(n2)
complete	O(n2)
average	O(n2)
weighted	O(n2)
ward	O(n2)
其他	O(n2)

centroid、median、ward只能定义在欧氏距离计算中。如果预先将y计算的距离传进来，那么要确保是用欧式距离计算的，否则将会导致错误的计算结果。

3 返回值：

Z：numpy.ndarry。

层次聚类编码为一个linkage矩阵。

Z共有四列组成，第一字段与第二字段分别为聚类簇的编号，在初始距离前每个初始值被从0~n-1进行标识，每生成一个新的聚类簇就在此基础上增加一对新的聚类簇进行标识，第三个字段表示前两个聚类簇之间的距离，第四个字段表示新生成聚类簇所包含的元素的个数。

下面举个例子来说明一下：

#%%
from scipy.cluster.hierarchy import dendrogram, linkage,fcluster
from matplotlib import pyplot as plt
X = [[i] for i in [2, 8, 0, 4, 1, 9, 9, 0]]
# X = [[1,2],[3,2],[4,4],[1,2],[1,3]]
Z = linkage(X, 'ward')
f = fcluster(Z,4,'distance')
fig = plt.figure(figsize=(5, 3))
dn = dendrogram(Z)
plt.show()

下面是聚类结果的可视化聚类树：