聚类性能度量指标

最新推荐文章于 2022-10-16 16:12:43 发布
原创 最新推荐文章于 2022-10-16 16:12:43 发布 · 2.8k 阅读 · 4 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

1.外部指标

将聚类结果与某个“参考模型”进行比较称为外部指标。“参考模型”通常是值有专家经验推出的的模型，或者数据本身有标签。

将样本两两配对，然后确定4个值：
a为在参考模型中属于同一个类且在聚类结果中属于同一个簇的样本对的数量。
b为在参考模型中属于同一个类且在聚类结果中不在同一个簇的样本对的数量。
c为在参考模型中不在同一个类且在聚类结果中属于同一个簇的样本对的数量。
d为在参考模型中不在同一个类且在聚类结果中不在同一个簇的样本对的数量。

1.1 Jaccard系数（JC）

JC=aa+b+cJC=\frac a{a+b+c}JC=a+b+ca​

1.2 FM指数（FMI）

FMI=aa+b×aa+cFMI=\sqrt{\frac a{a+b}\times\frac a{a+c}}FMI=a+ba​×a+ca​​

1.3Rand指数（RI）

RI=2(a+d)m(m−1)RI=\frac{2\left(a+d\right)}{m\left(m-1\right)}RI=m(m−1)2(a+d)​
m为样本总数量

2.内部指标

直接考察聚类的结果，不利用任何参考模型称为内部指标

我们先记住4个距离：
avg( C )为簇内样本平均距离
diam( C )为簇内样本最大距离
dmin(Ci,Cj)为簇Ci,Cj之间样本的最小距离
dcen(Ci,Cj)两个簇Ci,Cj样本中心点之间的距离

2.1 DB指数（DBI）

DBI=1k∑j=1kmaxi≠j(avg(Ci)+avg(Cj)dcen(Ci,Cj))DBI=\frac1k\sum_{j=1}^k max_{i \neq j}(\frac{avg(C_i)+avg(C_j)}{d_{cen}(C_i,C_j)})DBI=k1​j=1∑k​maxi̸​=j​(dcen​(Ci​,Cj​)avg(Ci​)+avg(Cj​)​)
k为聚好类后簇的个数DBI越小越好

2.2Dunn指数（DI）

DI=min1≤i≤k{mini≠jdmin(Ci,Cj)max1≤l≤kdiam(Cl)}DI=min_{1\leq i \leq k}\{min_{i \neq j} \frac{d_{min}(C_i,C_j)}{max_{1\leq l \leq k}diam(C_l)} \}DI=min1≤i≤k​{mini̸​=j​max1≤l≤k​diam(Cl​)dmin​(Ci​,Cj​)​}
DI越大越好

机器学习———聚类的性能度量指标与距离度量计算
xieedun9158的博客
08-14 2653
聚类，是无监督学习的代表，将数据集D划分成了若干个不相交的子集，称为簇，我们总体的目标是“簇间相似性越低越好，簇内相似性越高越好”。 1.性能度量指标——外部指标 外部指标：聚类结果与某个“参考模型”进行比较。 对数据集,假设通过聚类划分为，参考模型的划分为：,令和分别表示和的标记。则令 可以看出 Jaccard系数(JC)                        ...
聚类性能评价指标
Explore
03-17 3153
本文将介绍几种常见的聚类评价指标：Purity，NMI，RI，Precision，Recall，F，ARI，Accuracy。
聚类的性能度量
weixin_42761645的博客
03-30 786
一、简述 聚类的结果是将整个样本集划分为一个个子集，称为样本簇。但是划分的结果如何，同一簇内的数据是否达到了较高的相似性，且不同簇之间的相似性尽可能地低。也就是说，我们期望得到的结果是“簇间相似度”低且“簇内相似度”高的结果。为此我们需要对划分结果进行性能度量，以判断是否有效或有效性指标的高低。 二、性能度量指标 聚类性能度量大致有两类，一类是将结果与某“参考模型”进行比较，参考模型例如领域...
常用聚类以及聚类的度量指标
weixin_43668299的博客
08-05 1955
外部度量： 利用条件熵定义的同质性度量： sklearn.metrics.homogeneity_score:每一个聚出的类仅包含一个类别的程度度量。 sklearn.metrics.completeness:每一个类别被指向相同聚出的类的程度度量。 sklearn.metrics.v_measure_score:上面两者的一种折衷： v = 2 * (homogeneity * complete...
【Python】聚类算法实现-性能度量
m0_51122583的博客
06-15 1898
相关定义： 代码部分： 二、Jaccard系数（Jaccard Coefficient, JC） Jaccard系数公式： 代码部分： 三、常用距离 闵可夫斯基距离（Minkowski distance）: p=2: 欧氏距离（Euclidean distance）. p=1：曼哈顿距离（Manhattan distance）.代码部分： 四、聚类性能度量 代码部分： 簇C内样本间的最远距离 簇c1与c2最近样本间的距离 两个向量相加 簇C1和簇C2两个簇的中心点的距离 五、DB
机器学习算法——聚类1（性能度量——外部指标Jaccard系统，FM指数，Rand指数；内部指标：DB指数，Dunn指数）
Vicky_xiduoduo的博客
08-09 2994
性能度量——外部指标Jaccard系统，FM指数，Rand指数；内部指标：DB指数，Dunn指数
聚类与性能度量----机器学习
Lavender-csdn的博客
03-13 1014
前面介绍的算法基本是分类和回归任务，属于“监督学习”，这里我们说的聚类属于“无监督学习”，训练样本的标记信息是未知的，目标是通过对无标记训练样本的学习来揭示数据的内在性质及规律。 聚类任务 聚类试图将数据集中的样本划分为若干个通常是不相交的子集，每个子集称为一个“簇”。形式化的说，假定样本集包含m个无标记的样本，每个样本是一个n维特征向量，聚类的任务就是将样本集D划分为k个不相交的簇，其中各个...
聚类的性能度量以及常见的聚类类型
shaiguchun9503的博客
08-23 7644
“聚类”（clustering）算法是“无监督学习”算法中研究最多、应用最广的算法，它试图将数据集中的样本划分为若干个通常是不相交的子集，每个子集称为一个“簇”（cluster） 因为聚类是在未标注样本上的分类算法，所以不像之前我们介绍的其它算法一样，我们可以直观的知道训练出来的模型的好坏，即我们不能通过比对测试样本的预测结果和真实预测结果误差值来近似泛化误差。 一 、 聚类结果好坏的评估指标...
【机器学习】——聚类相关理论及性能度量
m0_46568930的博客
12-01 1786
聚类的概念 聚类是一种无监督学习，即训练数据中是不含标签等标记信息的。聚类就是根据给定样本内部的特征，将其划分到若干个类别，每个类别就是一个簇，聚类的结果就是使得同一簇内的样本尽可能相似，即相似度较大，而不同簇之间相似度尽可能小。而此相似度的衡量可通过样本间的距离衡量。简单来说，聚类就是我们平时所说的“物以类聚”。 硬聚类和软聚类 通过聚类得到的结果是若干个簇，其本质是样本的子集。 硬聚类：聚类得到的结果中，一个样本只属于一个簇，也就是说任意两个簇的交集为空集。 软聚类：一个样本可以被划分到多个簇，即：两.
聚类分析的评价指标（性能度量）
kfnorthwind的专栏
10-29 2万+
聚类分析的评价指标也称为：性能度量指标 聚类算法聚类后，如何评价聚类结果，如何确定各聚类算法结果的优劣，如何确定聚类算法的参数值，可以通过聚类性能度量指标从一个方侧面说明聚类算法和算法参数的选择。 聚类性能度量指标分为外部指标和内容指标。 外部指标： 外部指标，也就是有参考标准的指标，通常也可以成为有监督情况下的一种度量聚类算法和各参数的指标。具体就是聚类算法的聚类结果和已知的（有标签的、人工标准或基于一种理想的聚类的结果）相比较，从而衡量设计的聚类算法的性能、优劣。 外部指标主要有： J.
聚类评估指标分析
01-02
几十种聚类评估方法，包含类内评估和类间评估。说到聚类性能比较好，就是说同一簇的样本尽可能的相似，不同簇的样本尽可能不同，即是说聚类结果“簇内相似度”（intra-cluster similarity）高，而“簇间相似度”（inter-cluster similarity）低。 聚类性能的评估（度量）分为两大类： 外部评估（external evaluation）：将结果与某个“参考模型”（reference model）进行比较； 内部评估（internal evaluation）：直接考虑聚类结果而不利用任何参考模型。
聚类有效性评价指标(4个内部4个外部)
10-28
常用内部（Sil，CH，DBI，KL）、外部评价指标（Rand等4个），用自带样本集“leuk72_3k.txt”测试可用！
聚类算法的衡量指标
qq_28935065的博客
09-22 6411
最近在做聚类相关的实验，但是具体聚类效果好不好，还需要一下指标进行评价，下面主要介绍聚类算法的评价指标。 1.聚类算法衡量指标-1 （1）均一性：一个聚类簇中只包含一个类别的样本，则满足均一性。可以认为是分类算法衡量的精确率（每个聚类簇中正确分类的样本数占该聚类簇中的样本数） （2）完整性：同类别的样本被归类到同一聚类簇中，则满足完整性。可以认为是分类算法衡量的召回率（每个聚类中正确分类...
聚类算法衡量指标
猪逻辑公园
06-11 1863
轮廓系数，不需要标记簇内不相似度:计算样本i到同簇其它样本的平均距离为ai;ai越小，表示样本i越应 该被聚类到该簇，簇C中的所有样本的ai的均值被称为簇C的簇不相似度。簇间不相似度:计算样本i到其它簇Cj的所有样本的平均距离bij， bi=min{bi1,bi2,...,bik};bi越大，表示样本i越不属于其它簇。轮廓系数:si值越接近1表示样本i聚类越合理，越接近-1，表示样本i应该分类到 ...
聚类及相关算法一（性能度量）
loveitlovelife的博客
03-02 1178
聚类任务 寻找数据的内在分布。 性能度量 亦称“有效性指标”，由此来评估聚类模型的好坏，并将其作为聚类过程的优化目标。 聚类要求：簇内相似度高且簇间相似度低。 两类度量指标： 外部指标：将聚类结果与某个“参考模型”进行比较 内部指标：直接考察聚类结果不利用任何参考模型 对数据集D=x1,x2,...,xmD=x1,x2,...,xmD={x_1,x_2,...,x_m}，假定通...
聚类性能度量 度量标准总结
积跬步，慕至千里的博客
11-06 373
针对现在看到的聚类性能指标，就行了汇总梳理，后续如果看到新的评价指标等现在自己还不曾接触的新的知识点时，会进一步更新。 如果看不清，会在我的资源那里上传高清图。
聚类 机器学习第九章
G_Shengn的博客
10-16 1177
聚类是无监督学习中最主要的应用
机器学习(周志华) 参考答案 第九章 聚类
热门推荐
我的博客
05-19 3万+
机器学习(周志华) 参考答案 第九章 聚类机器学习(周志华西瓜书) 参考答案 总目录 http://blog.youkuaiyun.com/icefire_tyh/article/details/52064910 聚类由于不存在客观标准，任何有点道理的角度都能提出新的聚类算法。 1.试证明：P≥1P \geq 1时，闽可夫斯基距离满足度量的四条基本性质；0≤P<10\leq P < 1时，闽可夫斯基距离
机器学习-聚类性能度量指标
lyn5284767的专栏
09-11 2742
聚类性能度量大致分为两类：一，将聚类结果与某个“参考模型”进行比较，称为“外部指标”；二，直接考察聚类结果，称为“内部指标”。 外部指标主要有：Jaccard系数、FM指数、Rand指数。 对数据集D={X1，X2，...Xm}，假定通过聚类算法给出的簇划分为C={C1，C2，...Ck}，参考模型给出的簇类划分为C*={C1*,C2*,...Cs*}。相应的λ和λ*分别表示C和C*对应的簇标...
头歌聚类性能评估指标
最新发布
03-28
### 头歌平台中聚类性能评估指标的实现 头歌平台支持多种聚类性能评估指标，这些指标可分为两大类：**外部指标**和**内部指标**。以下是具体说明： #### 1. **外部指标** 外部指标通过将聚类结果与已知的真实标签进行对比来评价聚类质量。常用的外部指标包括但不限于以下几种： - **Jaccard Coefficient (JC)** JC 系数衡量两个集合交集大小相对于它们并集的比例。其计算公式如下： \[ JC = \frac{|A \cap B|}{|A \cup B|} \] 它适用于二分类或多分类场景。 - **Fowlkes-Mallows Index (FM)** FM 指数是一种基于精确率和召回率的综合度量方式，定义为两者乘积的平方根： ```python fm_index = np.sqrt(precision * recall) ``` - **Adjusted Rand Index (ARI)** ARI 是一种调整后的兰德指数，考虑了随机匹配的可能性。它的取值范围为 [-1, 1]，其中正值表示更好的一致性[^4]。 在头歌平台上，可以通过 `sklearn` 提供的相关函数轻松实现上述指标。例如，对于 FM 和 ARI 的实现可参考以下代码片段： ```python from sklearn.metrics.cluster import fowlkes_mallows_score, adjusted_rand_score def external_metrics(y_true, y_pred): """ 计算外部指标 FM 和 ARI 参数: y_true: 参考模型的簇划分，类型为 ndarray y_pred: 聚类模型给出的簇划分，类型为 ndarray 返回: fm_score: Fowlkes-Mallows 指数 ari_score: Adjusted Rand Index """ fm_score = fowlkes_mallows_score(y_true, y_pred) ari_score = adjusted_rand_score(y_true, y_pred) return fm_score, ari_score ``` --- #### 2. **内部指标** 内部指标不依赖于任何先验知识或真实标签，而是通过对数据本身的分布特性进行分析得出结论。常见的内部指标有： - **Silhouette Coefficient (SC)** SC 表示单一样本与其所属簇的距离与其他最近邻簇距离的关系。整体得分由所有样本的平均值得到，范围为 [-1, 1]，分值越高表明聚类效果越好。 - **Calinski-Harabasz Index (CHI)** CHI 基于簇间离散程度与簇内紧凑性的比率计算而来。较高的数值代表更优的聚类结构。 - **Davies-Bouldin Index (DBI)** DBI 利用簇间的最大相似性来量化聚类的质量。较低的 DBI 数值对应着较好的聚类表现[^1]。 同样，在头歌平台上也可以借助 `sklearn` 库完成这些指标的计算工作。下面是一个简单的例子展示如何获取 Silhouette、CHI 和 DBI 得分： ```python from sklearn.metrics import silhouette_score, calinski_harabasz_score, davies_bouldin_score def internal_metrics(X, labels): """ 计算内部指标 Silhouette、Calinski-Harabasz 和 Davies-Bouldin 参数: X: 数据特征矩阵，形状为 (n_samples, n_features)，类型为 array-like labels: 聚类分配的结果，长度等于 n_samples，类型为 list 或 array-like 返回: sil_score: Silhouette Coefficient ch_score: Calinski-Harabasz Index db_score: Davies-Bouldin Index """ sil_score = silhouette_score(X, labels) ch_score = calinski_harabasz_score(X, labels) db_score = davies_bouldin_score(X, labels) return sil_score, ch_score, db_score ``` --- ### 综合评估实例 为了全面理解聚类的效果，通常会结合内外部指标共同分析。假设我们已经拥有一组真实的标签 (`y_true`) 和一组预测得到的标签 (`y_pred`)，以及原始的数据特征矩阵 (`X`)，那么可以按照以下流程执行完整的评估过程： ```python import numpy as np # 输入数据 X = ... # 特征矩阵 labels = ... # 预测标签 y_true = ... # 真实标签 # 内部指标计算 sil_score, ch_score, db_score = internal_metrics(X, labels) # 外部指标计算 fm_score, ari_score = external_metrics(y_true, labels) print(f"Silhouette Coefficient: {sil_score:.4f}") print(f"Calinski-Harabasz Index: {ch_score:.4f}") print(f"Davies-Bouldin Index: {db_score:.4f}") print(f"Fowlkes-Mallows Index: {fm_score:.4f}") print(f"Adjusted Rand Index: {ari_score:.4f}") ``` 以上脚本能够帮助快速获得关于当前聚类方案的各项定量反馈信息[^3]。 ---
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值