机器学习6---聚类简述

最新推荐文章于 2024-07-15 10:37:52 发布

原创

最新推荐文章于 2024-07-15 10:37:52 发布 · 462 阅读

1 ·

CC 4.0 BY-SA版权

文章标签：

#机器学习

本文介绍了聚类作为无监督学习的一部分，详细阐述了聚类的基本概念，包括聚类的数学定义和应用场景。接着，讨论了聚类性能度量的外部指标与内部指标，如Jaccard系数、FM系数、Rand系数、DBI和DI，并解释了距离度量在有序和无序属性中的应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一、聚类介绍

聚类属于“无监督学习”的一种，即训练样本的标签信息在训练过程中是不被使用的，这也是区别于分类的重要特征。

从数学角度而言，聚类是将样本集 $D=\left \{ { x_{1},x_{2}...x_{m} } \right \}$ 划分成k个不相交的“簇”，并且使用 $\lambda _{i}\epsilon \left \{ 1,2,...k \right \}$ 作为第i个簇的标记（cluster label）。

聚类算法可以单独作为一个划分数据的过程，也可以作为大样本集的前期处理过程。

二、性能度量

聚类算法的性能度量主要为了评价这个聚类结果的好坏。

聚类性能度量分为两类，第一类是外部指标：与某一个参考模型进行对比；第二类是内部指标：仅考察聚类结果。

1. 外部指标

对于数据集D，假定通过某一聚类算法得到划分为C={C1,C2....,Ck},参考模型给出的划分为C*={C1*,C2*,...Ck*}， $\lambda$ 为簇标记，将样本两两配对，可以得到以下4个量：

a=|SS|,SS={ (xi,xj) |

最低0.47元/天解锁文章

200万优质内容无限畅学

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

aBIT_Tu

关注关注

0
点赞
踩
1

收藏

觉得还不错? 一键收藏
0
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

AI学习指南机器学习篇-K均值聚类（K-Means Clustering）简介

俞兆鹏的博客

07-05

1089

K均值聚类是一种常用的无监督学习算法，其通过迭代的方式将数据划分为K个簇，并最小化每个数据点与所属簇的质心之间的距离。K均值聚类在无监督学习中具有广泛的应用，特别适用于数据聚类和模式发现任务。通过示例，我们展示了K均值聚类在数据聚类和模式发现中的作用和优势。希望本篇博客能够帮助读者更好地理解K均值聚类算法的基本概念和应用，为进一步学习和应用机器学习提供指导和启示。

机器学习之无监督学习-K均值聚类算法

nuist_NJUPT的博客

12-05

1995

机器学习之无监督学习-K均值聚类算法对于无监督学习，有两类重要的应用，一个是聚类，一个是降维。我们今天主要学习聚类中的K均值聚类。我们先看看下图，图a为原始的数据点，我们想要对图a的数据点进行分类，在图b中我们先随机的指定两个质心点(×)作为初始点。如图c所示，距离红色点(×)近的我们分到红色类中，距离蓝色点(×)近的我们分类到蓝色类中。接下来我们更新质心点，如图d所示，根据已有红色的点，求均值，得到它们中间的质心点，更新为当前红色质心点，根据已有蓝色的点，求均值，得到它们中间的质心点，更新为当前蓝色的

参与评论您还未登录，请先登录后发表或查看评论

机器学习——聚类

Mr_fengzi的博客

08-12

1108

聚类：对大量未标注的数据集，按内在相似性划分为多个类别，类别内相似度大，类之间相似度小。聚类属于无监督机器学习 回顾一下欧式距离的计算公式：二维空间的公式：三维空间的公式：下面引入相似度：余弦距离，余弦相似度余弦值的范围在[-1, 1]之间，值越接近于1，代表两个向量的方向越接近；越趋近于-1，他们的方向越相反；接近于0，表示两个向量几乎于正交。最常见的应用就是计算文本相...

文本聚类学习过程简述

qq_28840013的博客

04-20

584

文本处理 1.去空格，换行符，去停用词 def delstopwordslist(classsstr): #去掉与stop.txt中相同的词 stopwords = [line.strip() for line in open('stop.txt', encoding='UTF-8').readlines()] outstr = ''.join([word for word in c...

聚类算法简述

YoungGy的专栏

03-07

2428

本文简要介绍`K-MEANS`、高斯混合模型`GMM`、主题模型`LDA`三种聚类方法。

机器学习 -- 简析聚类算法

Sabrina_cc的博客

05-10

1429

聚类算法聚类算法是一种无监督学习一、无监督学习在无监督学习（unsupervised learning）中，训练样本的标记信息是未知的，目标是通过对无标记训练样本的学习来揭示数据的内在性质及规律，为进一步的数据分析提供基础。聚类：K-means, 层次聚类，密度聚类降维：PCA 无监督学习的基本想法是对给定数据（矩阵数据）进行某种“压缩”，从而找到数据的潜...

机器学习-学习笔记聚类

一名小学生的辛酸奋斗史

07-26

3152

聚类聚类任务背景在无监督学习(密度估计、异常检测等)中，训练样本的标记信息是未知的（即不人为指定），旨在发现数据之间的内在联系和规律，为进一步的数据分析提供基础。此类学习任务中研究最多、应用最广的是聚类。定义聚类将数据集中的样本划分为若干个通常是不相交（有的时候会相交）的子集（簇，也叫类），即将样本分类，但是分类后得到的簇的标记是未指定的，这里需要使用者自行定义。作用聚类既能作为一个单独过程，用

机器学习中的 K-均值聚类算法及其优缺点

yuxuan6699的博客

07-15

966

定义：K-均值聚类算法通过迭代的方式，将数据集中的样本分配到K个簇中，每个簇由一个质心（centroid）表示，质心是簇内所有样本的均值。算法的目标是使得每个样本到其所属簇质心的距离平方和最小。步骤：1.初始化：随机选择K个样本作为初始质心。2.分配：计算每个样本到各个质心的距离，将每个样本分配到最近的质心所对应的簇中。3.更新：重新计算每个簇的质心，即计算簇内所有样本的均值作为新的质心。4.迭代：重复步骤2和步骤3，直到质心不再发生变化或达到预设的最大迭代次数。

机器学习 -- 集成学习简述

Sabrina_cc的博客

05-13

1100

一、概述 1. 什么是集成学习？ 2. 例子 3. 聚类的两大算法二、Boosting（提升方法） 1. 概述 2. Boosting的两个核心问题三、AdaBoost 1. 概述 2. AdaBoost两个问题如何解决 3. 算法思想 4. 算法流程 5. 算法过程图示四、Bagging（装袋法） 1. 概述 2. 自助采样方法（有放回）五、随机森林 1. 概述 2. 算法思想 3. 随机森林的优缺点： 4. Bagging VS　...

k-means算法与pca结合对多特征组聚类

weixin_41505223的博客

03-22

6216

数据：6个画像，每个画像中有700个标签。解释：同一标签下不同画像对应的数据，我要对此数据做聚类，结果展示：后端代码显示 def kmeans_img(request): #获取前段数据 UPLOAD_ROOT=os.path.join(os.path.dirname(os.path.dirname(os.path.abspath(__file__))), 'static/img')...

特征构造系列4：GBDT特征构造以及聚类特征构造

我是天才很好

11-20

988

文章目录1.GBDT特征构造1.1 原理1.2 关键点1.3 实现代码1.4 方案改进1.5 优缺点2.聚类特征构造2.1 聚类算法介绍2.2 聚类算法构造特征流程2.3 程序实现3.总结4.参考文献本文将介绍如何使用GBDT进行特征构造以及使用聚类进行特征构造。 1.GBDT特征构造 1.1 原理 GBDT是一种常用的非线性模型，基于集成学习中boosting的思想，由于GBDT本身可以发现多...

特征向量的聚类与分类

AI天才研究院

12-31

1677

1.背景介绍特征向量(feature vector)是机器学习和数据挖掘领域中的一个重要概念。它是由一组特征(feature)组成的向量，用于表示数据实例在特定维度上的值。特征向量通常用于训练机器学习模型，以便对数据进行分类、聚类、回归等任务。在本文中，我们将讨论如何使用特征向量进行聚类和分类，以及相关的核心概念、算法原理、实例代码和未来发展趋势。 2.核心概念与联系 2.1 特征向量 ...

k means

weixin_30516243的博客

09-28

296

机器学习----聚类

__Miracle__

08-26

2413

聚类无监督学习 (unsupervised learning) 是找出输入数据的模式。比如，它可以根据电影的各种特征做聚类，用这种方法收集数据为电影推荐系统提供标签。此外无监督学习还可以降低数据的维度，它可以帮助我们更好的理解数据。聚类算法：一种典型的无监督学习算法，主要用于将相似的样本自动归到一个类别中。在聚类算法中根据样本之间的相似性，将样本划分到不同的类别中，对于不同的相似度计算方法，会得到不同的聚类结果，常用的相似度计算方法有欧式距离法。举例使用不同的聚类准则，会产生的聚类结果不同。

聚类算法（一）

山歌嘎子

04-07

385

聚类任务　在无监督学习（unsupervised learning)中，训练样本的标记信息是未知的，目标是通过对无标记训练样本的学习来揭示数据的内在性质及规律，为进一步的数据分析提供基础。形式化的表示为：样本集D={x1,x2...,xm}D={x1,x2...,xm}D = \left \{x_1,x_2...,x_m \right \} 包含mmm个无标记样本，每个样本xi=(x...

从零学习机器学习七：聚类算法

hpu120623的博客

09-10

342

聚类算法目标1 聚类算法简介1.1 认识聚类算法1.2 现实中的应用1.3 概念1.4 与分类算法区别2 聚类算法API2.1 API2.2 案例3 实现流程3.1 k-means聚类步骤3.2 案例练习3.3 小结4 模型评估4.1 误差平方和（SSE）4.2 ”肘“方法-K值确定4.3 轮廓系数法（SC）4.4 CH系数4.5 总结5 算法优化5.1 优缺点5.2 Canopy算法5.9 总结6 特征工程-特征降维6.1 降维6.2 特征选择6.3 主成分分析目标掌握聚类算法的实现过程知道K-m

KMeans算法

MrWanC的博客

04-28

1822

KMeans算法 from sklearn.datasets import make_blobs import matplotlib.pyplot as plt from sklearn.cluster import KMeans from sklearn.metrics import silhouette_score from sklearn.metrics import silhouette_...

基于伪label的一类无监督特征选择方法

有致园

10-24

4947

本文介绍无监督特征选择方法的一种解决思路。

聚类算法（三）—— 评测方法3(代码）

09-03

918

聚类算法（一）——DBSCAN 聚类算法（二）—— 优缺点对比聚类算法（四）—— 基于词语相似度的聚类算法聚类算法（三）—— 评测方法1 聚类算法（三）—— 评测方法2 import pandas as pd import math def load_cluster_pred(file_name): df = pd.read_excel(file_name, 0) word_pred_dic = {} cluster_pred_dic = {} for re

机器学习聚类任务简述

机器学习6---聚类简述

一、 聚类介绍

二、 性能度量

一、聚类介绍

二、性能度量