Kmeans聚类算法 python sklearn 用户画像

本文介绍了KMeans聚类算法的基本概念、主要步骤和优缺点,包括初始质心的选择、距离度量方法、质心计算和算法停止条件。KMeans适用于数据集划分,尤其在用户画像和群组划分中有应用。文章通过Python的sklearn库展示了KMeans的实现,并讨论了如何通过误差平方和(SSE)评估聚类效果。此外,提到了二分KMeans和MeanShift等改进算法作为KMeans的补充。

1、基本概念;

聚类分析简称聚类(clustering),是一个把数据集划分成子集的过程,每一个子集是一个簇(cluster),使得簇中的样本彼此相似,但与其他簇中的样本不相似。

聚类分析不需要事先知道样本的类别,甚至不用知道类别个数,因此它是一种典型的无监督学习算法,一般用于数据探索,比如群组发现和离群点检测,还可以作为其他算法的预处理步骤。

在工作中遇到用户画像、群组划分问题,而kmeans聚类这一无监督学习算法,可以在无数据标注训练情况下,基于距离按将群组划分不同的簇。

主要的聚类算法一般可以划分为以下几类:

方法 一般特点
划分方法 1.发现球形互斥的簇 2.基于距离 3.可用均值或中心点代表簇中心 4.对中小规模数据有效
层次方法 1.聚类是一个层次分解 2.不能纠正错误的合并或划分 3.可以集成其他技术
基于密度的方法 1.可以发现任意形状的簇 2.簇是对象空间中被低密度区域分隔的稠密区域 3.簇密度 4.可能过滤离群点
基于网格的方法 1.使用一种多分辨率网格数据结构 2.快速处理
2、Kmeans算法

Kmeans属于划分方法的经典聚类方法。

算法步骤如下:

选择K个点作为初始质心(随机产生或者从D中选取)  
repeat  
    将每个点分配到最近的质心,形成K个簇  
    重新计算每个簇的质心  
until 簇不发生变化或达到最大迭代次数
2.1 k值选取

k的值是用户指定的,表示需要得到的簇的数目。在运用Kmeans算法时,我们一般不知道数据的分布情况,不可能知道数据的集群数目,所以一般通过枚举来确定k的值。另外,在实际应用中,由于Kmean一般作为数据预处理,或者用于辅助分类贴标签,所以k一般不会设置很大。

2.2 初始质心的选取

Kmeans算法对初始质心的选取比较敏感,选取不同的质心,往往会得到不同的结果。初始质心的选取方法,常用以下两种的简单方法:一种是随机选取,一种是用户指定。
需要注意的是,无论是随机选取还是用户指定,质心都尽量不要超过原始数据的边界,即质心每一维度上的值要落在原始数据集每一维度的最小与最大值之间。

2.3 距离度量方法

距离度量方法(或者说相似性度量方法)有很多种,常用的有欧氏距离,余弦相似度,街区距离,汉明距离等等。在Kmeans算法中,一般采用欧氏距离计算两个点的距离,欧氏距离如下:

distEclud(X,Y)=i=1
本程序是在python中完成,基于sklearn.cluster中的k-means聚类包来实现数据的聚类,对于里面使用的数据格式如下:(注意更改程序中的相关参数) 138 0 124 1 127 2 129 3 119 4 127 5 124 6 120 7 123 8 147 9 188 10 212 11 229 12 240 13 240 14 241 15 240 16 242 17 174 18 130 19 132 20 119 21 48 22 37 23 49 0 42 1 34 2 26 3 20 4 21 5 23 6 13 7 19 8 18 9 36 10 25 11 20 12 19 13 19 14 5 15 29 16 22 17 13 18 46 19 15 20 8 21 33 22 41 23 69 0 56 1 49 2 40 3 52 4 62 5 54 6 32 7 38 8 44 9 55 10 70 11 74 12 105 13 107 14 56 15 55 16 65 17 100 18 195 19 136 20 87 21 64 22 77 23 61 0 53 1 47 2 33 3 34 4 28 5 41 6 40 7 38 8 33 9 26 10 31 11 31 12 13 13 17 14 17 15 25 16 17 17 17 18 14 19 16 20 17 21 29 22 44 23 37 0 32 1 34 2 26 3 23 4 25 5 25 6 27 7 30 8 25 9 17 10 12 11 12 12 12 13 7 14 6 15 6 16 12 17 12 18 39 19 34 20 32 21 34 22 35 23 33 0 57 1 81 2 77 3 68 4 61 5 60 6 56 7 67 8 102 9 89 10 62 11 57 12 57 13 64 14 62 15 69 16 81 17 77 18 64 19 62 20 79 21 75 22 57 23 73 0 88 1 75 2 70 3 77 4 73 5 72 6 76 7 76 8 74 9 98 10 90 11 90 12 85 13 79 14 79 15 88 16 88 17 81 18 84 19 89 20 79 21 68 22 55 23 63 0 62 1 58 2 58 3 56 4 60 5 56 6 56 7 58 8 56 9 65 10 61 11 60 12 60 13 61 14 65 15 55 16 56 17 61 18 64 19 69 20 83 21 87 22 84 23 41 0 35 1 38 2 45 3 44 4 49 5 55 6 47 7 47 8 29 9 14 10 12 11 4 12 10 13 9 14 7 15 7 16 11 17 12 18 14 19 22 20 29 21 23 22 33 23 34 0 38 1 38 2 37 3 37 4 34 5 24 6 47 7 70 8 41 9 6 10 23 11 4 12 15 13 3 14 28 15 17 16 31 17 39 18 42 19 54 20 47 21 68 22
### KMeans聚类算法 Python 实现 对于KMeans聚类算法,在Python中的实现可以依赖于`scikit-learn`库,该库提供了简单而高效的工具用于数据分析和建模。下面展示了一个完整的例子来说明如何利用这个库执行KMeans聚类,并评估其性能。 #### 导入必要的包 首先需要导入一些基本的软件包,包括用于科学计算的NumPy以及机器学习库Scikit-Learn: ```python import numpy as np from sklearn.cluster import KMeans from sklearn.metrics import silhouette_score import matplotlib.pyplot as plt ``` #### 准备数据集 这里以随机生成的数据为例,也可以替换为实际应用中的任何其他形式的数据源。为了便于可视化,创建的是二维数据点集合: ```python # 创建样本数据 X = np.random.rand(100, 2) # 如果使用真实世界的数据集,则可能如下所示: # from sklearn.datasets import load_iris # X = load_iris().data[:, :2] # 只取前两列特征以便绘制图形 ``` #### 执行KMeans聚类 通过设置参数n_clusters指定想要找到的簇的数量,之后调用fit方法训练模型: ```python kmeans = KMeans(n_clusters=3).fit(X) y_kmeans = kmeans.predict(X) centers = kmeans.cluster_centers_ ``` #### 计算轮廓系数评价聚类效果 轮廓系数是一种衡量聚类质量的方法之一,范围介于[-1, 1]之间,值越大表示越好[^2]: ```python score = silhouette_score(X, y_kmeans) print(f'Silhouette Score: {score}') ``` #### 绘制聚类结果图 最后一步是将得到的结果绘制成图表,直观地查看各个簇之间的分布情况: ```python plt.scatter(X[:, 0], X[:, 1], c=y_kmeans, s=50, cmap='viridis') plt.scatter(centers[:, 0], centers[:, 1], c='red', s=200, alpha=0.75); plt.show() ``` 上述过程展示了怎样快速有效地运用Python完成一次标准的KMeans聚类操作,同时也包含了简单的性能评测手段——即轮廓系数法。
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值