无监督学习-K均值聚类

文章介绍了k均值聚类算法在机器学习中的应用,通过创建模拟的收入和年龄数据进行聚类分析。使用numpy和sklearn库,首先生成随机数据,然后利用KMeans模型进行聚类,并对数据进行标准化处理。最后,通过可视化展示聚类结果。

0.理论

k均值聚类是机器学习中一种非常常用的技术,简单来说,k均值聚类就是将数据分成k个组,根据数据点距离哪个组的中心点最近而决定。

1.基于收入与年龄进行人群聚类

import numpy as np
from sklearn.cluster import KMeans
import matplotlib.pyplot as plt
from sklearn.preprocessing import scale

def createClusteredData(N, k):
    """生成随机的收入、年龄数据

    Args:
        N (int): N个人
        k (int): k个聚类

    Returns:
        array: 包含收入、年龄的数组
    """   
    # 生成随机种子 
    np.random.seed(10)
    # 每个聚类的数据量
    pointsPerCluster = float(N)/k
    X = []
    # 生成k个聚类  
    for i in range (k):
        incomeCentroid = np.random.uniform(20000.0, 200000.0)
        ageCentroid = np.random.uniform(20.0, 70.0)
        # 每个聚类生成数据
        for j in range(int(pointsPerCluster)):
            X.append([np.random.normal(incomeCentroid, 10000.0), np.random.normal(ageCentroid, 2.0)])    
    return np.array(X)

N = 100
k = 5
data = createClusteredData(N, k)
# 初始化模型
model = KMeans(n_clusters=k)

# 标准化数据
model = model.fit(scale(data))

# 模型结果
print(model.labels_)

# 画图
plt.scatter(data[:,0], data[:,1], c=model.labels_)
plt.show()
C:\Users\Administrator\anaconda3\lib\site-packages\sklearn\cluster\_kmeans.py:870: FutureWarning: The default value of `n_init` will change from 10 to 'auto' in 1.4. Set the value of `n_init` explicitly to suppress the warning
  warnings.warn(
C:\Users\Administrator\anaconda3\lib\site-packages\sklearn\cluster\_kmeans.py:1382: UserWarning: KMeans is known to have a memory leak on Windows with MKL, when there are less chunks than available threads. You can avoid it by setting the environment variable OMP_NUM_THREADS=1.
  warnings.warn(


[0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1
 1 1 1 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 4 2 3 3 3 3 3 3 3 3 3 3 3 3 3 3
 3 3 3 3 3 3 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2 2]

请添加图片描述

2.参考资料

Python数据科学与机器学习:从入门到实践
作者:
[美]弗兰克•凯恩(Frank Kane)

源代码下载:
https://www.ituring.com.cn/book/2426

### K均值聚类的实现与解析 #### 1. K均值聚类简介 K均值聚类是一种经典的无监督学习方法,其目标是将数据集划分为 \(k\) 个簇(clusters),使得同一簇内的数据点尽可能相似,不同簇之间的差异最大化。该算法的核心在于通过迭代调整簇中心的位置,从而最小化误差平方和(SSE, Sum of Squared Errors)。 作为一种简单高效的聚类算法,K均值已被广泛应用在多个领域,例如客户分群分析[^1]、图像分割[^3]以及文档分类等。 --- #### 2. 算法步骤 以下是K均值聚类的主要步骤: - **初始化**:随机选择 \(k\) 个初始簇中心作为起点。 - **分配阶段**:对于每一个数据点,计算其到各个簇中心的距离,并将其分配至距离最近的簇。 - **更新阶段**:重新计算每个簇的新中心位置(即簇内所有点的平均值)。 - **重复执行**:不断交替进行上述两个阶段,直到满足停止条件(如簇中心不再显著变化或达到最大迭代次数)。 这种迭代优化的过程有助于逐步逼近全局最优解,尽管无法完全保证找到绝对最佳的结果。 --- #### 3. Python代码实现 以下是一个基于 `scikit-learn` 的标准K均值聚类实现示例: ```python from sklearn.cluster import KMeans import numpy as np import matplotlib.pyplot as plt # 数据准备 data = np.array([[1, 2], [1, 4], [1, 0], [4, 2], [4, 4], [4, 0]]) # 创建模型并设置参数 model = KMeans(n_clusters=2, random_state=0) # 训练模型 model.fit(data) # 输出结果 print("Cluster Centers:\n", model.cluster_centers_) print("Labels:", model.labels_) # 可视化 plt.scatter(data[:, 0], data[:, 1], c=model.labels_, cmap='viridis') centers = model.cluster_centers_ plt.scatter(centers[:, 0], centers[:, 1], c='red', s=200, alpha=0.75) plt.title('K-Means Clustering Result') plt.show() ``` 此代码展示了如何利用 `sklearn.cluster.KMeans` 类快速构建一个K均值聚类器,并完成基本的数据拟合与可视化操作[^2]。 --- #### 4. 初始化与收敛性能的影响 K均值聚类的效果很大程度上依赖于初始簇中心的选择方式。如果采用不当的方法,则可能导致局部最优而非全局最优解。为此,《Python机器学习基础教程》建议使用改进版的初始化策略——K-Means++,它可以有效提升最终结果的质量。 此外,为了评估模型表现优劣程度,通常会引入诸如轮廓系数(Silhouette Coefficient)、Calinski-Harabasz指数之类的指标来进行定量衡量。 --- #### 5. 应用实例扩展 除了前述提到的具体应用场景外,还可以考虑如下几个方向: - 社交网络中的社区发现; - 基因表达数据分析; - 地理信息系统中的空间分布研究等等。 这些拓展用途充分体现了K均值聚类的强大适应能力及其灵活性特点。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值