机器学习基础算法8--Kmeans均值

目录

 

非监督学习(unsupervised learning)

主要方法：k-means

如何数据化为三个类别？

k-means步骤

k-means API

k-means对Instacart Market用户聚类

导包

假设用户一共分为四个类别

聚类

显示聚类结果

Kmeans性能评估指标

Kmeans性能评估指标API

Kmeans总结

---

非监督学习(unsupervised learning)

主要方法：k-means

如何数据化为三个类别？

k-means步骤

1、随机设置K个特征空间内的点作为初始的聚类中心。

2、对于其他每个点计算到K个中心的距离，未知的点选择最近的一个聚类

中心点作为标记类别。

3、接着对着标记的聚类中心之后，重新计算出每个聚类的新中心点（平

均值）。

4、如果计算得出的新中心点与原中心点一样，那么结束，否则重新进行。

第二步过程

k-means API

• sklearn.cluster.KMeans( n_clusters=8,init=‘k-means++’ )

• k-means 聚类

• n_clusters : 开始的聚类中心数量

• init : 初始化方法，默认为 'k-means ++’

•

labels_:默认标记的类型，可以和真实值比较（不是值比较。

聚类做在分类之前。

k-means对Instacart Market用户聚类

导包

from sklearn.cluster import KMeans

# 把样本数量减少
x = data[:500]
x.shape

(500, 27)

假设用户一共分为四个类别

km = KMeans(n_clusters=4)#4个类别
km.fit(x)#随机找4个中心店，一步步去聚类

KMeans(algorithm='auto', copy_x=True, init='k-means++', max_iter=300,
    n_clusters=4, n_init=10, n_jobs=1, precompute_distances='auto',
    random_state=None, tol=0.0001, verbose=0)

聚类

predict = km.predict(x)
predict#将500个样本标记类别

显示聚类结果

导包

import matplotlib.pyplot as plt

显示结果

plt.figure(figsize=(10,10))#设置画板大小
# 建立四个颜色的列表
colored = ['orange', 'green', 'blue', 'purple']
colr = [colored[i] for i in predict]#遍历列表
plt.scatter(x[:, 1], x[:, 20], color=colr)#选取两个特征
plt.xlabel("1")#第一个特征
plt.ylabel("20")#第二个特征

plt.show()

Kmeans性能评估指标

 

如果𝑠𝑐𝑖 小于0，说明a_i 的平均距离大于最近的其他簇。

聚类效果不好

如果𝑠𝑐𝑖 越大，说明a_i 的平均距离小于最近的其他簇。

聚类效果好

轮廓系数的值是介于 [-1,1] ，越趋近于1代表内聚度和分离度都相对较优.

Kmeans性能评估指标API

• sklearn.metrics.silhouette_score ( X ,  labels )

• 计算所有样本的平均轮廓系数

• X ：特征值

• labels ：被聚类标记的目标值

 

导包

from sklearn.metrics import silhouette_score

 

评判聚类效果，轮廓系数

# 评判聚类效果，轮廓系数
silhouette_score(x, predict)#特征值，标记的样本。

Kmeans总结

特点分析：

  采用迭代式算法，直观易懂并且非常实用

缺点：容易收敛到局部最优解(多次聚类)

             需要预先设定簇的数量(k-means++解决)