1、什么叫做k-均值?
它可以发现k个不同的簇,且每个簇的中心采用簇中所含值的均值计算而成。
2、k-均值聚类的算法:
创建k个点作为起始质心(经常是随机选择)
当任意一个点的簇分配结果发生改变时
对数据集中的每个数据点
对每个质心
计算质心与数据点之间的距离
将数据点分配到距其最近的簇
对每一个簇,计算簇中所有点的均值并将均值作为质心
2、过程:
1)加载数据(数据格式是m行n列,其中每行是一个数据点,每列是数据的一个特征值)
2)创建一个m行2列的每个数据点的簇分配结果
3)创建一个初始的簇中心k行n列:(k,n)
3)开始循环:
对于每一个数据点:
对于每个簇中心:
计算该数据点到每个簇中心的距离
得到该数据点最近的簇索引
查看(m,2)里该数据点的簇索引是不是改变,是的话,最外层循环条件为true
对于每个簇中心:
计算以该簇为中心的数据点的平均值,用此值更新(m,2)里该数据点的簇索引值
//2017/6/29
1、使用后处理提高聚类性能:
a)计算质心之间的距离,合并最近的质心。
b)合并两个使得SSE增幅最小的质心。其中SSE的值是通过合并两个簇计算得到的总的SSE的值。
2、为克服K-均值算法收敛于局部最小值的问题,提出了二分K-均值算法:
将所有点看成一个簇
当簇数目小于k时
对于每一个簇:
计算总误差SSE
在给定的簇上面进行k-均值聚类(k=2)
计算将该簇一分为二之后的总误差
选择使得误差最小的那个簇进行划分操作。