数学建模(10)聚类模型
聚类可以分成多少类都不清楚,分类可以清楚的写出有几种聚类。
K-means聚类
K-means聚类流程
1、指定需要划分的簇的个数K值(类的个数);
2、随机地选择K个数据对象作为初始的聚类中心(不一定要是我们的样本点);
3、计算其余的各个数据对象到这K个初始聚类中心的距离,把数据对象划归到距离它最近的那个中心所处在的簇类中﹔
4、调整新类并且重新计算出新类的中心;
5、循环步骤三和四,看中心是否收敛(不变),如果收敛或达到迭代次数则停止循环;
K-means聚类优点
快,对于大数据集效率高
K-means聚类缺点
1、要先给出簇的数目k
2、对于初值敏感
3、对于孤立数据点敏感
K-means++算法
选择初始的聚类基本中心的原则是:初始的聚类中心尽可能远。
K-means++算法步骤
1、随机选取一个样本作为第一个聚类中心;
2、计算每个样本与当前已有聚类中心的最短距离(即与最近一个聚类中心的距离),这个值越大,表示被选取作为聚类中心的概率较大;最后,用轮盘法(依据概率大小来进行抽选)选出下一个聚类中心;
3、重复步骤二,直到选出K个聚类中心。选出初始点后,就继续使用标准的K-means算法了。
SPSS->分析->分类->k-聚类->
// 参数输入
输入变量、聚类数目、迭代次数
保存:全选
量纲不一致
标准化
系统(层次)聚类
先找到两个最近的分成一个类,然后多次迭代得到结果。
SPSS->分析->分类->系统聚类->看量纲标准化->
// 参数
统计->谱系图->看排版选方向
方法->聚类方法看情况选择
得到谱系图之后结合实际解释
k变大聚合系数变小,找转折点为最优的地方
可以使用SPSS绘指标结构图,二维的话比较合适。
DBSCAN算法
DBSCAN(Density-Based Spatial Clustering of Applications with Noise,具有噪声的基于密度的聚类方法)
是一种基于密度的聚类算法。之前的两种是基于距离的算法。
核心点:在半径Eps内含有不少于MinPts数目的点
边界点:在半径Eps内点的数量小于MinPts,但是落在核心点的邻域内
噪音点:既不是核心点也不是边界点的点
如果一个点变成了边界点,那么他就是下一个核心点。
这个算法很好理解。
DBSCAN算法优缺点
优点:
1、基于密度定义,能处理任意形状和大小的簇;
2、可在聚类的同时发现异常点;
3、与K-means比较起来,不需要输入要划分的聚类个数。
缺点:
1、对输入参数ε和Minpts敏感,确定参数困难;
2、由于DBSCAN算法中,变量ε和Minpts是全局唯一的,当聚类的密度不均匀时,聚类距离相差很大时,聚类质量差;
3、当数据量大时,计算密度单元的计算复杂度大。
看情况选择三种算法,系统聚类用的最多,但是情况成了这种
那就DBSCAN算法吧。