机器学习之聚类（一）密度聚类DBSCAN

DBSCAN（Density-Based Spatial Clustering of Applications with Noise）聚类算法，它是密度聚类中的一种，是一种基于高密度连通区域的、基于密度的聚类算法，能够将具有足够高密度的区域划分为簇，并在具有噪声的数据中发现任意形状的簇。
1、DBSCAN聚类算法原理的基本要点：
（1）需要选择一种距离度量，对于待聚类的数据集中，任意两点之间的距离，反映了点之间的密度，说明了点与点是否能够聚到同一类中。由于DBSCAN算法对高维数据定义密度很难，所以对于二维空间中的点，可以利用欧几里德距离来度量。
（2）DBSCAN需要用户输入两个参数：一个参数是半径（Eps），表示以给定点P为中心的圆形邻域的范围；另一个参数是以点P为中心的邻域内最少点的数量（MinPts）。如果满足：以点P为中心、半径为Eps邻域内的点的个数不少于MinPts,则称点P为核心点。并且这两个参数的计算都是来自经验知识。
（3）DBSCAN聚类使用到一个k-距离的概念，k-距离的概念是：给定数据集P={p(i);i=1,…,n}，计算p(i)到集合D的子集S={p(1),p(2),…,p(i-1),p(i+1),…,p(n)}中所有点之间的距离，并且将距离按从小到大的顺序排序，假设排序后的距离集合为D={d(1),d(2),…d(k),d(k+1),…d(n-1)},则d(k)就为k-距离。即k-距离就是点p(i)到所有点的距离第k近的距离。对待聚类集合中每个点p(i)都计算k-距离，最后得到所有点k-距离的集合E={e(1),e(2),…e(n)}.
（4）根据经验计算半径Eps:根据所有点k-距离的集合E，对集合E进行升序排序后得到k-距离集合E’，需要拟合一条排序后的E’中k-距离的变化曲线，然后绘出曲线，通过观察，将急剧发生变化的位置所对应的k-距离的值，确定为半径Eps的值。
（5）根据经验计算最少点的数量MinPts:确定MinPts的大小，实质上就是确定k-距离中k的值，DBSCAN算法取k=4，则MinPts=4。
（6）另外，如果经验值聚类的结果不满意，可以适当调整Eps和MinPts的值，经过多次迭代计算的对比，选择最合适的参数值。可以看出，如果MinPt