24、文档分类：无监督聚类与有监督分类方法

文档分类：无监督聚类与有监督分类方法

1. 无监督聚类概述

将对象集合组织成不同的组或类别是人类思维抽象和泛化过程的基础。对于文本而言，比如文档集合，文档的显著特征是它们包含的单词以及它们在集合中各文档间定义的语义关系。因此，将文档集合组织成组或类别的问题本质上是一个语义问题。

无监督聚类，即自动根据对象显著特征的异同对给定集合中的对象进行分组。同一组内的元素相似度高，不同组的元素差异大。由于聚类过程中不使用集合中类别预先已知的信息，所以称为无监督聚类。它是发现给定数据集合隐藏结构的有力方法。这里主要关注 k - 均值聚类。

1.1 k - 均值聚类算法

k - 均值聚类算法是一个迭代过程，将 n 个观测值划分为 k 个簇，不断迭代更新直到划分稳定。每次迭代包括两个步骤：
- 分配步骤 ：通过距离度量将集合中的每个元素分配到最近的簇。在向量空间表示中，通过测量给定元素表示与簇质心之间的距离来计算簇与元素之间的距离。
- 更新步骤 ：考虑分配步骤中生成的新划分，更新所有簇的质心。在 k - 均值聚类中，质心向量由属于相应簇的所有元素的均值向量表示。

算法从一组预定义的质心（可以随机生成或通过其他准则生成）开始，连续执行分配和更新步骤，直到连续迭代中划分不再变化。

MATLAB 函数 kmeans 实现了 k - 均值聚类算法，其语法为 [class,centroids] = kmeans(dataset,k) ，其中：
- dataset <