83、机器学习中的无监督与有监督学习方法

机器学习中的无监督与有监督学习方法

在机器学习领域，无监督学习和有监督学习是两种重要的学习方式。无监督学习主要用于在没有标签数据的情况下发现数据中的模式和结构，而有监督学习则借助标注数据来提高分类或回归的性能。

无监督学习算法

无监督学习在对给定数据集进行聚类后，通过在簇内和簇间层面解释数据，可以更轻松有效地提取信息。以下介绍几种常见的无监督学习聚类算法。

K-Means算法

K-Means算法假设给定数据集中存在K个簇。具体步骤如下：
1. 初始化原型 ：随机选择K个点 $\mu_k$（$k = 1,2,\cdots,K$），这些点不一定属于数据集，作为每个簇的原型。
2. 数据分配 ：根据某种距离定义（如欧几里得距离），将每个数据点 $x$ 分配给最近的原型，形成K个簇。
3. 更新原型 ：对于每个簇，定义一个新的原型为使该簇内所有点到其总距离最小的点。若使用欧几里得距离，这些原型称为质心，即该簇内所有点的均值。
4. 迭代收敛 ：重复数据分配和原型计算步骤，直到满足收敛准则，如达到指定的迭代次数或所有原型在连续迭代中的总位移满足条件。

需要注意的是，K-Means算法可能收敛到局部最优解，且对初始原型点的选择高度依赖，对异常值不稳健。

自组织映射（Self-organizing map，SOM）

SOM也称为Kohonen映射，是一种单层全连接二维神经网络的数值或可视化表示。其工作原理如下：