52、前馈模型与无监督学习算法解析

前馈模型与无监督学习算法解析

1. Kohonen映射

Kohonen映射是一种强大的工具，用于将高维数据投影到低维空间。在二维中，我们可以通过神经元的权重向量坐标来表示其在输入空间中的位置，并通过连接相邻神经元来表示输出空间中的邻域关系。

在学习开始前，由于权重是随机初始化的，网络就像一盘意大利面，没有明显的顺序。但随着学习的进行，局部有序关系逐渐形成，即映射中相邻的神经元在输入空间中的位置也会接近。

以下是不同迭代次数下，10x10 Kohonen映射中神经元的位置和邻域关系示例：
| 迭代次数 | 神经元分布特点 |
| ---- | ---- |
| 0 | 权重随机初始化，无明显顺序 |
| 100 | 开始出现局部有序关系 |
| 1000 | 有序关系更明显 |
| 10000 | 除边界外，神经元分布较为均匀 |

mermaid图展示Kohonen映射学习过程：

graph LR
    A[初始状态：随机权重] --> B[100次迭代：局部有序开始]
    B --> C[1000次迭代：有序增强]
    C --> D[10000次迭代：均匀分布（除边界）]

Kohonen映射的应用场景多样，例如将二维均匀分布映射到二维正方形映射、将均匀三角形分布映射到正方形Kohonen映射、将非均匀分布映射到Kohonen映射，以及将三维分布映射到二维Kohonen网格。从这些应用中可以得出，当映射的维度与数据的内在维度大致相等时，Kohonen映射