10、科霍宁自组织网络：原理、训练与应用

科霍宁自组织网络：原理、训练与应用

1. 权重训练

在科霍宁网络中，权重调整不涉及求导过程。权重值的变化与输入向量和权重向量之间的差异成正比，公式如下：
[ \Delta w_{ij} = \eta(t) (x_i - w_{ij}) ]
其中，(w_{ij}) 是指向节点 (j) 的权重向量的第 (i) 个分量，(j) 属于邻域 (N_{j*}(t))，(\eta(t)) 是学习率系数，且 (0 < \eta(t) < 1)。这个系数会随着时间（即训练集的遍历次数）降低调整速率。

训练周期可分为两个阶段：
- 粗映射阶段 ：在随机定向的节点图上创建某种拓扑排序。训练过程试图将拓扑图上的节点聚类，以反映训练数据中各类别的范围。这是一个粗略的映射，网络要确定图最终需要识别的类别数量以及它们在图上的相对位置。此阶段调整速率较高（(\eta > 0.5)），以便进行较大的权重修改，尽快形成近似映射。
- 微调阶段 ：一旦找到稳定的粗映射，就对图中局部区域的节点进行微调，使其适应输入训练向量。为实现微调，每个节点的权重向量需要进行更小的更改，因此随着训练的进行，调整速率会降低。如果使用较小的 (\eta) 值，微调阶段通常需要的步骤是找到粗映射的 100 到 1000 倍。

每次向网络应用新的训练输入时，首先要找到获胜节点，它确定了特征图中权重值将被更新的区域。获胜节点是权重向量与输入向量最匹配的节点，用于衡量向量相似度的指标是欧几里得距离。

在科霍宁网络中使用欧几里得距离时，需要注意的是，我们更关注向量的空间定向，而不是其大小。为确保