23、无监督竞争学习：特征映射与混合学习方案

无监督竞争学习：特征映射与混合学习方案

1. 特征映射示例

在实际应用中，构建初始映射理论上可能更好，但无监督学习在条件变化或传感器性能下降时，对后续进行小的调整很有用。

Kohonen在1982年给出了一个一维到一维映射的有趣例子。他将单音频音调输入到一组20个随机调谐的带通滤波器（或谐振器）中，每个滤波器针对其随机中心频率产生最大输出。这20个值随后作为输入，输入到一个由10个单元组成的线性阵列网络中。训练后，输出单元将原始输入频率按升序或降序排列，形成了正确的音调拓扑图。从技术上讲，这是一个从20维到一维的映射，但数据仅占据该空间的一个一维子空间。

在语音处理应用中，Kohonen等人在1984年使用了一组类似的15个频率通道作为输入，输出采用二维阵列。他们将采样的芬兰语语音作为输入信号，映射逐渐为每个芬兰音素形成了定义明确的单元或单元簇，“相似”的音素通常彼此靠近。这种“音素拓扑图”是从高维空间（此处为15维）到二维空间的投影，有助于可视化原始空间中的相似性和结构。

2. 特征映射理论

2.1 成本函数与Kohonen规则

Kohonen特征映射算法存在许多理论问题，如它产生的具体映射、是否总是收敛、是否会陷入非最优状态、收敛所需时间，以及这些问题如何依赖于邻域函数 ( A(i, i^*) ) 的形状和时间依赖性，还有学习率 ( \eta ) 的值和时间依赖性，以及这些参数是否存在最优值等。许多分析仅在一维映射的情况下进行。

存在一个基于竞争学习成本函数扩展的成本函数：
[
\mathcal{E}^{(n)} = \frac{1}{2} \sum_{i,j,k,\m