18、关联记忆神经网络技术解析

关联记忆神经网络技术解析

1. 关联记忆概述

关联记忆是神经网络领域中极为活跃的研究方向之一，它作为生物记忆的高效模型，在模式识别、专家系统、优化以及智能控制等诸多应用中展现出强大的技术优势。几乎所有现存的神经网络模型都能以某种方式充当关联记忆。依据执行关联的原理，这些模型可划分为以下三类：
- 函数映射关联记忆（Function - Mapping Associative Memories，FMAMs）
- 吸引子关联记忆（Attractor Associative Memories，AAMs）
- 模式聚类关联记忆（Pattern - Clustering Associative Memories，PCAMs）

不同类型的神经网络各有优劣，但点吸引子关联记忆（Point Attractor Associative Memories，PAAMs）在AAMs中被认为是最自然且最具前景的。

2. PAAM的基本原理

PAAM是一个由大量相互连接的动态神经元构成的耗散非线性动力系统。多数情况下，该系统可建模为一组微分方程（连续PAAM，如式(8)）或一组差分方程（离散PAAM，如式(9)）。PAAM系统有统一的定义（定义1），它涵盖了像Cohen - Grossberg模型、Hopfield模型、Litter - Hopfield模型、Brain - State - in - a - Box模型以及递归反向传播算法等知名的PAAM网络。

PAAM的显著特征是其状态空间中的轨迹会收敛到点吸引子。因此，PAAM的基本原理由其动力学特性所决定，这种动力学将网络的初始状态映射到最终状态。最终状态即为与记忆项对应的点吸引