点吸引子联想记忆:模型、动力学与编码策略
1. 点吸引子联想记忆概述
动态系统是状态随时间变化的系统,如由一组微分或差分方程控制的系统。反馈神经网络作为一种特殊的动态系统,可作为联想记忆发挥作用。从动态系统的角度看,反馈神经网络是大规模、非线性且耗散的系统,其状态轨迹可能收敛到低维流形。若流形为单点,则称为点吸引子;若轨迹呈周期性轨道,则称为稳定极限环。吸引子均为点吸引子的动态系统称为点吸引子动态系统,若该系统的吸引子对应或包含待记忆的原型模式,则它是点吸引子联想记忆(PAAM)。
PAAM 在生物和人工系统的联想记忆过程建模中具有重要作用,因此得到了广泛研究。下面将在统一框架下回顾和推广基本模型及相关理论,并开发新的设计和分析技术。
2. 神经网络模型
2.1 广义模型与示例
具有动态特性的神经网络通常称为动态神经网络(DNN),一般由微分方程或差分方程描述:
- 微分方程:$\frac{d}{dt}x_i(t) = F_i(t, x(t)), i = 1, 2, …, N$
- 差分方程:$x_i(t + 1) = G_i(t, x(t)), i = 1, 2, …, N$
其中,$x(t) = (x_1(t), x_2(t), …, x_N(t))^T \in \mathbb{R}^N$ 是状态变量,$\mathbb{R}^N$ 是状态空间,$F_i$ 和 $G_i$ 通常是非线性函数。状态空间可以是欧几里得空间或其子集,也可以是非欧几里得空间。
神经网络由大量相互连接的处理单元(神经元)组成。为了了解神经网络如何由上述方程建模,先考虑单个神经元的可能模型。常见的模型
超级会员免费看
订阅专栏 解锁全文
1698

被折叠的 条评论
为什么被折叠?



