15、点吸引子联想记忆:模型、动力学与编码策略

点吸引子联想记忆:模型、动力学与编码策略

1. 点吸引子联想记忆概述

动态系统是状态随时间变化的系统,如由一组微分或差分方程控制的系统。反馈神经网络作为一种特殊的动态系统,可作为联想记忆发挥作用。从动态系统的角度看,反馈神经网络是大规模、非线性且耗散的系统,其状态轨迹可能收敛到低维流形。若流形为单点,则称为点吸引子;若轨迹呈周期性轨道,则称为稳定极限环。吸引子均为点吸引子的动态系统称为点吸引子动态系统,若该系统的吸引子对应或包含待记忆的原型模式,则它是点吸引子联想记忆(PAAM)。

PAAM 在生物和人工系统的联想记忆过程建模中具有重要作用,因此得到了广泛研究。下面将在统一框架下回顾和推广基本模型及相关理论,并开发新的设计和分析技术。

2. 神经网络模型
2.1 广义模型与示例

具有动态特性的神经网络通常称为动态神经网络(DNN),一般由微分方程或差分方程描述:
- 微分方程:$\frac{d}{dt}x_i(t) = F_i(t, x(t)), i = 1, 2, …, N$
- 差分方程:$x_i(t + 1) = G_i(t, x(t)), i = 1, 2, …, N$

其中,$x(t) = (x_1(t), x_2(t), …, x_N(t))^T \in \mathbb{R}^N$ 是状态变量,$\mathbb{R}^N$ 是状态空间,$F_i$ 和 $G_i$ 通常是非线性函数。状态空间可以是欧几里得空间或其子集,也可以是非欧几里得空间。

神经网络由大量相互连接的处理单元(神经元)组成。为了了解神经网络如何由上述方程建模,先考虑单个神经元的可能模型。常见的模型

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符  | 博主筛选后可见
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值