脉冲SICNN与Hopfield神经网络中的混沌现象研究
1. 脉冲SICNN中的混沌行为
在神经网络研究中,脉冲SICNN(Spatially Inhibitory Cellular Neural Network)的混沌行为是一个重要的研究方向。当外部输入呈现混沌特性时,脉冲SICNN会表现出相应的混沌行为。为了说明这一现象,我们将通过具体的例子来进行阐述。
1.1 第一个SICNN示例
考虑如下的SICNN:
[
\frac{dx_{ij}(t)}{dt} = -a_{ij}x_{ij}(t) - \sum_{C_{hl} \in N_1(i, j)} C_{ij}^{hl} f(x_{hl}(t))x_{ij}(t) + L_{ij}(t)
]
其中 (i, j = 1, 2, 3),并且参数矩阵如下:
[
\begin{pmatrix}
a_{11} & a_{12} & a_{13} \
a_{21} & a_{22} & a_{23} \
a_{31} & a_{32} & a_{33}
\end{pmatrix} =
\begin{pmatrix}
6 & 8 & 10 \
1 & 9 & 4 \
12 & 7 & 5
\end{pmatrix}
]
[
\begin{pmatrix}
C_{11} & C_{12} & C_{13} \
C_{21} & C_{22} & C_{23} \
C_{31} & C_{32} & C_{33}
\end{pmatrix} =
\begin{pmatrix}
0.004 & 0.002 & 0 \
0.006 & 0.008 & 0.005 \
0.009 & 0.007 & 0.003
\end{pmatrix}
]
在这个网络中,我们设置 (L_{ij}(t) = R_{ij}(t, \zeta)),其中中继函数 (R_{ij}(t, \zeta)) 定义为:
[
R_{ij}(t, \zeta) =
\begin{cases}
\alpha_{ij}, & \text{如果 } \zeta_{2q} < t \leq \zeta_{2q + 1} \
\beta_{ij}, & \text{如果 } \zeta_{2q - 1} < t \leq \zeta_{2q}
\end{cases}
]
这里,(\zeta_q)((q \in Z))表示切换时刻,并且对于所有的 (i) 和 (j) 都是相同的。序列 (\zeta = {\zeta_q}) 通过公式 (\zeta_q = q + \vartheta_q)((q \in Z))定义,其中序列 ({\vartheta_q})((\vartheta_0 \in [0, 1]))由逻辑映射 (\vartheta_{q + 1} = 3.9\vartheta_q(1 - \vartheta_q)) 生成,该映射在Li - Yorke意义下是混沌的。
我们考虑 (f(s) = 0.6\sqrt{s}) 且对于所有的 (i, j) 有 (\alpha_{ij} = 1.5),(\beta_{ij} = 0.4) 的情况。根据相关研究结果,当 (\zeta_0 \in [0, 1]) 时,该SICNN呈现混沌运动,并且对应不同 (\zeta_0) 值的有界解集合 (L) 是一个Li - Yorke混沌集,对于每个自然数 (\rho) 都包含无限多个周期为 (2\rho) 的周期解。
例如,当 (\zeta_0 = 0.192),初始数据为 (x_{11}(t_0) = 0.1407),(x_{12}(t_0) = 0.1548),(x_{13}(t_0) = 0.1092),(x_{21}(t_0) = 0.9168),(x_{22}(t_0) = 0.1451),(x_{23}(t_0) = 0.3276),(x_{31}(t_0) = 0.1046),(x_{32}(t_0) = 0.0992),(x_{33}(t_0) = 0.2518)(其中 (t_0 = 0.192))时,该SICNN的每个单元都表现出混沌特性。
1.2 脉冲SICNN示例
接下来,我们考虑脉冲SICNN:
[
\begin{cases}
\frac{dy_{ij}(t)}{dt} = -a_{ij}y_{ij}(t) - \sum_{C_{hl} \in N_1(i, j)} C_{ij}^{hl} f_1(y_{hl}(t))y_{ij}(t) + L_{ij}(t), & t \neq \theta_k \
\Delta y_{ij}|
{t = \theta_k} = b
{ij}y_{ij}(\theta_k) + \sum_{C_{hl} \in N_1(i, j)} D_{ij}^{hl} g_1(y_{hl}(\theta_k))y_{ij}(\theta_k) + I_{ij}^k
\end{cases}
]
其中 (i, j = 1, 2, 3),(f_1(s) = 0.4s^{7/2}),(g_1(s) = 0.2s^2),(\theta_k = 2k)((k \in Z)),(I_{ij}^k = 0.001) 对于每个 (i, j) 和 (k)。参数矩阵如下:
[
\begin{pmatrix}
a_{11} & a_{12} & a_{13} \
a_{21} & a_{22} & a_{23} \
a_{31} & a_{32} & a_{33}
\end{pmatrix} =
\begin{pmatrix}
7 & 4 & 8 \
5 & 9 & 6 \
10 & 7 & 5
\end{pmatrix}
]
[
\begin{pmatrix}
b_{11} & b_{12} & b_{13} \
b_{21} & b_{22} & b_{23} \
b_{31} & b_{32} & b_{33}
\end{pmatrix} =
\begin{pmatrix}
-0.5 & 0.6 & -0.4 \
0.4 & -0.5 & -0.3 \
0.7 & 0.5 & -0.2
\end{pmatrix}
]
[
\begin{pmatrix}
C_{11} & C_{12} & C_{13} \
C_{21} & C_{22} & C_{23} \
C_{31} & C_{32} & C_{33}
\end{pmatrix} =
\begin{pmatrix}
0.006 & 0.001 & 0.004 \
0 & 0.003 & 0.009 \
0.012 & 0.005 & 0
\end{pmatrix}
]
[
\begin{pmatrix}
D_{11} & D_{12} & D_{13} \
D_{21} & D_{22} & D_{23} \
D_{31} & D_{32} & D_{33}
\end{pmatrix} =
\begin{pmatrix}
0.001 & 0.005 & 0.007 \
0.009 & 0 & 0.008 \
0.006 & 0.003 & 0.002
\end{pmatrix}
]
定义函数 (\phi(v) = {\phi_{ij}(v)})(其中 (v = {v_{ij}}),(i, j = 1, 2, 3))如下:
[
\begin{cases}
\phi_{11}(v) = 3v_{11}^2 \
\phi_{12}(v) = \arctan(v_{12}) \
\phi_{13}(v) = 4(0.3 + 2v_{13})^3 \
\phi_{21}(v) = v_{21} \
\phi_{22}(v) = \tanh(10v_{22}) \
\phi_{23}(v) = v_{23}^{3/2} \
\phi_{31}(v) = 3v_{31} + \sin(v_{31}) \
\phi_{32}(v) = 2v_{32} + 0.1v_{32}^3 \
\phi_{33}(v) = \frac{5v_{33}}{1 + v_{33}}
\end{cases}
]
在系统中,我们设置 (L_{ij}(t) = \phi_{ij}(x(t))),即利用SICNN(8.3.34)的输出作为脉冲SICNN(8.3.35)的外部输入。
值得注意的是,非线性函数 (\phi) 在系统(8.3.34)的混沌吸引子所在的紧凑区域内满足不等式(8.3.28)。因此,元素形式为 (\phi(x(t)))((x(t) \in L))的集合 (L_{\phi}) 是Li - Yorke混沌的。
可以验证,对于网络(8.3.35),条件(C1) - (C9)成立,其中 (p = 1),(T = 2),(K = 4),(c = 0.04),(d = 0.041),(M = 0.0482),(L_0 = 0.3017),(b_0 = 0.4980238),(H_0 = 7.3109),(\lambda \approx 3.764998),(\delta \approx 0.045279)((\lambda) 和 (\delta) 的近似值保留小数点后六位)。根据定理8.3,网络(8.3.35)的动力学是Li - Yorke混沌的。
当使用图8.13中表示的SICNN(8.3.34)的解时,图8.14展示了脉冲SICNN(8.3.35)在初始数据 (y_{11}(t_0) = 0.0119),(y_{12}(t_0) = 0.0306),(y_{13}(t_0) = 0.0541),(y_{21}(t_0) = 0.1591),(y_{22}(t_0) = 0.0635),(y_{23}(t_0) = 0.0203),(y_{31}(t_0) = 0.0339),(y_{32}(t_0) = 0.0346),(y_{33}(t_0) = 0.0419)(其中 (t_0 = 0.192))下的输出。从图中可以看出,该SICNN呈现出混沌运动。图8.15展示了相同解在 (y_{13} - y_{21} - y_{33}) 空间的三维投影,进一步证实了网络动力学中存在混沌。
1.3 另一个脉冲SICNN示例
现在,我们考虑另一个脉冲SICNN:
[
\begin{cases}
\frac{dz_{ij}(t)}{dt} = -\tilde{a}
{ij}z
{ij}(t) - \sum_{\tilde{C}
{hl} \in N_1(i, j)} \tilde{C}
{ij}^{hl} f_2(z_{hl}(t))z_{ij}(t) + \tilde{L}
{ij}(t), & t \neq \eta_k \
\Delta z
{ij}|
{t = \eta_k} = \tilde{b}
{ij}z_{ij}(\eta_k) + \sum_{\tilde{C}
{hl} \in N_1(i, j)} \tilde{D}
{ij}^{hl} g_2(z_{hl}(\eta_k))z_{ij}(\eta_k) + \tilde{I}
{ij}^k
\end{cases}
]
其中 (i, j = 1, 2, 3),(f_2(s) = 0.6s^3),(g_2(s) = 0.1s^4),(\eta_k = 4k)((k \in Z)),(\tilde{I}
{ij}^k = 0.02(-1)^k) 对于每个 (i, j) 和 (k)。参数矩阵如下:
[
\begin{pmatrix}
\tilde{a}
{11} & \tilde{a}
{12} & \tilde{a}
{13} \
\tilde{a}
{21} & \tilde{a}
{22} & \tilde{a}
{23} \
\tilde{a}
{31} & \tilde{a}
{32} & \tilde{a}
{33}
\end{pmatrix} =
\begin{pmatrix}
0.3 & 0.5 & 0.2 \
0.4 & 0.9 & 0.2 \
0.6 & 0.7 & 0.4
\end{pmatrix}
]
[
\begin{pmatrix}
\tilde{b}
{11} & \tilde{b}
{12} & \tilde{b}
{13} \
\tilde{b}
{21} & \tilde{b}
{22} & \tilde{b}
{23} \
\tilde{b}
{31} & \tilde{b}
{32} & \tilde{b}
{33}
\end{pmatrix} =
\begin{pmatrix}
0.12 & 0.21 & 0.24 \
0.16 & 0.18 & 0.01 \
0.32 & 0.15 & 0.35
\end{pmatrix}
]
[
\begin{pmatrix}
\tilde{C}
{11} & \tilde{C}
{12} & \tilde{C}
{13} \
\tilde{C}
{21} & \tilde{C}
{22} & \tilde{C}
{23} \
\tilde{C}
{31} & \tilde{C}
{32} & \tilde{C}
{33}
\end{pmatrix} =
\begin{pmatrix}
0.002 & 0 & 0.007 \
0.001 & 0.004 & 0.003 \
0.005 & 0.009 & 0.008
\end{pmatrix}
]
[
\begin{pmatrix}
\tilde{D}
{11} & \tilde{D}
{12} & \tilde{D}
{13} \
\tilde{D}
{21} & \tilde{D}
{22} & \tilde{D}
{23} \
\tilde{D}
{31} & \tilde{D}
{32} & \tilde{D}
{33}
\end{pmatrix} =
\begin{pmatrix}
0.005 & 0.008 & 0.003 \
0.006 & 0.004 & 0.003 \
0.009 & 0.002 & 0.007
\end{pmatrix}
]
我们将通过数值方法展示当网络(8.3.34)和(8.3.36)弱连接时,SICNN(8.3.36)动力学中近周期不连续混沌的出现。
首先,考虑网络(8.3.36)在外部输入为常数函数的情况:
[
\begin{cases}
L_{11}(t) = 0.008 \
L_{12}(t) = 0.007 \
L_{13}(t) = 0.002 \
L_{21}(t) = 0.017 \
L_{22}(t) = 0.032 \
L_{23}(t) = 0.018 \
L_{31}(t) = 0.01
3 \
L_{32}(t) = 0.016 \
L_{33}(t) = 0.007
\end{cases}
]
此时,网络存在唯一的周期解。图8.16展示了SICNN(8.3.36)在初始数据 (z_{11}(0.5) = 0.0332),(z_{12}(0.5) = 0.0372),(z_{13}(0.5) = 0.0257),(z_{21}(0.5) = 0.0445),(z_{22}(0.5) = 0.0361),(z_{23}(0.5) = 0.0973),(z_{31}(0.5) = 0.0245),(z_{32}(0.5) = 0.0246),(z_{33}(0.5) = 0.0232) 下的输出,可以看到该输出趋近于网络(8.3.36)的周期解。
为了获得在图8.16所示的不连续周期解附近表现出混沌行为的运动,我们在SICNN(8.3.36)中使用以下外部输入:
[
\begin{cases}
L_{11}(t) = 0.008 + 0.035x_{11}(t) \
L_{12}(t) = 0.007 + 0.037x_{12}(t) \
L_{13}(t) = 0.002 + 0.032x_{13}(t) \
L_{21}(t) = 0.017 + 0.009x_{21}(t) \
L_{22}(t) = 0.032 + 0.084x_{22}(t) \
L_{23}(t) = 0.018 + 0.029x_{23}(t) \
L_{31}(t) = 0.013 + 0.083x_{31}(t) \
L_{32}(t) = 0.016 + 0.045x_{32}(t) \
L_{33}(t) = 0.007 + 0.023x_{33}(t)
\end{cases}
]
其中 (x(t) = {x_{ij}(t)}) 是SICNN(8.3.34)的输出。
对于SICNN(8.3.36),条件(C1) - (C9)成立,其中 (p = 2),(T = 8),(K = 1.8225),(c = 0.039),(d = 0.047),(M = 0.0026),(L_0 = 0.0478),(b_0 = 1.0099298),(H_0 = 0.6861),(\lambda \approx 0.146222),(\delta \approx 0.224958)((\lambda) 和 (\delta) 的近似值保留小数点后六位)。根据定理8.3,网络(8.3.36)在Li - Yorke意义下具有混沌特性。
利用图8.13中所示的SICNN(8.3.34)的解,图8.17展示了脉冲SICNN(8.3.36)在初始数据 (z_{11}(t_0) = 0.0561),(z_{12}(t_0) = 0.0353),(z_{13}(t_0) = 0.0412),(z_{21}(t_0) = 0.0706),(z_{22}(t_0) = 0.0451),(z_{23}(t_0) = 0.1381),(z_{31}(t_0) = 0.0572),(z_{32}(t_0) = 0.0367),(z_{33}(t_0) = 0.0379)(其中 (t_0 = 0.192))下的输出。可以观察到,该运动在图8.16所示的周期解附近表现出混沌行为。
2. Hopfield神经网络中的循环/环形混沌
Hopfield神经网络(HNNs)中的循环/环形混沌是一个值得深入研究的课题,这一研究与神经生物学家对大脑活动的研究密切相关。
2.1 混沌在神经网络中的作用
在现实世界与大脑活动的映射中,神经网络中的混沌现象具有重要作用。它可用于图像分割、信息处理和同步等方面。混沌的产生方式有两种:一种是神经网络自身产生的内源性混沌;另一种是外部混沌影响在网络输出中的体现,即外源性混沌。目前,内源性混沌在文献中已有广泛研究,而外源性混沌的研究相对较少,可能是由于缺乏完善的输入/输出机制。
神经生物学实验表明,混沌在大脑活动中扮演着重要角色。例如,当给兔子呈现已知和未知气味时,会得到不同类型的脑电图(EEG)信号。对于已知气味,信号呈现为极限环形式;对于未知气味,信号则表现为混沌。这表明确定性混沌在神经活动中用于学习新的感官模式,并确保持续访问先前学习的感官模式。此外,混沌动力学还可以增加神经网络的记忆容量,而周期性强迫神经网络振荡器模型也可能导致混沌。
2.2 Hopfield神经网络模型
Hopfield神经网络是连续时间动态系统,由以下非线性常微分方程描述:
[
C_i\frac{dp_i}{dt} = -\frac{p_i}{R_i} + \sum_{j = 1}^{N} w_{ij}f_j(p_j) + I_i, \quad i = 1, 2, \cdots, N
]
其中 (N) 是神经元的数量,(p_i) 是神经元 (i) 的总输入,有界单调可微函数 (f_j) 是作用在神经元 (j) 上的激活函数,(C_i) 和 (R_i) 分别是电容和电阻参数,(I_i) 是神经元 (i) 的外部输入,(w_{ij}) 是神经元 (i) 和 (j) 之间的突触连接值。
该方程也可以表示为等价形式:
[
\dot{p} = -Cp + Wf(p) + I
]
其中 (p = (p_1, p_2, \cdots, p_N)^T),对角矩阵 (C = diag{c_1, c_2, \cdots, c_N}) 与 (C_i) 和 (R_i) 相关,其对角元素为正,(W = (w_{ij})_{N\times N}) 是连接矩阵,(f(p) = (f_1(p_1), f_2(p_2), \cdots, f_N(p_N))^T),(I = (I_1, I_2, \cdots, I_N)^T) 是外部输入向量。
在大脑动力学中,神经元之间的弱突触连接是可观察到的。研究表明,大脑单元(如神经元、皮质柱和神经元模块)可以被建模为自治准周期振荡器。因此,研究具有弱连接的耦合神经网络的周期性或准周期解具有重要意义。
2.3 混沌扩展与控制
在Hopfield神经网络的研究中,我们关注混沌的扩展方式,主要包括以下几种:
- 混沌对极限环的夹带:将极限环变形为混沌环。
- 平衡点对循环混沌的吸引。
- 混沌对两个或更多极限环的夹带。
- 平衡点对混沌周期的吸引。
这些混沌扩展方式为Freeman提出的感觉皮层的“翅膀”概念提供了数学支持。同时,我们还讨论了混沌控制问题,这可以被视为学习和识别的理论基础。实验中大脑行为出现的极限环可能是由于稳定了翅膀中已存在的不稳定周期解,这种稳定可以通过外部扰动或控制(如Pyragas类型的控制)来实现。
通过在两个Hopfield神经网络之间建立弱连接,一个具有混沌吸引子,另一个具有吸引极限环或吸引环面,我们可以得到混沌周期/环面,即围绕极限环或环面表现出混沌行为的运动。
综上所述,脉冲SICNN和Hopfield神经网络中的混沌现象研究为理解神经网络的动力学行为提供了重要的理论基础。这些研究不仅有助于揭示大脑活动的奥秘,还在图像分割、信息处理和同步等领域具有潜在的应用价值。未来的研究可以进一步探索混沌现象的更多扩展方式和控制方法,以更好地利用混沌特性。
总结
| 研究内容 | 主要结论 |
|---|---|
| 脉冲SICNN | 当外部输入混沌时,网络呈现混沌行为,通过具体示例验证了Li - Yorke混沌特性 |
| Hopfield神经网络 | 混沌在大脑活动中具有重要作用,通过建立弱连接可实现混沌扩展和控制 |
流程图
graph LR
classDef process fill:#E5F6FF,stroke:#73A6FF,stroke-width:2px
A(脉冲SICNN研究):::process --> B(第一个SICNN示例):::process
A --> C(脉冲SICNN示例):::process
A --> D(另一个脉冲SICNN示例):::process
E(Hopfield神经网络研究):::process --> F(混沌在神经网络中的作用):::process
E --> G(Hopfield神经网络模型):::process
E --> H(混沌扩展与控制):::process
超级会员免费看
1425

被折叠的 条评论
为什么被折叠?



