27、并行自组织分层系统与生物神经元网络动力学研究

并行自组织分层系统与生物神经元网络动力学研究

1. 并行自组织分层系统（PSHNN）概述

并行自组织分层系统（PSHNN）具有诸多优势，如采用小模块便于快速学习，测试时可并行实现小模块，收敛速度快，能更好地减少数值误差，还适合其他神经网络（如之前讨论的RBP算法）学习输入的非线性变换。

1.1 PSHNN的优势分析

• 模块易实现 ：每个阶段作为一个模块进行训练，比训练整个网络容易得多。
• 测试可并行 ：所有阶段在测试时可以并行处理。若不采用并行阶段实现的复杂度表示为 (f(N))（(N) 为输入向量的长度），那么测试时前向 - 后向训练算法的并行复杂度为 (f(K))，其中 (K = N/M)，(M) 为阶段数。

1.2 问题分解与训练

将输入向量及其通过非线性变换生成的向量视为一个长向量的分解，PSHNN技术可将大问题分解为多个小问题，这些小问题通过误差和前向 - 后向训练相互关联。一些技术（如广义判别函数、高阶网络和函数链接网络）会在输入处生成额外节点，之后可通过delta规则训练单个总网络。而小模块的前向 - 后向训练使得在VLSI等中实现成为可能，收敛时，其解与伪逆解近似相同（忽略可能的数值问题）。

2. PSHNN的近期应用

2.1 模糊输入信号表示

模糊输入信号表示方案作为预处理模块，可将语言形式的不精确输入以及精确的数值输入转换为多维数值，再在PSHNN中进一步处理。具体步骤如下：
1. 推导隶属函数