2、用于系统识别与控制的正交函数神经网络

用于系统识别与控制的正交函数神经网络

1. 引言

在动态系统的识别和控制领域，一类采用正交函数作为神经元激活函数的神经网络展现出了独特的优势。这类网络能以灵活的方式模拟和控制动态系统，有望解决传统神经网络在该领域应用时面临的诸多问题。

2. 正交激活函数神经网络背景

2.1 人工神经网络基础

人工神经网络是一种信息处理和建模系统，它模仿生物系统的学习能力，用于理解未知过程及其行为。其核心组成部分包括大量相互连接的神经元，输入信号刺激神经元产生输出信号，输出信号经加权后作为输入传递给其他连接的神经元，权重值反映了信号的传递强度。神经网络的学习通过在动态训练过程中根据学习规则修改权重来实现，以逼近期望的规格。

神经网络的行为由三个基本要素决定：
- 神经元（激活函数） ：选择激活函数的基本要求是神经网络能够在数学上映射目标过程的广泛线性和非线性输入 - 输出关系。常见的激活函数包括Sigmoid函数、布尔函数、径向基函数或它们的组合。
- 神经元连接模式 ：主要有前馈和递归两种基本网络模式。前馈网络中，所有信号从输入层流向输出层，无反馈路径；递归网络则存在许多信号循环，提供反馈以提高学习稳定性和正确性，但可能引入计算复杂性和局部极小值问题。部分神经网络设计采用子网中的部分反馈，以在局部获得递归网络的优势，同时不牺牲整个网络的性能。
- 学习规则 ：神经网络学习是一个自组织过程，允许网络基于训练信息形成自己的表征。在监督学习中，通过调整神经网络权重，使输出在响应相同输入时尽可能接近被识别过程的输出