16、神经网络理论：现状、问题与应用

神经网络理论：现状、问题与应用

1. 神经网络理论概述

神经网络理论如今已发展成一门独立的科学分支，其主要关注点在于解决复杂的实际问题。以下是一些关键的基础问题：
- 连续神经网络 ：这类网络在输入通道、各层神经元等方面被视为连续体。
- 神经网络可靠性 ：确保网络在各种情况下稳定、准确地运行。
- 变换不变性神经网络 ：能够在诸如平移、旋转、模式或信号缩放等变换下保持不变性。
- 带自适应电路的神经网络分析描述 ：可借助吉尔线性顺序机技术等实现。

随着神经网络理论领域的科学研究日益增多，需要采用分析方法对解决神经网络综合问题的不同方法进行详细分类。而此类方法最重要的应用领域之一，是为多层神经网络综合选择在每种特定情况下所需的先验信息。

1.1 先验信息的重要性

先验信息对于多层神经网络的设计和性能有着至关重要的影响。以下是一些关键的先验信息类别：
|序号|先验信息类别|具体说明|
| ---- | ---- | ---- |
|1|神经网络教师指令空间的先验特征|模式类的数量（2、K、连续体）|
|2|神经网络输入信号的先验非平稳特征|输入信号的特性，如是否随时间变化等|
|3|神经网络教师资格函数|由表示相应类索引的两个参数构成|
|4|“教师对自身能力的倾向”函数|同样由表示相应类索引的两个参数构成|
|5|类出现的先验概率|各类别出现的可能性|
|6|神经网络解空间的先验特征|解空间的性质，如