5、神经网络最优模型设计

神经网络最优模型设计

1. 最优模型的一般结构

最优神经网络模型是根据所选的主要优化准则，对输入信号 $[x(n), \varepsilon(n)]$ 进行最优变换，并获取输出信号 $y(n)$。其结构中，上方单元代表受控系统，下方单元代表调整受控系统的最优模型。

在学习模式下，模式识别系统最优模型的设计通常是学习输入信号的任意特征，这些输入信号代表两种、$K$ 种或连续的模式类别。神经网络的解空间具有不同的情况，解的数量可以是任意的，解空间有两种、$K$ 种和连续的灰度等级。监督指令和解的特征是先验且独立选择的。

最优模型的设计依据所选的主要优化准则进行，模型描述以分割面的形式呈现。分割面将多维特征空间划分为不重叠的区域，并指示每个区域所属的类别。

以下是根据输入信号特征和解空间对神经网络进行的分类（以一维信号 $y(n)$ 和 $\varepsilon(n)$ 为例）：
| 类型 | 模式类别 | 解的数量 | 输出信号特点 | 监督指令特点 |
| ---- | ---- | ---- | ---- | ---- |
| 1 | 2 种 | 二进制输出 | 离散 | 离散 |
| 2 | $K$ 种 | $K$ 个 | 离散 | 离散 |
| 3 | 2 种 | 2 个 | 离散 | 离散 |
| 3a | 2 种 | - | 离散 | 离散 |
| 3b | 2 种 | $K_p$ 个（$K_p\geq4$） | 离散 | 离散 |
| 4 | $K$ 种 | $K_p - 1$ 个 | 离散 | 离散 |
| 5 | 2 种 | 连续 | 非离散 | 离散 |