5、监督学习中的进化连接主义方法

监督学习中的进化连接主义方法

在监督学习领域，有多种连接主义方法发挥着重要作用。这些方法不仅在模型适应性和可进化性方面表现出色，还具备规则提取和模式/知识发现的能力，为知识工程的发展提供了有力支持。

1. 连接主义监督学习方法

连接主义监督学习系统从数据对 (x, y) 中学习，其中输入向量 x 对应的期望输出向量 y 是已知的。若模型具有增量适应性，新数据将用于逐步调整系统的结构和功能。

1.1 一般概念

在学习过程中，用于优化学习模型结构的目标函数可以是全局的，也可以是局部的。当系统进行增量训练时，系统对输入流中下一个新输入向量（或多个向量）的泛化误差称为局部增量自适应泛化误差。在时刻 t，当输入向量为 x(t)，系统计算的输出向量为 y(t)’ 时，局部增量自适应泛化误差可表示为 Err(t) = ||y(t) - y(t)’||。

局部增量自适应均方根误差 (LRMSE) 和局部增量自适应无量纲误差指数 (LNDEI) 可在每个时刻 t 计算：
[
LRMSE(t) = \sqrt{\frac{\sum_{i = 1}^{t} Err(i)^2}{t}}
]
[
LNDEI(t) = \frac{LRMSE(t)}{std(y(1):y(t))}
]
其中，std(y(1):y(t)) 是从时间单位 1 到时间单位 t 的输出数据点的标准差。

在一般情况下，全局泛化均方根误差 (RMSE) 和无量纲误差指数在一组 p 个新的（未来的）测试示例上进行评估：
[
RMSE = \sqrt{\frac{\sum_{i = 1}