15、线性回归模型类中复杂系统的识别

线性回归模型类中复杂系统的识别

1. 引言

系统识别，即从实验数据构建其数学模型的问题由来已久。众多研究各类系统行为的科学家，以及需要数学模型来解决分析和综合问题的控制专家，都在开展相关研究。

从实际应用角度来看，输出和输入变量的不确定性问题极具吸引力，这类识别问题被称作“变量误差”（EIV）。此前已有诸多科学家对其进行研究，主要聚焦于获取无偏参数估计和一致性问题。

以往在EIV识别中采用了不同方法，例如用图度量描述不确定动态系统，且假定误差为独立同分布的测量噪声。近期还提出了图子空间方法并推导了新的估计算法。

而这里探讨的是一种不同的方法来解决EIV识别问题，对数据中的不确定性有不同解读。我们假定误差是随机分布但幅度受限的，数据序列虽大但有限，这种对系统的初始信息比随机情况更符合实际。该方法专注于受控系统的识别，允许使用相当任意的输入信号，便于在主动实验中收集数据。不过，基于不准确数据识别大维度甚至无限维度的系统问题通常是不适定的，此时获取无偏估计变得不可能，正则化解可能给出比原系统维度更低的近似模型，所以该识别方法需先确定保证稳定性的模型大小，再进行参数估计。

2. 主动实验与信息数据

对于大维度或无限维度的系统，获取无偏估计意义不大，我们假定识别的模型维度可能小于原系统。EIV识别问题中初始数据存在误差，常使其变为不适定问题，导致任何识别方法对输入数据的随机误差都极为敏感，重新识别会得到差异显著的参数估计，这样的解实际用处不大。

因此，识别时建议采用正则化确保解的稳定性，只寻找和使用参数对误差不太敏感的模型，找到与数据误差精度一致的近似解即可。自然，这种情况下所得模型的精度会受限，可将所求模