9、递归最小二乘法技术解析

递归最小二乘法技术解析

1 递归最小二乘法概述

递归最小二乘法（Recursive Least-Squares, RLS）是一种强大的技术，它能将线性系统模型与输入 - 输出响应数据进行拟合，并使误差的平方和最小。为了适应非平稳系统和信号，我们可以开发一种具有有限信号数据记忆的递归形式，这样能让该技术更加实用。

1.1 传统方法的问题

若采用滑动记录的 N 个输入 - 输出信号样本进行块最小二乘法，会发现随着时间推移，每加入一个新样本，之前的 N - 1 个输入 - 输出样本及其相关性都要重新计算，这会产生大量冗余计算。

1.2 递归方法的优势

通过为输入数据自相关和输入 - 输出数据互相关编写递归矩阵方程更新式，我们只需将当前输入 - 输出信号数据的必要项添加到先前的相关估计中，从而节省大量冗余计算。而且，精确高效的自适应建模算法通常需要的总体计算量最少，因为每个算术运算都可能引入数值误差，所以冗余计算越少越好。

1.3 指数衰减记忆窗口

为使递归最小二乘法具有适应性，我们定义了指数衰减记忆窗口。该窗口对最新数据的权重最大，会逐渐“遗忘”较旧且可能与当前模型不相关的信号数据。以风速测量为例，假设线性记忆窗口长度参数为 N，当 N 取不同值时，对应的系数 α 和 β 会有不同取值，能对平均风速进行无偏估计。若在第 100 个样本时固定 α = 0.99 和 β = 0.01，就相当于创建了一个长度约为 100 个样本的指数加权数据记忆窗口。此时，100 个样本之前的风速样本在当前平均风速估计中的权重会降低为 1 / e。这种“遗忘因子”可看作是一个低通移动平均滤波器，能在平均短期湍流的同时