系统辨识 system identification（进阶篇）

最新推荐文章于 2024-03-06 21:14:06 发布

原创

最新推荐文章于 2024-03-06 21:14:06 发布 · 3.5k 阅读

23 ·

CC 4.0 BY-SA版权

本文详细介绍了基于有限数据窗的系统辨识方法，包括固定记忆的RLS、引入遗忘因子的FDW-FF-RLS以及加权迭代最小二乘WRLS算法。此外，还探讨了扩展/广义最小二乘辨识以及基于辅助模型的辨识技术，如ARMAX和ARARX模型的辨识。这些算法在处理有限数据和复杂系统模型时展现出高效性和灵活性。

引言

根据基础篇，我们已经得知，对于一个辨识模型，我们可以得到其对应的最小二乘辨识估计值

$\begin{align*} identification\ model:\ y(t)&=\varphi^T(t)\theta+v(t)\\ identification\ LSE:\ \hat{\theta}(t)&=\hat{\theta}(t-1)+L(t)[y(t)-\varphi^T(t)\hat{\theta}(t-1)]\\ gain:\ L(t)&=\frac{P(t-1)\varphi(t)}{1+\varphi^T(t)P(t-1)\varphi(t)}\\ covariance\ matrix:\ P(t)&=[I-L(t)\varphi^T(t)]P(t-1) \tag{1.1}\end{}$

基于有限数据窗的系统辨识

固定记忆的 RLS

为了减少数据存储空间，提高运算效率，可以限制每次计算所用数据的数量，当新数据加入时，丢弃掉最前面的数据，保证参与计算的数据量恒定，以此保证每次计算都能有效的更新估计值。

上述方法中参与计算的恒定数据量有一个专门的名字，称为 有限数据窗(finite data window)

根据上述原理，接下来进行算法推演，设数据长度为 p，则

$\begin{align*} H(p,t)&=\left[\begin{array}{ccc}\varphi^T(t-p+1)\\...\\\varphi^T(t) \end{} \right ],\ Y(p,t)=\left[\begin{array}{ccc}y(t-p+1)\\...\\y(t) \end{} \right ],\\ J(\theta)&=\sum_{i=t-p+1}^{t}{(y(i)-\varphi^T(i)\theta)^2}\\ &=(Y(p,t)-H(p,t)\theta)^T(Y(p,t)-H(p,t)\theta) \end{}$

LSE 协方差矩阵 P 的递推关系也会发生改变

$\begin{align*} \because P^{-1}(t-1)&=H^T(p,t-1)H(p,t-1)\\ &=\left[\begin{array}{ccc}\varphi^T(t-p)\\...\\\varphi^T(t-1) \end{} \right ]^T_{p \times n}\left[\begin{array}{ccc}\varphi^T(t-p)\\...\\\varphi^T(t-1) \end{} \right ]_{p \times n}\\ \therefore P^{-1}(t)&=H^T(p,t)H(p,t)\\ &=\left[\begin{array}{ccc}\varphi^T(t-p+1)\\...\\\varphi^T(t) \end{} \right ]^T_{p \times n}\left[\begin{array}{ccc}\varphi^T(t-p+1)\\...\\\varphi^T(t) \end{} \right ]_{p \times n}\\ &=P^{-1}(t-1)+\varphi^T(t)\varphi(t)-\varphi^T(t-p)\varphi(t-p)\\ \end{}$

同样的，为了避免矩阵逆运算，此处也需要去逆操作，推理如下(此部分推理较为麻烦，可跳过看结论即可)

$\begin{align*} P^{-1}(t)&=P^{-1}(t-1)+\varphi^T(t)\varphi(t)-\varphi^T(t-p)\varphi(t-p)\\ denote\ Q^{-1}(t)&=P^{-1}(t-1)+\varphi^T(t)\varphi(t)\\ then\ Q(t)&=P(t-1)+\frac{P(t-1)\varphi(t)\varphi^T(t)P(t-1)}{1+\varphi^T(t)P(t-1)\varphi(t)}\\ P(t)&=Q(t)+\frac{Q(t)\varphi(t-p)\varphi^T(t-p)Q(t)}{1+\varphi^T(t-p)Q(t)\varphi(t-p)}\\ \end{}$

接下来顺水推舟，用得到的递推关系，求取 RLSE 如下

$\begin{align*} \because P(t)P^{-1}(t-1)&=I-P(t)\varphi^T(t)\varphi(t)+P(t)\varphi^T(t-p)\varphi(t-p)\\ and\ H^T(p,t-1)Y(p,t-1)&=H^T(p,t)Y(p,t)-\varphi(t)y(t)+\varphi(t-p)y(t-p)\\ \therefore \hat{\theta}(t)&=P(t)\left[\begin{array}{ccc} H(p-1,t)\\\varphi^T(t) \end{} \right ]^T \left[\begin{array}{cc}Y(p-1,t)\\y(t) \end{} \right ]\\ &=P(t)[H(p-1,t)^TY(p-1,t)+\varphi(t)y(t))\\ &=[I-P(t)\varphi^T(t)\varphi(t)+P(t)\varphi^T(t-p)\varphi(t-p)]\hat{\theta}(t-1)+P(t)\varphi(t)y(t)\\ &=\hat{\theta}(t-1)+P(t)[\varphi(t)\ -\varphi(t-p)]\left[\begin{array}{cc}y(t)-\varphi^T(t)\hat{\theta}(t-1)\\y(t-p)-\varphi^T(t-p)\hat{\theta}(t-1) \end{} \right ] \end{}$

此处注意，由于有限数据窗的定义，此处系数 P、H、Y 的递推不再是简单的添加一项，而是加一项的同时还需要去掉最前面一项，因此需要改变两个对应元素。

综上所述，这种方法称为 固定记忆的迭代最小二乘算法(fixed memery RLS)：

$\begin{align*} \hat{\theta}(t)&=\hat{\theta}(t-1)+P(t)[\varphi(t)\ -\varphi(t-p)]\left[\begin{array}{cc}y(t)-\varphi^T(t)\hat{\theta}(t-1)\\y(t-p)-\varphi^T(t-p)\hat{\theta}(t-1) \end{} \right ] \\ Q(t)&=P(t-1)-\frac{P(t-1)\varphi(t)\varphi^T(t)P(t-1)}{1+\varphi^T(t)P(t-1)\varphi(t)}\\ P(t)&=Q(t)+\frac{Q(t)\varphi(t-p)\varphi^T(t-p)Q(t)}{1-\varphi^T(t-p)Q(t)\varphi(t-p)} \end{}$

固定记忆的 RLS2

在上述的 FDW-RLS 中，有很多变量有重复的部分，但是各自存在特殊的项，因此，我们可以对辨识过程增加一个过渡环节，分两步进行辨识

$\begin{align*} let\ P_\alpha(t-1)&=[H^T(p-1,t-1)H(p-1,t-1)]^{-1}\\ then:\quad\qquad&\\ P^{-1}(t)&=P^{-1}_\alpha(t-1)+\varphi(t)\varphi^T(t)\\ P^{-1}(t-1)&=P^{-1}_\alpha(t-1)+\varphi(t-p)\varphi^T(t-p) \end{}$