自适应控制-系统辨识部分-Part2

自适应控制

08-基于梯度校正的递推参数辨识方法（梯度校正辨识）

一、基于梯度校正的递推辨识方法的思想

• 参数估计问题本身即为多元函数的寻优问题，梯度方向为函数值变化最快的方向。

二、离散系统梯度校正参数递推辨识算法

1. 考虑如下模型：

$$\begin{gathered} y(k)={\phi }^T(k)\theta (k)+e(k) \\ e(k)=y(k)-{\phi }^T(k)\theta (k) \end{gathered}$$

​ 目标是寻找 $\theta$ 使指标 $J$ 最小：
$$\begin{gathered} J=\frac{1}{2}{e}^2(k) \\ \frac{\partial J}{\partial \theta }=-\phi (k)\left(y(k)-{\phi }^T(k)\theta (k)\right) \end{gathered}$$
​ 参数学习公式：
$$\hat{\theta }(k+1)=\hat{\theta }(k)+R(k+1)\phi (k)\left(y(k)-{\phi }^T(k)\hat{\theta }(k)\right)$$
​ 其中， $R(k)$ 为加权矩阵。

2. 若是希望一步预测误差最小：假设 $k$ 为当前时刻：

$$e(k+1)=y(k+1)-{\phi }^T(k+1)\theta (k)$$

​ 目标是寻找 $\theta$ 使指标 $J$ 最小：
$$\begin{gathered} J=\frac{1}{2}{e}^2(k+1) \\ \frac{\partial J}{\partial \theta }=-\phi (k+1)\left(y(k+1)-{\phi }^T(k+1)\theta (k)\right) \end{gathered}$$
​ 参数学习公式：
$$\hat{\theta }(k+1)=\hat{\theta }(k)+R(k+1)\phi (k+1)\left(y(k+1)-{\phi }^T(k+1)\hat{\theta }(k)\right)$$
​ 其中， $R(k)$ 为加权矩阵。

3. 问题：
   1. 为什么以某一时刻的误差为优化指标？合理吗？
   2. 能否用观测点处的梯度信息代替均值或者累积和关于待定参数的梯度？

三、梯度校正的递推辨识举例

• 例1：

  1. 系统方程：
     $$y(k)=-0.2y(k-1)-0.35y(k-2)+u(k-1)+2u(k-2)+e(k)$$

  2. MATLAB程序：C08P08_example1.m

  3. $R(k)$ 越小收敛越慢，$R(k)$ 太大可能发散。

四、一般迭代法

1. 目标：

   ​ 寻找最小化指标 $J$ 的 ${\theta }^{\ast }$ ：

$$J({\theta }^{\ast })\le J(\theta )$$

2. 基本思想：

   ​ 从某一初始参数 ${\theta }_1$ 出发，产生一系列的参数点 ${\theta }_1,{\theta }_2,\dots ,{\theta }_N,\dots$ ，并希望这一序列能够收敛到使指标 $J$ 最小的参数值。从工程应用的角度来讲，只要N取得足够大，我们即可以用 ${\theta }_N$ 作为 ${\theta }^{\ast }$ 的近似值。

3. 可接受的方向：

   ​ 点列可以随机选择，也可以在初始参数的基础上，沿着一个方向选择，记该方向为 $\nu$ 。假设 $i$ 时刻已选择了参数 ${\theta }_i$ ，希望下一个参数 ${\theta }_{i+1}$ 使得优化指标 $J$ 更小，即：

$$J({\theta }_{i+1})<J({\theta }_i)$$

​ 如果以上不等式成立，称 $(i+1)$ 步为可接受的。如果迭代过程中的每一步的方向都是可以接受的，则称该迭代算法是可以接受的。

4. 定理;

​ 一个方向 $\nu$ 是可接受的，充要条件是存在一个正定矩阵 $R$ ，使得
$$\nu =-R{q}_{i+1}$$
​ 其中，$q_{i+1}=\frac{\partial J}{\partial {\theta }_{i+1}}$ 。

4. 迭代流程：

   1. 给出估计值 ${\theta }_i$ ，并置 $i=1$ ；

   2. 确定一个向量 ${\nu }_i$ 作为第 $i$ 步的方向；

   3. 确定一个合理的标量因子 ${\rho }_i\ge 0$ ，使得：$\theta (i+1)=\theta (i)+{\rho }_i{\nu }_i$ 是可接受的；

   4. 检验停机准则是否满足要求，如果不满足，则 $i=i+1$ ；如果满足，则取 $\hat{\theta }=\theta (i+1)$ 。

   5. 考虑第 $i+1$ 步迭代，假设参数 ${\theta }_i$ 沿着既定的方向 $\nu$ 做如下改变：
      $${\theta }_{i+1}={\theta }_i+\rho \nu$$
      其中，$\rho \ge 0$ ，此时，指标函数 $J$ 可表示为：
      $$\begin{gathered} J({\theta }_{i+1})=J({\theta }_i+\rho \nu ) \\ \frac{dJ}{d\rho }={\left(\frac{\partial J}{\partial {\theta }_{i+1}}\right)}^T\nu \end{gathered}$$
      令 $q_{i+1}=\frac{\partial J}{\partial {\theta }_{i+1}}$ ，则有：
      $$\frac{dJ}{d\rho }=q_{i+1}^T\nu <0$$
      是可接受条件。因为此时只要 $\rho$ 充分小，则存在 $\rho \nu$ 是可接受的。

      根据上述定理，有：
      $${\theta }_{i+1}={\theta }_i+\rho \nu ={\theta }_i-\rho R{q}_{i+1}={\theta }_i-{\rho }_{i+1}{R}_{i+1}{q}_{i+1}$$
      其中，$\rho \ge 0$ 。当 $R=I$ 时，即为梯度下降法：
      $${\theta }_{i+1}={\theta }_i-{\rho }_{i+1}{q}_{i+1}$$
      随着目标函数接近最优值时，收敛速度会越来越慢。

09-模型阶次的确定方法（模型结构辨识基础）

一、概述

1. 直接利用特定的“输出信息”估计模型阶次：“脉冲响应法”；
2. 直接利用“输入输出信息”估计模型阶次：“行列式比”定阶法；
3. 利用模型“残差序列”的信息估计模型阶次：“F检验法”；

​ 模型残差：$$\tilde{E}(N)=Y(N)-\Phi (N)\hat{\theta }(N)$$

4. 利用模型的“预报误差”的信息估计模型阶次：“FPE定阶法”；
5. AIC准则方法：选择使得以下AIC准则取得最小值的阶次：

$$AIC(n)=-2\log L(\hat{\theta })+2n$$

​ 其中，$L(\hat{\theta })$ 表示似然函数。

二、根据Hankel矩阵的秩估计模型的阶次原理

​ 设过程的真实阶数为 $n_0$ ，过程的脉冲响应序列记作 $g(1),g(2),\dots ,g(L)$ ，构造如下Hankel矩阵：
$$H(l,k)=[\begin{array}{cc}g(k)& g(k+1)\\ g(k+1)& g(k+2)\\ ⋮& ⋮\\ g(k+l-1)& g(k+l)\end{array}$$