68、信号处理中的参数估计与模型阶数选择

信号处理中的参数估计与模型阶数选择

在信号处理领域，我们常常需要根据系统的输入来估计或预测其输出。当系统未知但有过去的输入和输出信号时，我们可以使用参数估计来创建系统的近似模型，并将该模型应用于未来的输入信号。下面将详细介绍联合过程估计、顺序建模以及模型阶数估计的相关内容。

1. 联合过程估计与顺序建模

联合过程估计是指估计与已知输入信号相关的期望输出信号的过程，它与自适应滤波算法密切相关，自适应滤波算法会随着新数据的接收迭代更新模型的参数。联合过程估计问题主要有以下三种变体：

1.1 批量联合过程估计

• 随机情况 ：假设输入和输出信号是联合广义平稳（WSS）的，且已知二阶统计量。要最小化的差异形式为：
• ({h_{MMSE} [k]} {k = 0}^{p} = \arg\min { {h[k]}_{k = 0}^{p}} E\left[\left(d [n] - \hat{d} [n]\right)^2\right])
• 其中，(\epsilon_{MMSE} = E\left[\left(d [n] - \sum_{k = 0}^{p} h[k]x [n - k]\right)^2\right])
• 通过对该二次表达式关于每个未知参数求导，可得到一组方程，最终可表示为矩阵形式：
  • (\begin{bmatrix}R_{xx} [0] & \cdots & R_{xx} [p] \ \vdots & \ddots & \vdots \