67、信号处理中的参数估计与线性时不变系统建模

信号处理中的参数估计与线性时不变系统建模

1. 参数估计基础

在信号处理中，我们常常需要用一个单一的常量来估计一个随机信号。为了实现这一目标，我们希望最小化均方误差（MSE），而非之前的累积平方误差。均方误差的表达式如下：
[
EMS = E\left{ \left( x [n] - \hat{x} [n] \right)^2 \right} = E\left{ \left( x [n] - c \right)^2 \right}
]
这里，我们要找到一个常量 ( c ) 来在感兴趣的区域内表示信号 ( x [n] )。如果信号 ( x [n] ) 是平稳的，我们可以通过对参数 ( c ) 求导来找到这个估计问题的简单解：
[
\frac{\partial EMS}{\partial c} = -E \left{ 2(x [n] - c) \right}
]
令上式等于 0，可得：
[
0 = -2E \left{ x [n] \right} + 2c
]
解得：
[
c = m_x
]
这个解相当于确定性最小二乘估计问题的随机版本，即对于一个广义平稳（WSS）随机信号，最小均方误差（MMSE）的常量估计就是该信号的均值。

2. 线性时不变系统的参数模型

在信号处理领域，参数估计常用于对生成或作用于感兴趣信号的系统进行建模。我们从线性时不变（LTI）系统开始研究参数系统模型，这类系统在数学上易于处理，并且能代表许多实际中的系统，如电子电路、平稳环境中的声学传播以及数字信号处理滤波器等。此外，LTI 系统常常是更复杂的非