18、随机变量与信号的参数估计及相关理论

随机变量与信号的参数估计及相关理论

在实际应用中，我们常常会遇到需要处理多个可能存在依赖关系的随机变量的情况。下面我们将深入探讨高维随机变量、随机信号，以及基于噪声测量的变量或参数估计等相关内容。

高维随机变量

当存在多个受概率实验影响的随机变量时，我们称它们为联合随机变量。以两个离散变量 (X) 和 (Y) 为例，基于 (N_{m,x}) 和 (N_{m,y}) 个基本事件，联合累积分布函数（CDF）可基于联合概率质量函数（PMF）定义为：
[F_{XY}(x, y) \triangleq F_{XY}(X = x(i), Y = y(i)) = p_{XY}(X \leq x(i), Y \leq y(i))]
对于连续变量，联合概率密度函数（PDF）可通过如下方式计算：
[f_{XY}(x, y) = \frac{\partial^2 F_{XY}(x, y)}{\partial x \partial y}]
给定两个随机变量的函数 (g(x, y))，其期望值对于离散变量可表示为：
[E{g(x, y)} = \sum_{x} \sum_{y} g(x, y) p_{XY}(x, y)]
对于连续变量则为：
[E{g(x, y)} = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x, y) f_{XY}(x, y) dx dy]

在研究两个随机变量时，我们关注它们之间的关系，即一个变量的变化是否会导致另一个变量的变化。由此引入独立性的概念：
- 独立性定义 ：两个随机变量 (X) 和 (Y) 若满足一