18、随机变量与信号的参数估计及相关理论

随机变量与信号的参数估计及相关理论

1. 高维随机变量

在实际情况中，可能存在多个相互依赖的随机变量。对于两个离散变量 (X) 和 (Y)，基于 (N_{m,x}) 和 (N_{m,y}) 个基本事件，可根据联合概率质量函数（PMF）定义联合累积分布函数（CDF）：
[F_{XY}(x, y) \triangleq F_{XY}(X = x(i), Y = y(i)) = p_{XY}(X \leq x(i), Y \leq y(i))]
对于连续变量，联合概率密度函数（PDF）可通过对联合 CDF 求二阶偏导得到：
[f_{XY}(x, y) = \frac{\partial^2 F_{XY}(x, y)}{\partial x \partial y}]
对于两个随机变量的函数 (g(x, y))，其期望值对于离散变量和连续变量分别有不同的计算方式：
- 离散变量：(E{g(x, y)} = \sum_{x} \sum_{y} g(x, y) p_{XY}(x, y))
- 连续变量：(E{g(x, y)} = \int_{-\infty}^{\infty} \int_{-\infty}^{\infty} g(x, y) f_{XY}(x, y) dx dy)

两个随机变量的独立性定义为：若一个变量的实现不影响另一个变量的概率分布，则称这两个变量（统计或随机）独立。对于离散变量和连续变量分别满足：
- 离散变量：(p_{XY}(x, y) = p_X(x) p_Y(y))
- 连续变量：(f_{XY}(x, y) = f_X(x) f_Y(y))

为衡量两个随机变量之间的线性程度，引入了相关和协方差