14、随机信号与随机过程入门

随机信号与随机过程入门

1. 引言

概率是用于建模随机实验的抽象概念。将随机实验的每个结果映射为实数，即随机变量，为概率模型的研究提供了新框架。这种映射便于直观理解和数学处理。随机变量可进一步扩展到随时间变化的信号，形成随机过程，它可以在连续或离散时间中演变。

随机过程的完整描述通常较为复杂，难以应用于实际情况。不过，平稳性和遍历性等简化特性，使得随机过程能够用于解决生物学、经济学和通信等多个领域的问题。

2. 概率

概率模型可用于描述和研究难以精确预测的现象。为了建立概率的精确框架，需要定义随机实验，每次实验会产生一个结果 (s)，所有可能结果的集合就是样本空间 (S)。在这个背景下，我们关注的是实验的一次试验产生的结果 (s) 属于期望集合 (A \subset S) 的概率，即事件 (A) 发生的概率。

概率有两种不同的观点：主观主义和客观主义。主观主义认为概率衡量的是某人对某一事件发生的相信程度，而客观主义则认为概率源于具体的现实。从客观主义（或频率主义）的角度来看，定义概率有以下几种方法：
- 古典或先验方法 ：对于可能结果 (s) 等可能出现的实验，事件 (A) 的概率定义为可接受结果的数量 (N(A)) 与可能结果的数量 (N(S)) 之比，即 (P(A) = \frac{N(A)}{N(S)})。例如，抛一枚公平的硬币，样本空间 (S = {正面, 反面})，则 (P({正面}) = P({反面}) = 0.5)。
- 相对频率或后验方法 ：事件 (A) 在给定实验的一次试验中发生的概率，可以通过取成功次数 (n_A) 与实验