20、随机过程：概念、示例与关键参数分析

随机过程：概念、示例与关键参数分析

1. 随机过程基础概念

随机过程是一个随时间变化的随机变量，用 (X(t; ξ)) 表示，其中 (X(t)) 代表 (t) 时刻过程的状态。与普通随机变量不同，随机过程不仅取值随机，还与时间相关。它不是单一的函数，而是一族函数，每个函数称为样本函数，每次实验观察到的一个样本函数就是该过程的一个实现或样本路径。随机过程的状态空间是随机变量 (X(t)) 所有可能取值的集合。

我们可以从多个角度看待随机过程：
- 作为时间的随机函数，有助于将物理现象与概率模型联系起来。
- 作为随机变量，便于开发分析随机过程的数学方法和工具。

另外，根据 (t) 和 (ξ) 的变化情况，随机过程有不同表现：
- (t) 和 (ξ) 都变化时，得到 (X(t)) 的一族函数。
- (ξ) 固定，(t) 变化时，(X(t)) 是关于时间的函数，即样本函数。
- (t) 固定，(ξ) 变化时，(X(t)) 是随机变量，等于 (t) 时刻随机过程的状态。
- (t) 和 (ξ) 都固定时，(X(t)) 是一个数值。

示例

• 示例 7.0.1 ：随机过程 (X(t) = A)，其中 (A) 在区间 ([0, 1]) 上均匀分布。其样本函数是在 (0) 到 (1) 之间与纵坐标相交的水平直线。
• 示例 7.0.2 ：抛硬币实验中，定义随机过程 (X(t; H) = sin(t))，(X(t; T) = cos(t))，样本函数是关于时间的连续函数。
• 示例 7.0.3 ：随机电报信号在 (-a) 和 (+a) 之间随机切换。假设 (t = 0) 时处于 (-a) 状态，保持一段时间 (T_1) 后切换到 (a) 状态，再保持到 (t = T_2) 又切换回 (-a) 状态，切换时间由泊松过程决定。

2. 常见随机过程

2.1 伯努利过程

电子公司生产电子设备，设备要么正常工作（成功，记为 “S”），要么不能工作（失败，记为 “F”）。生产过程可看作一系列独立重复事件，生产正常设备的概率为 (p)，生产故障设备的概率为 (q = 1 - p)，这就是伯努利过程，具有离散状态和参数空间。用 (X[k, s]) 表示，(k) 表示时间，(s) 表示实现或样本函数的编号。该过程将原始实验样本空间映射到数值样本空间。当 (p = 0.4) 时，图 7.0.2 展示了伯努利随机过程的三个实现或样本函数。固定 (k) 时，(X[k, s]) 是具有伯努利随机变量概率质量函数的随机变量。

2.2 马尔可夫过程

通信系统传输 (0) 或 (1) 数字，每个数字传输需经过多个阶段，每个阶段数字可能改变。马尔可夫过程通过考虑过去状态 (X_0, X_1, \cdots, X_{n - 1}) 和当前状态 (X_n) 来计算未来状态 (X_{n + 1}) 的条件分布，描述数字是否改变的概率。最简单的离散马尔可夫过程是马尔可夫链，例如出生和死亡的概率描述。

2.3 泊松过程

预测到时间 (t) 发生的 “事件” 总数在电信和银行等领域很重要，泊松过程是最常用的计数过程。它满足以下条件：
- 事件 “很少” 发生。
- 事件在不重叠的时间间隔内独立发生。
- 事件以恒定速率 (λ) 发生。

2.4 维纳过程

维纳过程 (W_t) 是时间连续的随机过程，具有以下性质：
- (W_0 = 0)。
- (W_t) 几乎必然连续。
- (W_t) 具有独立增量，分布为 (W_t - W_s \sim N(0, t - s))（(0 \leq s \leq t)）。

由此可得：
- 期望 (E(W_t) = 0)。
- 方差 (E(W_t^2) - E^2(W_t) = t)。
- 协方差 (cov(W_s, W_t) = min(s, t))。

维纳过程用于描述布朗运动，布朗运动中粒子移动的距离服从高斯分布，路径连续但有尖锐拐角。

3. 赌徒破产问题

Pete 和 John 玩抛硬币游戏，正面 Pete 给 John 10 美分，反面 John 给 Pete 10 美分。用 (S_n) 表示 John 在 (n) 次抛硬币后的收益，这是一个离散时间的随机过程，状态空间为 ({0, \pm10, \pm20, \cdots}) 美分。每次新游戏都是一个实现。

步骤

• 步骤 1 ：创建 MATLAB 代码计算 (S_n) 的一个实现，并绘制该随机过程的多个实现（样本函数）。
• 步骤 2 ：假设 Pete 有 10 个一角硬币，存在在某个 (n = N) 时用完的可能性。修改 MATLAB 代码构建概率密度函数，给出 Pete 在 (n = N) 时刻用完钱的概率。

赌徒破产问题也可表述为赌徒进入赌场，初始有 (n) 美元，每次下注 1 美元，赢的概率为 (p)，输的概率为 (1 - q)，当总财富达到 (N) 美元或输光时离开赌场。该问题是一个鞅的简单例子，离散时间的鞅要求序列 (X_1, X_2, X_3, \cdots) 满足 (E(|X_n|) < \infty) 且 (E(X_{n + 1}|X_1, X_2, \cdots, X_n) = X_n)。对于赌徒破产问题，(E(X_{n + 1}|x_n) = \frac{1}{2}(X_n + 1) + \frac{1}{2}(X_n - 1) = X_n)。

4. 随机过程的基本概念

4.1 均值和方差

随机过程 (X(t)) 的均值定义为固定时刻 (t) 时随机变量 (X(t)) 的期望值，记为 (\mu_X(t))，公式为：
(\mu_X(t) = E[X(t)] = \int_{-\infty}^{\infty} x p_{X(t)}(t; x) dx)

方差是关于时间的函数，定义为：
(\sigma_X^2(t) = Var[X(t)] = E{[X(t) - \mu_X(t)]^2})

示例

• 示例 7.1.1 ：随机过程 (X(t) = A + Bt)，其中 (A) 和 (B) 是不相关的随机变量，均值分别为 (\mu_A) 和 (\mu_B)。根据期望的线性性质，(\mu_X(t) = E[X(t)] = E(A + Bt) = E(A) + E(B)t = \mu_A + \mu_Bt)。
• 示例 7.1.2 ：随机正弦信号 (X(t) = A cos(\omega_0t + \Theta))，(A) 和 (\Theta) 是独立随机变量，(A) 的均值为 (\mu_A)，方差为 (\sigma_A^2)，(\Theta) 的概率密度函数 (p_{\Theta}(x)) 在区间 ((0, 2\pi)) 非零。(\mu_X(t) = E[X(t)] = E[A cos(\omega_0t + \Theta)] = E[A]E[cos(\omega_0t + \Theta)] = \mu_A \int_{0}^{2\pi} cos(\omega_0t + x)p_{\Theta}(x) dx)。若 (p_{\Theta}(x)) 在区间 ((0, 2\pi)) 上均匀分布，即 (p_{\Theta}(x) = \frac{1}{2\pi})，则 (\mu_X(t) = 0)。
• 示例 7.1.3 ：维纳随机过程 (X(t) = \int_{0}^{t} U(\xi) d\xi)，(U(t)) 是白高斯噪声。因为白高斯噪声的均值为 0，所以 (E[X(t)] = E[\int_{0}^{t} U(\xi) d\xi] = \int_{0}^{t} E[U(\xi)] d\xi = 0)。

4.2 自相关函数

当在 (t = t_1) 和 (t = t_2) 时刻考察随机过程时，得到两个随机变量 (X(t_1)) 和 (X(t_2))，它们的相关性用自相关函数 (R_X(t_1, t_2)) 表示，定义为：
(R_X(t_1, t_2) = E[X(t_1)X(t_2)])

自协方差函数定义为：
(C_X(t_1, t_2) = E{[X(t_1) - \mu_X(t_1)][X(t_2) - \mu_X(t_2)]} = R_X(t_1, t_2) - \mu_X(t_1)\mu_X(t_2))

过程的方差和平均功率可由自相关和自协方差函数得到：
(E{[X(t)]^2} = R_X(t, t))
(\sigma_X^2(t) = E{[X(t) - \mu_X(t)]^2} = C_X(t, t) = R_X(t, t) - \mu_X^2(t))

示例

• 示例 7.1.4 ：随机线性轨迹 (X(t) = A + Bt)，自相关函数 (R_X(t_1, t_2) = E[X(t_1)X(t_2)] = E{[A + Bt_1][A + Bt_2]} = E(A^2) + E(AB)(t_1 + t_2) + E(B^2)t_1t_2 = (\sigma_A^2 + \mu_A^2) + \mu_A\mu_B(t_1 + t_2) + (\sigma_B^2 + \mu_B^2)t_1t_2)，自协方差函数 (C_X(t_1, t_2) = R_X(t_1, t_2) - \mu_X(t_1)\mu_X(t_2) = \sigma_A^2 + \sigma_Bt_1t_2)。
• 示例 7.1.5 ：随机正弦信号 (X(t) = A cos(\omega_0t + \Theta))，自相关函数 (R_X(t_1, t_2) = E[X(t_1)X(t_2)] = E[A cos(\omega_0t_1 + \Theta)A cos(\omega_0t_2 + \Theta)] = \frac{1}{2}E(A^2)E[cos(\omega_0t_2 - \omega_0t_1) + cos(\omega_0t_2 + \omega_0t_1 + 2\Theta)] = \frac{1}{2}(\sigma_A^2 + \mu_A^2){cos[\omega_0(t_2 - t_1)] + \int_{0}^{2\pi} cos[\omega_0(t_2 + t_1) + 2x]p_{\Theta}(x) dx})。若 (p_{\Theta}(x)) 均匀分布，最后一项积分为 0，自相关函数可表示为 (R_X(\tau) = E[X(t)X(t + \tau)] = \frac{1}{2}(\sigma_A^2 + \mu_A^2) cos(\omega_0\tau))，此时过程是广义平稳的。

4.3 广义平稳过程

随机过程的数学分析因时间行为的不确定性而困难，广义平稳过程是常用的一类过程。严格平稳过程要求分布和密度函数只依赖于时间差 (|t_1 - t_2|)，但条件苛刻。广义平稳过程只考虑均值和自相关函数，其均值为常数，自相关函数只依赖于时间差：
(\mu_X(t) = E[X(t)] = \mu_X)
(R_X(t_1, t_2) = E[X(t_1)X(t_2)] = R_X(t_2 - t_1))

自协方差函数也只依赖于时间差：
(C_X(\tau) = E{[X(t) - \mu_X][X(t + \tau) - \mu_X]} = R_X(\tau) - \mu_X^2)

广义平稳过程的平均功率和方差为常数：
(E{[X(t)]^2} = R_X(0))
(\sigma_X^2 = C_X(0) = R_X(0) - \mu_X^2)

5. 问题与项目

5.1 问题

• 对于随机过程 (X(t) = A cos(\omega t))，(\omega) 为常数，(A) 是具有高斯概率密度函数 (p_X(x) = \frac{1}{\sqrt{2\pi}} e^{-x^2/2}) 的随机变量，求 (\mu_X(t)) 和 (\sigma_X^2(t))。
• 对于正弦波随机过程 (X(t) = A cos(\omega t + \Theta))，(-\pi < t < \pi)，(A) 和 (\omega) 为常数且 (A > 0)，(\Theta) 是在区间 ([-\pi, \pi]) 上均匀分布的随机变量，求该随机函数的均值、方差和自相关函数，并判断是否为广义平稳过程。
• 对于伯努利过程 (X_n)，(X_n = \begin{cases}1, & \text{第 } n \text{ 次试验成功} \ 0, & \text{第 } n \text{ 次试验失败}\end{cases})，(P(X_n = 0) = 1 - p)，(P(X_n = 1) = p)，证明自相关函数 (R_X(t_1, t_2) = \begin{cases}p, & t_1 = t_2 \ p^2, & t_1 \neq t_2\end{cases})，自协方差函数 (C_X(t_1, t_2) = \begin{cases}p(1 - p), & t_1 = t_2 \ 0, & t_1 \neq t_2\end{cases})。

5.2 项目：计算自相关函数

多数情况下需要数值计算自相关函数，本项目使用随机电报信号探索该计算。精确解由方程 7.2.24 给出，用两种方法计算自相关函数：
- 步骤 1 ：利用示例 7.6.1，创建 MATLAB 代码生成 500 个随机电报信号的实现。

综上所述，随机过程在工程和物理科学中有广泛应用，不同类型的随机过程有各自的特点和分析方法，通过均值、方差、自相关函数等参数可以更好地描述和分析随机过程。广义平稳过程简化了随机过程的分析，而赌徒破产问题等实例展示了随机过程在实际问题中的应用。通过解决相关问题和完成项目，可以加深对随机过程的理解和掌握。

6. 关键概念总结与对比

6.1 常见随机过程对比

随机过程类型	特点	应用场景	关键参数
伯努利过程	离散状态和参数空间，由独立重复事件构成	电子设备生产质量建模	(p)（成功概率），(E(X_n)=p)，(Var(X_n)=p(1 - p))
马尔可夫过程	通过考虑过去和当前状态计算未来状态条件分布	通信系统数字传输	状态转移概率
泊松过程	事件“很少”发生，在不重叠时间间隔独立，以恒定速率发生	电信和银行等领域事件计数	速率 (\lambda)
维纳过程	时间连续，(W_0 = 0)，几乎必然连续，有独立增量	描述布朗运动	期望 (E(W_t)=0)，方差 (E(W_t^2)-E^2(W_t)=t)，协方差 (cov(W_s, W_t)=min(s, t))

6.2 随机过程参数对比

参数	定义	作用	计算示例
均值 (\mu_X(t))	(\mu_X(t)=E[X(t)]=\int_{-\infty}^{\infty}x p_{X(t)}(t; x)dx)	描述随机过程在某时刻的平均取值	对于 (X(t)=A + Bt)，(\mu_X(t)=\mu_A+\mu_Bt)
方差 (\sigma_X^2(t))	(\sigma_X^2(t)=Var[X(t)]=E{[X(t)-\mu_X(t)]^2})	衡量随机过程取值的分散程度	-
自相关函数 (R_X(t_1, t_2))	(R_X(t_1, t_2)=E[X(t_1)X(t_2)])	描述随机过程在两个不同时刻取值的相关性	对于 (X(t)=A + Bt)，(R_X(t_1, t_2)=(\sigma_A^2+\mu_A^2)+\mu_A\mu_B(t_1 + t_2)+(\sigma_B^2+\mu_B^2)t_1t_2)
自协方差函数 (C_X(t_1, t_2))	(C_X(t_1, t_2)=E{[X(t_1)-\mu_X(t_1)][X(t_2)-\mu_X(t_2)]}=R_X(t_1, t_2)-\mu_X(t_1)\mu_X(t_2))	进一步刻画随机过程在两个时刻取值的相关性	对于 (X(t)=A + Bt)，(C_X(t_1, t_2)=\sigma_A^2+\sigma_Bt_1t_2)

7. 深入分析广义平稳过程

7.1 广义平稳过程的优势

广义平稳过程在随机过程分析中具有重要地位，其均值为常数，自相关函数只依赖于时间差，这使得分析过程大大简化。例如，在信号处理中，许多实际信号可以近似看作广义平稳过程，这样就可以利用其恒定的平均功率和方差等特性进行系统设计和性能评估。

7.2 广义平稳过程的判断流程

graph TD;
    A[给定随机过程 \(X(t)\)] --> B[计算均值 \(\mu_X(t)\)];
    B --> C{均值是否为常数};
    C -- 是 --> D[计算自相关函数 \(R_X(t_1, t_2)\)];
    C -- 否 --> E[不是广义平稳过程];
    D --> F{自相关函数是否只依赖于 \(t_2 - t_1\)};
    F -- 是 --> G[是广义平稳过程];
    F -- 否 --> E;

7.3 广义平稳过程的应用实例

以随机正弦信号 (X(t)=A cos(\omega_0t+\Theta)) 为例，当 (\Theta) 均匀分布时，它是广义平稳过程。在通信系统中，这种信号常用于调制和解调，其广义平稳特性使得系统可以更稳定地处理信号，减少干扰和误差。

8. 赌徒破产问题拓展

8.1 不同初始条件影响

在赌徒破产问题中，赌徒的初始资金 (n) 和目标资金 (N) 会影响破产概率。当初始资金较少时，破产概率相对较高；而目标资金较大时，达到目标的难度增加，破产概率也会相应提高。可以通过修改 MATLAB 代码中的初始参数，模拟不同情况下的破产概率。

8.2 赌徒破产问题与鞅的关系

赌徒破产问题是鞅的一个简单例子，鞅的性质 (E(X_{n + 1}|X_1, X_2, \cdots, X_n)=X_n) 体现了在已知过去信息的情况下，下一次观察的条件期望等于最近一次观察值。在赌徒破产问题中，每次抛硬币后的资金期望等于当前资金，这符合鞅的定义。这种关系有助于从理论上分析赌徒破产问题的长期行为。

8.3 赌徒破产问题的 MATLAB 代码示例

% 步骤 1：计算 \(S_n\) 的一个实现并绘制多个实现
n_tosses = 1000; % 抛硬币次数
n_realizations = 5; % 实现次数
for i = 1:n_realizations
    coin_tosses = randi([0, 1], 1, n_tosses); % 生成抛硬币结果
    Sn = cumsum(2 * coin_tosses - 1) * 10; % 计算 \(S_n\)
    plot(1:n_tosses, Sn);
    hold on;
end
xlabel('Number of tosses');
ylabel('Gain/Loss (in dimes)');
title('Realizations of the coin - tossing game');

% 步骤 2：构建概率密度函数
pete_dimes = 10;
n_trials = 10000; % 试验次数
N_values = zeros(1, n_trials);
for i = 1:n_trials
    pete_money = pete_dimes;
    n = 0;
    while pete_money > 0
        coin = randi([0, 1]);
        if coin == 0
            pete_money = pete_money - 1;
        else
            pete_money = pete_money + 1;
        end
        n = n + 1;
    end
    N_values(i) = n;
end
histogram(N_values, 'Normalization', 'pdf');
xlabel('N');
ylabel('Estimated PDF');
title('Probability density function of Pete running out of money');

9. 随机过程学习建议

9.1 理论学习

• 深入理解随机过程的基本概念，如均值、方差、自相关函数等，通过推导公式和分析示例来掌握计算方法。
• 对比不同类型随机过程的特点和应用场景，建立系统的知识体系。

9.2 实践操作

• 完成书中的问题和项目，如计算随机过程的参数、编写 MATLAB 代码模拟随机过程等，通过实践加深对理论的理解。
• 尝试对实际问题进行随机过程建模，如对股票价格波动、网络流量变化等进行分析。

9.3 拓展阅读

阅读相关领域的学术论文和专业书籍，了解随机过程在前沿科技中的应用，拓宽知识面和视野。

随机过程作为一门重要的学科，在众多领域有着广泛而深入的应用。通过对常见随机过程的认识、关键参数的分析、实际问题的解决以及相关项目的实践，我们能够更好地掌握随机过程的理论和方法，为解决实际问题提供有力的工具。同时，不断深入学习和探索随机过程的新应用和新理论，将有助于我们在工程和科学研究中取得更好的成果。