50、随机游走：从主方程到生成函数与特征函数的探索

随机游走：从主方程到生成函数与特征函数的探索

1. 随机游走与Fokker–Planck方程

在随机游走的研究中，我们可以通过求解偏微分方程来描述概率分布 $P(x,t)$ 的时间演化。这个偏微分方程为：
$\frac{\partial}{\partial t} P(x,t) = \frac{1}{tr} \frac{\partial}{\partial x}(xP(x,t)) + D \frac{\partial^2}{\partial x^2} P(x,t)$
其中，$D$ 是扩散系数，这个方程被称为Fokker–Planck方程。其主要目标是预测 $P(x,t)$ 随时间的变化。

van Kampen指出，扩散过程总是可以用离散的跳跃过程来近似，在这种过程中，$x$ 的变化发生在离散的时间间隔内。而对于连续时间的随机游走，$P(x,t)$ 的时间演化可以用主方程来描述。

2. 主方程

主方程的推导哲学与确定性动力系统中质量作用定律的应用以及生产 - 破坏模型的发展类似，不同之处在于变量被其出现的概率所取代。主方程的推导需要确定所有可能形成或破坏给定状态的途径。

主方程可用于描述时间连续但位置 $x$ 取离散状态（如整数 $N = …, -3, -2, -1, 0, 1, 2, 3, …$）的随机过程。其表达式为：
$\frac{\partial}{\partial t} P(n,t) = \sum_{m} k_{nm}P(m,t) - \sum_{m} k_{mn}P(n,t)$
其中，$k_{nm}$ 是从状态 $m$ 到状态 $n$ 的概率流率，$k_{mn}$ 是从状态 $n$ 到状态 $m$ 的概率流率。第一项表示所有从其他状态流入状态 $n$ 的概率之和，第二项表示从状态 $n$ 流出到其他状态的概率之和。

使用主方程研究 $P(x,t)$ 的演化有两个优点：
- 无需区分加性噪声和参数噪声的影响。
- 避免了使用涨落耗散论点来描述确定性运动和随机涨落之间的相互作用。

在适当条件下，Fokker–Planck方程可以等价于主方程。

常用的模拟主方程解的计算机算法是Gillespie算法，不过为了理解主方程如何扩展到异常扩散的情况，了解数学家求解这些方程的方法很有用，其中一个工具就是生成函数。

3. 生成函数

生成函数是一种数学表达式，对于离散随机过程，其形式为：
$F(z,t) = \sum_{n = -\infty}^{\infty} z^n P(n,t)$
其中 $F(0,t) = 1$。生成函数的好处是可以通过求导轻松计算矩，例如：
$\frac{\partial}{\partial z} F(z,t)| {z = 1} = \langle n(t) \rangle$
$\frac{\partial^2}{\partial z^2} F(z,t)| {z = 1} = \langle n(n - 1)(t) \rangle = \langle n^2(t) \rangle - \langle n(t) \rangle$

生成函数与特征函数 $\phi(t)$ 存在联系，若定义 $z = -jt$ 并利用 $e^{zx}$ 的级数展开，可得到：
$\phi(t) = \sum_{k = 0}^{\infty} \frac{(-jt)^k}{k!} p_k$
其中 $p_k$ 是 $p(x)$ 的 $k$ 阶矩。

下面通过两个例子说明生成函数在求解主方程中的应用：
- 蛋白质合成示例
- 考虑一个简单的蛋白质合成模型：
$c \longrightarrow \text{protein}(n) \stackrel{d(n)}{\longrightarrow}$
- 假设状态变化只允许在相邻状态之间进行（$n \to n \pm 1$），在短时间 $\delta t$ 内，可得到：
$P(n,t + \delta t) = P(\text{no reaction from } n)(t) + P(\text{birth from } n - 1)(t) + P(\text{death from } n + 1)(t) - P(\text{death from } n)(t) - P(\text{birth from } n)(t)$
- 进而得到主方程：
$\frac{\partial}{\partial t} P(n,t) = {cP(n - 1,t) + d(n + 1)P(n + 1,t)} - {cP(n,t) + d(n)P(n,t)}$
- 对于 $n = 0$ 的情况：
$\frac{\partial}{\partial t} P(0,t) = dP(1,t) - cP(0,t)$
- 通过将主方程乘以 $z^n$ 并对 $n$ 求和，得到关于 $F(z,t)$ 的方程：
$\frac{\partial}{\partial t} F(z,t) = (z - 1) {cF(z,t) - d \frac{\partial}{\partial z} F(z,t)}$
- 在稳态分布的情况下，方程左边为 0，即：
$\frac{\partial}{\partial z} F(z) = \frac{c}{d} F(z)$
- 结合 $F(1) = 1$，解得：
$F(z) = e^{\frac{c}{d}(z - 1)}$
- 展开 $F(z)$ 可得：
$F(z) = e^{-\frac{c}{d}} \sum_{n = 0}^{\infty} \frac{(c/d)^n}{n!} z^n$
- 从而得到具有 $n$ 个蛋白质的稳态概率：
$P(n) = e^{-\frac{c}{d}} \frac{(c/d)^n}{n!}$
这是一个泊松分布，均值和方差均为 $(c/d)$。

• 简单随机游走示例
  • 对于连续时间的简单对称随机游走，转移率 $k_{nm} = C\delta_{n,m \pm 1}$，主方程为：
    $\frac{\partial}{\partial t} P(n,t) = C{P(n - 1,t) + P(n + 1,t)} - 2CP(n,t)$
  • 当 $C = 1/2$ 且初始条件为从原点开始时，将主方程乘以 $z^n$ 并对 $n$ 求和，得到：
    $\frac{\partial}{\partial t} F(z,t) = \frac{1}{2} (z + \frac{1}{z} - 2) F(z,t)$
  • 解得：
    $F(z,t) = \Omega(z) \exp(\frac{1}{2} (z + \frac{1}{z} - 2)t)$
  • 由于初始条件 $F(z,0) = 1$，所以 $\Omega(z) = 1$，即：
    $F(z,t) = \exp(\frac{1}{2} (z + \frac{1}{z} - 2)t)$
  • 展开 $F(z,t)$ 可得：
    $F(z,t) = e^{-2t} \sum_{k,l = 0}^{\infty} \frac{t^{k + l}}{k!l!} z^{k - l}$
  • 令 $n = k - l$，得到：
    $P(n,t) = e^{-2t} \sum_{l} \frac{t^{2l + n}}{(l + n)!l!}$
    虽然这个结果看起来不直观，但它是高斯形式的。

下面是一个mermaid格式的流程图，展示从主方程到生成函数求解的过程：

graph TD;
    A[主方程] --> B[乘以z^n并求和];
    B --> C[得到关于F(z,t)的方程];
    C --> D[考虑稳态情况];
    D --> E[求解F(z)];
    E --> F[展开F(z)得到概率分布];

综上所述，主方程和生成函数为研究随机游走提供了有效的方法。主方程通过考虑状态之间的概率流来描述随机过程的演化，而生成函数则可以方便地计算概率分布的矩。在不同的应用场景中，如蛋白质合成和简单随机游走，这些方法都能发挥重要作用。接下来，我们将进一步探讨基于特征函数的方法，以及它们在随机游走研究中的应用和优势。

随机游走：从主方程到生成函数与特征函数的探索

4. 基于特征函数的方法

生成函数可被视为特征函数的一种特殊情况，基于特征函数有更强大的方法来求解主方程。为了理解这些方法的工作原理，我们先通过一个例子重新解释卷积积分的含义。

• 饮食热量示例
  假设一个节食者每餐热量摄入限制为600卡路里，从菜单中随机选择一份碳水化合物和一份脂肪/蛋白质（蔬菜热量忽略不计）。设 $P_{carb}(X)$ 为碳水化合物热量的分布，$P_{fat}(X)$ 为脂肪/蛋白质热量的分布。那么，总热量为600卡路里的餐食出现的概率为：
  $P(600) = \int_{0}^{600} P_{carb}(X)P_{fat}(600 - X)dX$

基于这个例子，我们可以用以下方程描述随机游走：
$p(x,t + t’) = \int_{-\infty}^{\infty} m(\ell,t;t’)p(x - \ell,t)d\ell$
其中，$m(\ell,t;t’)$ 是在时间 $t$ 到 $t + t’$ 内步长为 $\ell$ 的转移概率。该方程表示，为了在时间 $t + t’$ 到达位置 $x$，随机游走者在时间 $t$ 时位于位置 $x - \ell$，然后迈出了长度和方向合适的一步到达 $x$。

当 $t’ = 1$ 时，我们得到一个离散时间步的随机游走，且转移概率与时间无关，即 $m(\ell,t;t’) = m(\ell)$。由于方程右边是卷积积分，对位置 $x$ 进行傅里叶变换可得：
$\hat{p} {t + 1}(f) = \phi_e(f) \hat{p}_t(f)$
其中，
$\hat{p}_t(f) = \int {-\infty}^{\infty} p(x,t)e^{-j2\pi fx}dx$
$\phi_e(f) = \int_{-\infty}^{\infty} m(x)e^{-j2\pi fx}dx$
$\phi_e(f)$ 是每个基本转移步骤概率 $m(x)$ 的特征函数。

从初始条件 $p(x,0) = \delta(x)$（所有游走者最初都从原点开始）开始，我们可以反向推导得到：
$\hat{p} t(f) = \phi_e^t(f) \hat{p}_0(f)$
因为 $\hat{p}_0(f) = 1$，所以：
$p(x,t) = \int {-\infty}^{\infty} e^{j2\pi fx}\phi(f)df$
其中，$\phi(f) := \phi_e^t(f)$。

• 简单随机游走示例
  对于单位离散步长的简单对称随机游走（$p = q = 1/2$），且从原点开始。由于允许的步长为 $\pm1$，每个步骤的特征函数为：
  $\phi_e(f) = (\frac{1}{2}e^{j2\pi f} + \frac{1}{2}e^{-j2\pi f}) = \cos(2\pi f)$
  则：
  $p(x,t) = \int_{-1/2}^{1/2} e^{j2\pi fx} \cos^t(2\pi f)df$
  经过一系列代数运算（包括使用克罗内克δ函数的积分表示和二项式定理），可得到：
  $P(x,t) =
  \begin{cases}
  \binom{t}{\frac{t + x}{2}} (\frac{1}{2})^t, & t + x = 2m \
  0, & t + x \neq 2m
  \end{cases}$
  其中 $m$ 是一个非负整数。

特征函数方法的优点在于，通过对其傅里叶变换求导并在 $f = 0$ 处求值，可以方便地确定 $p(x,t)$ 的矩。例如，对于上述简单随机游走，经过大量 $n$ 步后：
$\langle x \rangle = -\frac{1}{2\pi j} \frac{d}{df} \phi(f)| {f = 0} = 0$
$\langle x^2 \rangle = -\frac{1}{4\pi^2} \frac{d^2}{df^2} \phi(f)| {f = 0} = n$

下面是一个表格，总结不同方法计算简单随机游走矩的情况：
| 方法 | 均值 $\langle x \rangle$ | 方差 $\langle x^2 \rangle - \langle x \rangle^2$ |
| ---- | ---- | ---- |
| 特征函数法 | 0 | n |

5. 方程 (16.58) 的其他推导方法

方程 $p(x,t) = \int_{-\infty}^{\infty} e^{j2\pi fx}\phi(f)df$ 是研究随机游走的重要关系，它还有其他推导方法。

• 多重积分表示法
  假设随机游走者从位置 $x_1$ 开始，经过 $t$ 步后到达位置 $x = x_1 + x_2 + x_3 + \cdots + x_t$。如果随机游走者的位置可以在 $(-\infty, +\infty)$ 内取任意值，且具有相同的概率密度函数 $p(x)$，则：
  $p(x,t) = \int_{-\infty}^{\infty} \cdots \int_{-\infty}^{\infty} p(x_t) \cdots p(x_2)p(x_1) \delta(\sum_{s = 1}^{t} x_s - x) dx_1 \cdots dx_t$
  利用狄拉克δ函数的积分表示 $\delta(x - x_0) = \int_{-\infty}^{\infty} e^{j2\pi f(x - x_0)} df$，可得到：
  $p(x,t) = \int_{-\infty}^{\infty} e^{j2\pi fx} df \int_{-\infty}^{\infty} p(x_1)e^{-j2\pi fx_1} dx_1 \cdots \int_{-\infty}^{\infty} p(x_t)e^{-j2\pi fx_t} dx_t = \int_{-\infty}^{\infty} e^{j2\pi fx}\phi(f)df$

• 矩的概念推导法
  表达式 $\phi(f) = \int_{-\infty}^{\infty} p(x,t)e^{-j2\pi fx} dx$ 可看作函数 $e^{-j2\pi fx}$ 的平均值。

下面是一个mermaid格式的流程图，展示基于特征函数求解随机游走概率分布的过程：

graph TD;
    A[随机游走方程] --> B[傅里叶变换];
    B --> C[得到特征函数关系];
    C --> D[结合初始条件];
    D --> E[得到p(x,t)的表达式];
    E --> F[计算矩];

6. 总结

本文介绍了研究随机游走的多种方法，包括Fokker–Planck方程、主方程、生成函数和特征函数。这些方法各有特点：
- Fokker–Planck方程通过偏微分方程描述概率分布的时间演化。
- 主方程考虑状态之间的概率流，适用于离散状态的随机过程，避免了一些噪声和涨落问题。
- 生成函数可以方便地计算概率分布的矩，通过求解关于生成函数的方程得到概率分布。
- 特征函数方法基于卷积积分和傅里叶变换，能更高效地求解主方程，并方便计算矩。

在不同的应用场景中，如蛋白质合成和简单随机游走，这些方法都能发挥重要作用。通过合理选择和运用这些方法，可以更深入地理解随机游走的性质和行为。

在实际应用中，我们可以根据具体问题的特点选择合适的方法。例如，当问题涉及离散状态和状态转移率时，主方程和生成函数可能更合适；而当需要计算矩或处理卷积积分时，特征函数方法可能更具优势。未来，随着研究的深入，这些方法可能会在更多领域得到应用和拓展。