37、自相关熵与互相关熵函数：定义、性质及应用

自相关熵与互相关熵函数：定义、性质及应用

1. 自相关熵函数定义

设 ${X_t, t \in T}$ 是一个严格平稳随机过程，$T$ 为索引集，$x_t \in R^d$。自相关熵函数 $v(t_1, t_2)$ 定义为从 $T \times T$ 到 $R^+$ 的函数：
$v_{x,x}(t_1, t_2) = E[\kappa(x_{t_1}, x_{t_2})] = \int \cdots \int \kappa(x_{t_1}, x_{t_2})p(x_{t_1}, x_{t_2})dx_{t_1}dx_{t_2}$
其中，$E [·]$ 表示随机过程 $x_t$ 的数学期望，$\kappa$ 是任意连续正定核。

对于对称平移不变核（如高斯核）和标量随机变量，自相关熵函数可表示为：
$v_{x,x;\sigma}(t_1, t_2) = E[G_{\sigma}(x_{t_1}, x_{t_2})] = \int \int G_{\sigma}(x_{t_1} - x_{t_2})p(x_{t_1}, x_{t_2})dx_{t_1}dx_{t_2}$

通过泰勒级数展开，可将其重写为：
$v_{\sigma}(t_1, t_2) = \frac{1}{\sqrt{2\pi\sigma}} \sum_{n=0}^{\infty} \frac{(-1)^n}{2^n\sigma^{2n}n!}E[|x_{t_1} - x_{t_2}|^{2n}]$
该式涉及随机变量 $(x_{t_1} - x_{t_2})$ 的所有偶数阶矩。当 $n = 1$ 时，对应的项与传统协方差函数相关：
$E[|x_{t_1}|^2]