12、时间序列模型估计方法解析

时间序列模型估计方法解析

1. 时间序列模型的适用性

时间序列模型在处理数据时具有重要作用，尤其是自回归移动平均（ARMA）模型。ARMA 过程的谱密度是 (e^{jZ}) 的有理函数，因为它是 (e^{jZ}) 多项式的商。反之，所有具有有理谱的过程都可以写成 ARMA 模型。

对于一个任意连续、正且对称的函数，能否用多项式 (A(e^{jZ})) 和 (B(e^{jZ})) 的商来描述呢？只有当所有极点和零点都在单位圆内时，解才是唯一的。这一条件排除了具有离散谱分量的谐波过程。

若满足 (\int_{-\pi}^{\pi}\log h(\omega)d\omega>-\infty)，则存在一个唯一的单边 (G(z))，其所有零点都在单位圆内。这意味着几乎所有平稳随机过程都可以用一个唯一、平稳且可逆的 ARMA 过程来建模。使用时间序列模型进行谱分析并不比使用修正周期图对数据有更多的假设。

2. 最大似然估计

2.1 最大似然估计概述

在估计理论中，最大似然估计（ML）具有良好的渐近性质。由于 ML 估计需要知道观测值的概率密度函数，通常选择正态分布，以联合正态密度为基础。ML 估计通过寻找使似然函数或概率密度函数最大化的参数来进行。通常，最小化负对数似然函数会得到相同的参数向量解。

ML 估计需要数值搜索过程来找到最小值。为确保搜索算法不会得到非平稳或不可逆的模型，通常需要采取预防措施。可以通过无约束优化正切 (T_i = \tan(\frac{\pi}{2} * k_i)) 来保证所有反射系数 (k_i) 的绝对值小于 1。

ML 估计在渐近情况下应该是有效的，