18、自回归模型阶数选择方法解析

自回归模型阶数选择方法解析

1. 有限样本自回归准则CIC

在自回归（AR）模型的阶数选择中，渐近理论相关问题已得到了较为充分的解决。通过Kullback - Leibler推导得出的AIC(p)准则，其惩罚因子为2。若考虑一阶欠拟合情况，在GIC准则中，权衡偏差和方差误差后，惩罚因子取值为3。Cavanaugh（1999）通过对称Kullback散度也得到了相同的惩罚因子3。

对于有限样本理论，情况更为复杂。渐近理论通常适用于参数少于N/10的低阶模型，由此得出有限样本准则FIC(p,D)，当D = 3时，它是低阶有限样本的最佳折衷方案。

Kullback - Leibler推导还得出了准则FSIC(p)，它在有限样本下表现出色。即便最大模型阶数高达N - 10甚至更高，FSIC(p)的选择结果也不会像其他准则那样受到有限样本效应的严重影响，包括基于渐近理论备受青睐的FIC(p,3)准则。不过，通过泰勒近似可知，FSIC(p)在低阶模型中的惩罚因子为2。在AR模拟中，FSIC(p)对低阶模型的惩罚较小，通常会比FIC(p,3)选择更多的参数；但如果只考虑低阶候选模型，FIC(p,3)的准确性更好。另一方面，FIC(p,3)有时会选择高于N/2的阶数，而实际上低阶模型可能更好。因此，理想的做法是将FIC(p,3)在低阶模型的良好性能与FSIC(p)在高阶模型的良好性能相结合。

Broersen（2000）指出，当模型阶数非常高（约为0.5N）时，估计残差方差$S_p^2$的不确定性增加会带来问题。由于估计残差方差的标准差增大，样本残差方差往往会比其期望值小很多。FSIC(p)是一个与阶数相关的惩罚准则，为了在最佳低阶惩罚因子3和对高阶候选阶数的额外保护之间取得