11、线性回归模型：数学、计算与假设检验深入解析

线性回归模型：数学、计算与假设检验深入解析

1. 数学补充

1.1 分子推导

在某些线性回归的计算中，(2.55) 式的分子为：
[
(D - A\hat{\beta})’(D - A\hat{\beta}) \tag{2.138}
]
其中，
[
D - A\hat{\beta} = (I - H)D \tag{2.139}
]
这里的 (H) 是著名的帽子矩阵：
[
H = A(A’A)^{-1}A’ \tag{2.140}
]
根据线性模型以及 (\hat{\beta}) 的无偏性，可得：
[
(I - H) ED = E(D - A\hat{\beta}) = A\beta - A\beta = 0 \tag{2.141}
]
由于 (A) 具有满秩 (p + 1)，则 (H) 也具有相同的秩。同时，单位矩阵 (I) 的秩为 (n)，所以 (I - H) 的秩为 (n - p + 1)。通过应用相关性质，可以证明 (Q) 服从卡方分布。

1.2 (\hat{\beta}) 的渐近多元正态性

即使不假设 (Y) 给定 (X) 时服从正态分布，也不假设同方差性，(\hat{\beta}) 渐近服从 ((p + 1)) 元正态分布。以下是详细推导：
定义实际预测误差 (\epsilon_i = Y_i - X_i’\beta)，令 (G = (\epsilon_1, \cdots, \epsilon_n)’)，则 (D = A\beta + G)。
将 (D = A\bet