20、最大似然估计与空间估计方法详解

最大似然估计与空间估计方法详解

1. 最大似然估计相关基础

最大似然估计在统计推断中具有重要地位。在证明推论时，我们通过计算梯度和海森矩阵来判断函数的严格凹性。例如，对于函数 (W(\theta))，我们要证明存在一个球，使得 (W) 在边界上的值严格小于中心的值，以此来确定局部最大值的存在性。
- 极限情况分析 ：根据命题 5.2.1，当 (\beta \to \infty) 时，对于每个不能使 (L_T(\cdot; \alpha)) 达到最大的 (x)，有 (L(x; \beta \alpha) \to 0)。当 (L(\cdot; \alpha)) 不是均匀分布时，这样的 (x) 是存在的。而 (L(\cdot; 0)) 是均匀分布，结合可识别性和引理 13.2.1，当 (\alpha \neq 0) 时，(L(\cdot; \alpha)) 不是均匀分布。由于 (r) 严格为正，所以对于每个 (\alpha \neq 0)，当 (\beta \to \infty) 时，(W(\beta \alpha) \to -\infty)。
- 球的存在性证明 ：采用反证法，假设对于每个 (k > 0)，都存在 (\alpha(k))，(|\alpha(k)| = k)，使得 (W(\alpha(k)) > W(0))。由凹性可知，在直线段 ({\lambda \alpha(k) : 0 < \lambda < 1}) 上，(W(\alpha) > W(0))。根据紧致性，序列 ((\gamma(k), \gamma(k) = k^{-1} \alpha(k))) 在 (\partial B(0,