Wald检验与p值

最新推荐文章于 2024-12-16 19:52:45 发布

Remote Sensing

最新推荐文章于 2024-12-16 19:52:45 发布

阅读量8.2k

点赞数 1

CC 4.0 BY-SA版权

分类专栏： math 机器学习文章标签：线性代数机器学习算法

本文链接：https://blog.youkuaiyun.com/RSstudent/article/details/126821287

机器学习同时被 2 个专栏收录

30 篇文章

订阅专栏

math

17 篇文章

订阅专栏

这篇博客详细解释了Wald检验的原理，如何利用θ^的渐近正态性检验H0: θ=θ0，通过计算W统计量并比较zα/2来决定是否拒绝原假设。它还介绍了显著性水平和Power Function的概念，并展示了如何计算p-value。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Wald检验

检验 $H1:θ≠θ0H_0:\theta = \theta_0, \ H_1:\theta \ne\theta_0$ ，如若 $θ^\hat{\theta}$ 是渐进正态的，则显著水平为 $α\alpha$ 的Wald检验是当 $∣W∣>zα/2|W|>z_{\alpha/2}$ 时拒绝原假设，其中 $W=θ^−θ0se^.W=\frac{\hat{\theta}-\theta_0}{\hat{se}}.$

Wald检验是易于理解的，首先阐述了估计量是渐进正态的，则在大样本下 $W$ 就是标准正态变量，当满足 $∣W∣>zα/2|W|>z_{\alpha/2}$ 意味着W出现的概率已经小于 $α\alpha$ . 这一点可以通过下面的等式说明：
$zα=Φ(1−α)Pθ(θ^−θ0se^>zα/2)+Pθ(θ^−θ0se^<−zα/2)=Pθ(∣θ^−θ0∣se^>zα/2)→Pθ(∣Z∣>zα/2)→α \begin{aligned} &z_{\alpha}=\Phi(1- \alpha)\\ &P_\theta(\frac{\hat{\theta}-\theta_0}{\hat{se}}>z_{\alpha/2})+ P_\theta(\frac{\hat{\theta}-\theta_0}{\hat{se}}<-z_{\alpha/2}) \\ &=P_\theta(\frac{|\hat{\theta}-\theta_0|}{\hat{se}}>z_{\alpha/2})\\ &\rightarrow P_\theta(|Z|>z_{\alpha/2})\\ &\rightarrow \alpha \end{aligned}$
定理：考虑 $θ\theta$ 的真实值为 $θ∗≠θ0\theta^* \ne \theta_0$ ，也就是原假设为加的时候的势函数(Power Function)大小，其近似值为： $1−Φ(θ0−θ∗se^+zα/2)+Φ(θ0−θ∗se^−zα/2)1-\Phi(\frac{\theta_0-\theta^*}{\hat{se}}+z_{\alpha/2})+\Phi(\frac{\theta_0-\theta^*}{\hat{se}}-z_{\alpha/2})$
Proof:
$β(θ∗)=Pθ∗(∣θ^−θ0se^∣>zα/2)=Pθ∗(θ^−θ0se^>zα/2)+Pθ∗(θ^−θ0se^<−zα/2) \begin{aligned} \beta(\theta^*) &= P_{\theta^*}(|\frac{\hat{\theta}-\theta_0}{\hat{se}}| >z_{\alpha/2})\\ &=P_{\theta^*}(\frac{\hat{\theta}-\theta_0}{\hat{se}} >z_{\alpha/2})+P_{\theta^*}(\frac{\hat{\theta}-\theta_0}{\hat{se}} <-z_{\alpha/2}) \end{aligned}$ 为了方便起见，先考虑第一部分，第二部分的方法类似：
$β(θ∗)=Pθ∗(θ^−θ0se^>zα/2)=Pθ∗(θ^>θ0+se^zα/2)=Pθ∗(θ^−θ∗>θ0−θ∗+se^zα/2)=Pθ∗(θ^−θ∗se^>θ0−θ∗+se^zα/2se^)=Pθ∗(θ^−θ∗se^>θ0−θ∗se^−zα/2)≈Pθ∗(Z>θ0−θ∗se^−zα/2)=1−Φ(θ0−θ∗se^−zα/2) \begin{aligned} \beta(\theta^*) &=P_{\theta^*}(\frac{\hat{\theta}-\theta_0}{\hat{se}} >z_{\alpha/2})\\ &=P_{\theta^*}(\hat{\theta}>\theta_0+\hat{se} z_{\alpha/2})\\ &=P_{\theta^*}(\hat{\theta}-\theta^*>\theta_0-\theta^*+\hat{se} z_{\alpha/2})\\ &=P_{\theta^*}(\frac{\hat{\theta}-\theta^*}{\hat{se}}>\frac{\theta_0-\theta^*+\hat{se} z_{\alpha/2}}{\hat{se}})\\ &=P_{\theta^*}(\frac{\hat{\theta}-\theta^*}{\hat{se}}>\frac{\theta_0-\theta^*}{\hat{se}}-z_{\alpha/2})\\ &\approx P_{\theta^*}(Z>\frac{\theta_0-\theta^*}{\hat{se}}-z_{\alpha/2})\\ &=1-\Phi(\frac{\theta_0-\theta^*}{\hat{se}}-z_{\alpha/2}) \end{aligned}\\$

p值

对于任意 $α∈(0,1)\alpha \in(0,1)$ ，存在显著性水平为 $α\alpha$ 的检验，对应的拒绝域为 $RαR_\alpha$ ，则 $\inf\{\alpha:T(X^n)\in R_\alpha \}$
这里 $T$ 表示检验统计量，上式的含义是使得检验统计量属于拒绝域的最小显著水平 $α\alpha$ 。