方差分析——联立区间估计

一、简介

 这里简单介绍了方差分析，如果通过方差分析，我们接受了原假设，那么说明因子$A$的$a$个水平${\mu }_1,\cdots ,{\mu }_a$没有显著性差异；如果我们拒绝了原假设，说明因子$A$的$a$个水平${\mu }_1,\cdots ,{\mu }_a$之间有显著差异，也就是说${\mu }_1,\cdots ,{\mu }_a$不完全相等，这时我们需要进一步判断水平${\mu }_1,\cdots ,{\mu }_a$之间的关系，可以两两进行$t$检验，也可以用下面的方法。

二、区间估计

2.1 普通区间估计

 根据这里的介绍，我们知道${\bar{y}}_{i\cdot }$是总体$N({\mu }_i,{\sigma }^2)$的$n_i$个样本的均值，根据正态总体样本均值的性质可知：$${\bar{y}}_{i\cdot }\sim N({\mu }_i,\frac{{\sigma }^2}{n_i}),i=1,2,\cdots ,a\text{\hspace{1em}(1)}$$
并且${\bar{y}}_{i\cdot }$与${\bar{y}}_{j\cdot }(i\ne j)$相互独立，所以有$${\bar{y}}_{i\cdot }-{\bar{y}}_{i\cdot }\sim N({\mu }_i-{\mu }_j,(\frac{1}{n_i}+\frac{1}{n_j}){\sigma }^2)\text{\hspace{1em}(2)}$$
进而有$$U=\frac{({\bar{y}}_{i\cdot }-{\bar{y}}_{i\cdot })-({\mu }_i-{\mu }_j)}{\sigma \sqrt{\frac{1}{n_i}+\frac{1}{n_j}}}\sim N(0,1)\text{\hspace{1em}(3)}$$

记${\hat{\sigma }}^2=\frac{S_e^2}{n-a}$，则根据这里的证明，可知$$\frac{(n-a){\hat{\sigma }}^2}{{\sigma }^2}=\frac{S_e^2}{{\sigma }^2}\sim {\chi }_{n-a}^2\text{\hspace{1em}(4)}$$。

结合正态总体的样本均值与样本方差的独立性可知，$U$与${\hat{\sigma }}^2$独立，所以根据$(3)$和$(4)$，可知$$\frac{({\bar{y}}_{i\cdot }-{\bar{y}}_{i\cdot })-({\mu }_i-{\mu }_j)}{\hat{\sigma }\sqrt{\frac{1}{n_i}+\frac{1}{n_j}}}\sim t_{n-a}\text{\hspace{1em}(5)}$$

那么对于给定的$\alpha$，随机事件$$|\frac{({\bar{y}}_{i\cdot }-{\bar{y}}_{i\cdot })-({\mu }_i-{\mu }_j)}{\hat{\sigma }\sqrt{\frac{1}{n_i}+\frac{1}{n_j}}}|\le t_{n-a}(1-\frac{\alpha }{2})\text{\hspace{1em}(6)}$$发生的概率为$1-\alpha$，因此对固定的$i,j,{\mu }_i-{\mu }_j$的置信系数$1-\alpha$的置信区间为$$[({\bar{y}}_{i\cdot }-{\bar{y}}_{i\cdot })-\hat{\sigma }\sqrt{\frac{1}{n_i}+\frac{1}{n_j}}{t}_{n-a}(1-\frac{\alpha }{2}),({\bar{y}}_{i\cdot }+{\bar{y}}_{i\cdot })-\hat{\sigma }\sqrt{\frac{1}{n_i}+\frac{1}{n_j}}{t}_{n-a}(1-\frac{\alpha }{2})]\text{\hspace{1em}(7)}$$

 如果这个区间包含$0$，则表明我们可以以概率$1-\alpha$断言${\mu }_i$与${\mu }_j$没有显著性差异；如果这个区间落在$0$的左边，则表明我们以概率$1-\alpha$小于${\mu }_i$与${\mu }_j$；如果这个区间落在$0$的右边，则表明我们以概率$1-\alpha$大于${\mu }_i$与${\mu }_j$
 

2.2 变型区间估计

 对于每一对固定的$i$和$j$，我们用$(7)$构造出置信系数为$1-\alpha$的置信区间。但对于多个这样的置信区间，它们联合起来的置信系数就不再是$1-\alpha$，因为下面的Bonferroni不等式：
 假设$E_i,i=1,\cdots ,m$为$m$个随机事件，$P(E_i)=1-\alpha ,i=1,\cdots ,m$，则$$P(\bigcap _{i=1}^m{E}_i)=1-P(\overline{\bigcap _{i=1}^m{E}_i)}=1-P(\bigcup _{i=1}^m\overline{E_i})\ge 1-\sum _{i=1}^{m}P(\overline{E_i})=1-m\alpha$$
即$$P(\bigcap _{i=1}^m{E}_i)\ge 1-m\alpha \text{\hspace{1em}(8)}$$

 $(8)$就是著名的Bonferroni不等式，据此我们可以得到，$m$个事件，若每个单独发生的概率为$1-\alpha$，那么它们同时发生的概率不再是$1-\alpha$，而是大于等于$1-m\alpha$，可能比$1-\alpha$小的多。
 
 为了使它们同时发生的概率为$1-\alpha$，可以将每个事件发生的概率提高到$1-\frac{\alpha }{m}$，即$P(E_i)=1-\frac{\alpha }{m},i=1,\cdots ,m$，此时则有$P({\bigcap }_{i=1}^m{E}_i)\ge 1-\alpha$。按照这个思想，我们可以得到$(7)$的变型为$$[({\bar{y}}_{i\cdot }-{\bar{y}}_{i\cdot })-\hat{\sigma }\sqrt{\frac{1}{n_i}+\frac{1}{n_j}}{t}_{n-a}(1-\frac{\alpha }{2m}),({\bar{y}}_{i\cdot }+{\bar{y}}_{i\cdot })-\hat{\sigma }\sqrt{\frac{1}{n_i}+\frac{1}{n_j}}{t}_{n-a}(1-\frac{\alpha }{2m})]\text{\hspace{1em}(9)}$$