充分统计量
充分统计量的一种定义是:数据为XnX^nXn,如果给定充分统计量的一组取值T(Xn=xn)=tT(X^n=x^n)=tT(Xn=xn)=t,能够使得数据的分布不依赖于参数θ\thetaθ,则TTT是充分统计量。
粗略的说,如果已经知道T(xn)T(x^n)T(xn)就可以计算似然函数,则该统计量是充分的。
例子
X=(X1,X2)∼Bernoulli(p)X=(X_1, X_2) \sim Bernoulli(p)X=(X1,X2)∼Bernoulli(p),充分统计量是T=X1+X2T=X_1+X_2T=X1+X2。原因是给定任意T的取值,都可以知道数据的分布,而不依赖于参数ppp。
T=0T=0T=0时,两个数据取0的概率为1,其他为0。T=1T=1T=1,时,两者取1另一个取0的概率各自为0.5,其他情况为0。当T=2T=2T=2时,两者取1的概率为1,其他情况为0。
倘若统计量T=X1T=X_1T=X1,则不是充分统计量。例如当T=0T=0T=0时,只知道X1X_1X1取1的概率为0,而X2X_2X2取1的概率是参数ppp。
因子分解定理
TTT是充分统计量当且仅当存在g(t,θ)g(t,\theta)g(t,θ)和h(x)h(x)h(x)使得:f(xn;θ)=g(t(xn),θ)h(xn)f(x^n;\theta)=g(t(x^n),\theta)h(x^n)

博客探讨了充分统计量的概念,它允许我们根据统计量的值推断数据的分布而不依赖于具体参数。以抛两枚硬币为例,说明了二元伯努利分布的充分统计量。此外,介绍了Rao-Blackwell定理,该定理指出利用充分统计量进行估计可以改善估计的均方误差。通过应用该定理,得到了一个比直接使用观测值作为估计更优的新估计量。
最低0.47元/天 解锁文章
17

被折叠的 条评论
为什么被折叠?



