Statistics Review
1. 基本概念
1.1 无偏估计:
1.2 中心极限定理,Central Limit Theorem
1.3 大数定理:
1.4 通过这个类比我们可以这样理解大数定律和中心极限定理:
1.4.1、大数定律和中心极 限定理可以看做随机变量的零阶和一阶“泰勒展开”,其中大数定律是随机变量的“零阶 估计”,中心极限定理是在大数定律成立下的“一阶导数”,在极限下高阶小量可忽略。
1.4.2、大数定律负责给出估计——期望,中心极限定理负责给出大数定律的估计的误差——标准差乘以标准正态分布。
1.4.3、通过泰勒展开我们可以对中心极限定理的应用范围有一个直观的估计。为了使泰勒展开成立,我们假设了高阶小量在取平均(除以后)是可以忽略的。为了使这一点成立,我们至少需要样本量和方差在同一量级上或者更小。
1.4.4、其实我们还可以进行更高阶的展开,貌似三阶展开对应的统计量叫做skewness,wiki上常用分布的词条都会给出这一数值。不过实际应用中中心极限定理已经足够,所以通常也就不需要了。
2.