对数据进行视觉上和定量的正太检验。
1.之前,计算机能力有限时,数据分析常用步骤:你制定一个假设,收集你的数据,然后接受或拒绝这个假设。
2. 现在是一个高度交互的过程。查看数据,解释数学模型,然后确定模型的最佳拟合参数。
3. 从以下几个步骤开始:
- a. 视觉上检查数据
- b. 找到极端样本仔细检查
- c. 确定数据类型,如果是连续的,看是否是正态分布。
4 离群值检验:通常定义是离样本均值超过1.5*IQR(4分位间距),或两个以上的标准偏差之外的数据。具体是否保留或者删除取决于你的实验计划以及数据点的产生原因。
5.正态性检验,可以采用:QQ-图,PP-图,概率图检验。
stats.probplot(data,plot=plt)
6 假设检验与p值:
- 比较观测值的统计量(如:t值)和对应的分布(如:t分布),我们可以得到一个概率,就是所谓的p值(见统计分析105页)。如果p值小于0.05,我们就拒绝无效假设。
- 错误类型:I类错误与II类错误。在生产中,I类错误又被称为生产者风险,Ⅱ类错误被称为消费者风险。

本文介绍了数据检验的现代流程,包括视觉检验、离群值处理、正态性检验及假设检验的方法。通过QQ图、PP图等工具进行数据分布检验,并讨论了p值在拒绝无效假设中的作用,以及I类和II类错误的概念。
1万+

被折叠的 条评论
为什么被折叠?



