读书笔记_《统计陷阱》达莱尔.哈夫

统计陷阱:从数据到误导的警示 本文探讨了在统计分析中常见的陷阱和误导,强调了数据质量的重要性。通过分析历史案例和现代事件,文章揭示了错误的数据输入、不完美的测试和误导性的图表如何导致错误的结论和决策。 阅读详情

一、关于统计陷阱的一些角度

1.内在样本有偏

其根本问题是:样本是否足够代表总体?
其实际问题是:并非随机抽样
此类基本是民意调查难以避免的坑。
案例1:“1924级的耶鲁毕业生平均年收入有25111美元”
——这是问卷调查典型特征,能联系上的是一部分人,那些不能联系上的可能是年收入低的;能收回问卷的是一部分人,那些不寄回问卷的可能是年收入低的。再者,关于收入问题,大概大部分人都不会说实话或者虚高。
案例2:“以前曾经搞过一项旨在了解杂志阅读量的上门调查,其中的一个主要问题是:你和你的家人阅读什么杂志?当将调查结果制表并分析后发现:大部分的人喜欢《琴师》(Harper’s),而没有多少人喜欢《真实故事》(True Story)。但出版商提供的数据却很明显地表明:《真实故事》的发行量是几百万份,而《琴师》只有几十万份。”
——这个调查我的理解是,被询问的人不一定是有购买意愿的人(文中说明是上门走访美国各式各样的居民区,但是我们的购买者其实只是有购买力有购买意愿的人甚至只是购买过的人);并且“喜欢”这种意愿和是否购买完全是两个事情,当顾客做购买选择时会有诸多影响因素,价格、此时此刻心情、是否觉得有必要等等。另外,不同性质的杂志也没得比。
常见如街边调查、电话调查等都会存在有偏,一条街道是否能代替总体?那些不接收调研的受访者被代表了?调查员对受访者的挑选也有这样那些的观念。

2.精心挑选的平均数

其根本问题:什么时候选什么平均数(均值、中位数、众数)具有更好的描述性?
案例3:5月17日,腾讯发布了2017年第一季度业绩报告。财报显示,腾讯一季度总收入为495.52亿元,同比增长55%;经营盈利为192.72亿元,同比增长44%;期内盈利为人民币145.48亿元,同比增长57%;净利润率为29%,与去年持平。此外,财报还显示,腾讯截至3月31日共有39258名员工,第一季度平均月酬金为6.3万元。
——这种被平均的故事经年不息。。。像工资这种,基本都是右偏分布,平均数受右边的值影响很大,平均数>中位数>众数。这种状态说平均值能说明啥问题呢?啥都说明不了。此时用中位数来表达相对会更有意义一点。

3.没有披露的数据

其根本问题:样本不充分/所代表的意义资料不充分

案例4:一个典型的案例是几年前小儿麻痹症疫苗的实验。在一个社区里,450 名儿童接种了疫苗,而680 名儿童作为对照组没有接受疫苗。看上去,这是一个极大规模的医学实验。不久该区域感染了流行病,接种疫苗的儿童无一人患上小儿麻痹症。对照组的儿童也无一人患上该疾病。
在设计实验时,实验人员忽略了或者并没有真正理解该病的低发生率。在一般情况下,这种规模的小组中仅产生2 名患者。因此,实验从一开始便注定是毫无意义的。15~20 倍的样本容量也许才能产生足以解释某些事物的结果。

——也许450名儿童和680名儿童看上去是极大规模的实验,但相对于该病的低发生率,这个量级的样本结果也具有极大的偶然性,即使对照组有1人患上该疾病,这样的实验也是毫无意义。类似的,市面上很多调研报告基于几十个人就敢出的结论也是相当不可信的。

案例5:假设一对父母在《星期天》(Sunday)图画副刊等地方读到“孩子”将在某月份学会坐直的内容时,他们立刻会联想到自己的孩子。如果恰恰他们的孩子在该月份不能坐直,父母一定会得出结论:自己的孩子智力低下、不太正常或这很不公平等。

案例6:根据以往60 年的记录,俄克拉荷马城具有十分相似的平均温度——60.2 华氏度。但是,这个舒适凉爽的数字遮盖了130 华氏度的气温波动范围。
——案例5忽视了“某个月坐直”这个结论的误差,由于环境或教育的不同,实际不同个体是分散分布的,小于或大于某个月都是有的。案例6则中了均值的圈套,如果温度比较稳定尚可,若是存在巨大差异的地区,就不应该用均值来表达了。这些都是结论所代表的意义不够充分的情况。

4.毫无意义的工作

其根本问题:只有当差别有意义时才能称之为差别
案例7:经考试测量,彼得的智商98,琳达智商101,100为正常,是否意味着琳达比彼得要聪明?
——且不说智商考试所考核的是否只是某方面的,但平均智商是存在误差,例如误差在正负3,那么彼得智商在98+-3,琳达智商在101+-3,假设我们使用可能误差(1/2的数据落在1个标准误差内),意味着彼得有1/4的机会大于98+3,而琳达有1/4的机会小于101-3,彼得不一定就比琳达智商低。此类情况通常要注意抽样结果的范围,智力是否正常不会是一个值,而是一个范围,例如90~110,而相差不大的两个值相比没有任何意义。

5.惊人的统计图形

其根本问题:改变纵坐标的起点位置,或横向/纵向压缩
案例8:1938 年,《丹斯评论》(Dun's Review)的某个编辑曾从一则鼓吹华盛顿广告业的广告中摘录了一张统计图,图的标题是:“政府支出急剧上升!”
改变纵坐标起始位置
——可以看到左图在19.5百万美元~20百万美元之间,起始位置不是0;而右图同样在20百万美元上下波动。其实际大小和趋势都是一致的,但左图看起来惊人。另外右图将图形横向压缩,也会导致趋势看起来更加陡峭。

6.平面图形

其根本问题是:用图形代表两者比例是,只扩大高度比,而实际宽度也会跟着变,导致图片面积看着差距更大。
案例9:美国与罗坦提亚(Rotunda)木匠的平均周工资——进行比较,假设它们分别为60 美元和30 美元。
只改变图形高度
——如此可以看到,本来是1:2,右边图形高度是左边的2倍,但实际宽度也是左边的2倍,本要表达1:2,看着确是1:4的差距。
一般来说,不建议使用图形大小来表示比例,不说得控制图形尺寸,就是直观看大小也看不出具体比例是多少。直接用图形的数量表示即可,即美观又直观,如下图。
用数量表示比例

7.不相匹配的资料

其根本问题是:所要证明的事与所拿出的证据不相匹配,或者两个对比项的背景不相匹配
案例10:对著名内科医生香烟品牌调查的结果是:27%的被调查者选择了喉宝,该比例高于其他品牌。
——是否证明喉宝就比其他品牌危害性小呢?不一定,医生也不比其他人掌握更多关于香烟品牌是否危害性更小的资料。该案例所要证明的事是品牌的危害性哪个较小,只能通过成分分析来证明,却使用看起来应该更懂的医生的选择来证明,嗯,万一人家只知道喉宝呢?这跟危害性大小一毛钱关系都没有。
案例11:在美国与西班牙交战期间,美国海军的死亡率是9‰,而同时期纽约市居民的死亡率是16‰。后来海军征兵人员就用这些数据来证明参军更安全。如果假定这数据是正确的,那么促使这种差异产生的真正原因是什么?海军征兵人员根据两个数据的差异得出的结论是否正确?
——并不意味着去当海军安全,海军是身强力壮的男人;而同时期的纽约居民大都是老弱妇残,无论在哪死亡率都很高。这些数据根本不能说明符合参军标准的人在海军会比在其他地方有更高的存活机会。
此类问题类似的,还有不同时间的对比,由于不同时间的不同情况(例如某段时间大力抓某病例,导致该段时间该病例数量剧增,是否能意味着该病例在某段时间发生得最多?当然不能。)也可能导致对比没有意义。

8.相关关系和因果关系

其根本问题是:两变量具有数学上的相关关系,但不一定谁是因谁是果,更不一定有因果关系,有可能同为因果或者没有任何关联。
案例12:有人曾经高兴地指出:马萨诸塞州长老会的牧师收人与哈瓦那朗姆酒的价格之间存在着密切相关。
——孰因孰果?换句话说,是否牧师支持了朗姆酒贸易又或者牧师从此贸易中获益?这个结论未免过于牵强,一眼便可以识破。实际这个例子中,如果受到第三个因素一一历史性或全世界范围内物价水平上涨 的影响,那么收入和价格两个数据就都会上升。
另外,注意两个变量不同阶段的相关关系可能也不一样,例如雨下得越多, 谷物长得越高,收成越多;但暴雨则可能破坏谷物的增长,收成变少。

9.如何进行统计操纵

其根本问题是:如果不是故意,则通常是无知所导致的陷阱。除了懂统计的专家,描述数据的人往往是不懂统计的编辑、媒体、销售人员等,而且通常有利益相关。
除了以上角度和刻意挑选对自己利益有关的结论外,错误的假设逻辑、小样本容量使用百分比、基数不同都会引起误导。
案例13:1949年普查局公布的数据是“普通家庭的平均收入是3100美元”,而拉塞尔.塞奇基金会发布的“博爱的礼物”新闻故事里这个数据是5004美元。
——普查局用的是中位数,相对比较合理的算法。而后者将总收入除以1.49亿人得到人均1251美元,再乘4得出一个四口之家平均总收入为5004美元。
这个奇怪的算法一是使用了均值,而中位数实际相对小一些相对更具有代表性;二是假设了家庭收入与人口数成正比。。如果十口之家,岂不是上天了?

阅读统计资料时问自己五个问题

1.谁说的?

发声者所处位置和理解力通常对结论具有很大的影响,至于那些明显的PR文章就更不必说了。首先明白是谁说的,那么你心里大概就有个数了。

2.如何知道的?

总体是什么?样本是什么?询问的问题是什么?怎么得出的结论?

3.是否遗漏了什么?

是否存在样本有偏,引导性提问,样本容量太小、所证明的事与所调查的事不匹配、没有可信度检验、乱用基数等问题。

4.是否偷换了概念?

前后两个目的的同一样本调查得出的不同结论做对比,将实际不同用途的两种支出做对比(例如囚犯的生活费可能比旅店的租金高,就得出把囚犯安置在旅店更便宜?)等等。

5.资料是否有意义?

例如预测数据时,其前提是到目前为止的趋势都是事实,而未来的趋势只是猜测,其暗含着“其他所有条件都相同”,以及“现有趋势将继续下去”的前提。但事实上,条件总是在变化的,这种预测只能作为参考而已。

附思维导图:
思维导图

统计学中的陷阱:避免误解与误导 本文通过分析一系列统计学概念,揭示了在数据解释和结果推断过程中常见的陷阱。从福利人口的统计方法到挑选特定数据支持论点的行为,再到外推法的过度使用和误解,文章逐一探讨了如何避免被误导,以及在面对统计数据时应保持的批判性思维。 阅读详情

相关推荐

统计陷阱.pdf

统计陷阱,关于计算机技术中的统计算法等,值得一览

因果关系和相关性

此外,相关性分析还包括特征工程,这是一个关键的步骤,可以创建新的特征或对现有特征进行变换,以更好地捕捉电力系统的特性。数据可视化也是相关性分析的重要工具,通过绘制数据特征之间的关系图,我们可以更直观地发现潜在的相关性。例如,经过千百年来的观察,人们发现,“燕子低飞”和“即将下雨”存在相关性,因此,一旦看到“燕子低飞”,人们就知道“天将下雨”,该收衣服了。因果关系和相关性分析是数据科学和统计学领域的重要概念,它们帮助我们理解事件、现象之间的关联以及它们之间的原因和结果。相关性仅仅描述了变量之间的关联程度。

zhan867791458的博客 6226

统计陷阱 How to Lie With Statistics 中文版 清晰 PDF

  《统计陷阱》本书是美国著名的统计学家达菜尔·哈夫的名著。该书自1954年出版至今,多次重印并被译成多国文字,是一本影响深远的经典性著作。《统计陷阱》一书之所以能够历久弥新,是因为其实用性。随着我国经济持续发展,我们将接触到越来越我我的统计数据等等,去粗取精、去集思广益存真、进行鉴现了一些统计语和方法,但作者重说明、轻证明,重文字描述、轻理论推导,并结合活生生的案例,语方轻松诙谐,深入浅出,故即使从培养接触过的统计专业知识的读者也能掌握书中介绍的统计国想和方法。

推荐 :数据科学家应该避免的5种统计陷阱

作者:Matthew Mayo 翻译:冯羽 校对:陈雨琳本文长度约为2500字,建议阅读5分钟本文介绍了数据科学家应该避免的五种统计陷阱。标签:偏见,谬误,辛普森悖论,统计这篇文章讲...

数据分析 880

在mdk文件移植太多_XCubeClassB代码 的移植

前言ST在www.st.com官网上提供了针对IEC60730/IEC60335 ClassB认证的软件包。软件包分为三个,分别适用STM8,STM32(基于标准外设库)和STM32(基于HAL库):STM8-SafeCLASSB,STM32-CLASSB-SPL,X-CUBE-CLASSB。本文以X-CUBE-CLASSB为例介绍如何做代码的移植以及经常遇到的问题的解决办法。X-CUB...

weixin_28898707的博客 1832

CANdb++ Editor实战:5步搞定DBC文件信号布局与字节对齐(附常见错误排查)

本文详细介绍了使用CANdb++ Editor进行DBC文件信号布局与字节对齐的实战方法。通过五步法,深入解析Intel与Motorola字节序差异、跨字节信号布局规则,并借助Layout视图等工具,帮助工程师高效解决信号错位、数据解析错误等常见问题,确保CAN网络通信的准确性与可靠性。

solidity8miner的博客 695

为什么你的数据分析总是出错?3大统计陷阱你可能正在踩

掌握Python数据分析中的常用统计方法,避开数据偏差、过拟合与显著性误判三大陷阱。适用于A/B测试、用户行为分析等场景,提升结论可靠性。实用技巧值得收藏。

PixelShoal的博客 579

llama.cpp量化模型在MTT显卡上的性能对比:S80/S3000/S4000实测数据

本文基于摩尔线程MTT S80、S3000和S4000三款显卡,对llama.cpp量化模型进行了深度性能实测。报告详细对比了不同量化精度(如Q4_K_M、Q6_K)在Llama 3.2 1B和Qwen 2.5 7B模型上的推理速度、显存占用、功耗及温度表现,为开发者根据硬件选择最优模型配置与参数调优提供了关键数据参考和实战指南。

week9的博客 351

《统计陷阱》读后感

《统计陷阱》读后感 知道这本的时候还是从我在大一刚进辩论队的时候,在日常的队训中听到队长建议阅读这本书的,之前总说要读呢,结果各种推过,现在终于静下心来阅读这本书了。看完之后的感触到真不少,而且总想着什么时候写一点读后心得之类的东西,无奈,因为惰性,大家也都是知道的。嘻嘻,废话不多说,直接进入正题。 先来谈谈写这本书的背景:在20世纪50年代,美国出现了一种尊崇统计风,太多的人都乐意,也轻易的

【逸辰杳】的博客 6702

避坑指南:STM32移植CanFestival时那些没人告诉你的细节(含TJA1050硬件适配)

本文深入解析STM32移植CanFestival协议栈时的关键细节与TJA1050硬件适配技巧,涵盖AVR残留代码清理、定时器中断优化及CAN通信稳定性提升方案。特别针对TJA1050在特定波特率下的信号畸变问题提供实战解决方案,帮助开发者规避移植过程中的隐形陷阱,实现工业级稳定通信。

work3的博客 762

AT32F403A ADC通道管理与转换模式实战解析

本文深入解析AT32F403A微控制器的ADC模块,重点阐述其通道管理机制与四种转换模式(序列模式、抢占自动转换模式、反复模式、分割模式)的实战应用。通过详细的配置步骤与代码示例,帮助开发者高效实现模拟数字转换,优化数据采集性能与系统响应。

sky77的博客 280

006 《统计数据会说谎》读书笔记

数据不会说谎,但是统计数据会说谎。 采集数据,人有时候会无意识的根据个人喜好或者主观判断去筛取;手中数据,还利用更利于自己的方向去展示给大众,含混不清中展示自己看似强有力的根据。想起这段时间leader一直给自己灌输的思想——怀疑一切,去看数据的源。从源头出发,很多事情才能看的更加透彻。源头出了问题,后续的过程,无论怎么出彩,都是白费心思。 统计的...

积跬步,慕至千里的博客 1810

【Burp入门第三十一篇】Burp+SwitchyOmega实现本地localhost代理

在部分情况下(如本地靶场),当我们需要在Burp中查看、修改本地流量包的时候,按以下三个配置是不能得到本地流量包的。

等风来 3214

《统计会犯错——如何避免数据分析中的统计陷阱》导读

前言 统计会犯错——如何避免数据分析中的统计陷阱 在那本非常著名的统计读物《统计数字会撒谎》(How to lie with statistics)的最后一章中,作者哈弗(Darrell Huff)告诉我们“任何带有医学味道的言论”或者“由科学实验室和大学发布的信息”都是值得我们相信的,虽然不是毫无条件地相信,但是肯定比“媒体”或者“政府”公布的事实可靠...

weixin_34268169的博客 831

UCIE Specification详解(三)

Protocol Layer(协议层)以及Die-to-Die Adapter

Crazzy_M的博客 1767

基于形状的模板匹配之候选点选择

基于形状的匹配匹配,顶层金字塔提取候选点

manuoo的专栏 2767

范华专栏 | 投资中的统计陷阱

范华专栏 | 投资中的统计陷阱 原创: 作者 范华 人民币交易与研究 4天前 在投资领域,除了定性判断外,要用到大量的定量分析,简单如均值的计算,复杂如深度学习,都离不开概率与统计的范畴。在应用统计描述复杂的经济现象时,会有很多近似与取舍,因而很难保证最终使用的指标真能抓住事物的本质,很多时候一些指标还会造成错觉,甚至导致错误判断。 图/视觉中国 作者范华,宏时资本首席投资官,路闻卓立研究院院长,...

代码过客 1032

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

7类数据分析常见的统计陷阱,快来排雷!

我们会发生各种极有可能出现的混淆,数据抽取之后“迷恋”于数字,脑子里没有分析的目标,自己的局限影响指标选择......当分析数据的时候我们都很容易犯错。不过,用户体验团队...

lsxxx2011的专栏 727

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

相关关系 因果关系

1、概念定义 相关关系就是两个事物相互之间有关联,例如清晨醒来看到马路地湿了,可能是下雨导致的,也可能是市政清洁车洒水导致的,但不能从马路地湿了就推断出下雨了或是清洁车洒水 因果关系就是两个事物一个为因一个为果,有因才有果,无因必无果。例如天下雨了马路肯定会湿,天没下雨马路不会湿 2、关系特点 相关关系特点 特点1 两个事物相关关系的确定是从大量数据中统计得出来的,例如从大量肺癌患者的数据中,统计发现80%的都有抽烟史,从而得出抽烟和肺癌有相关性,但你不能说抽烟就会得肺癌。相关性无法从单个个体中

sfjsffjjj的博客 1406

SIMATIC S7-1200, S7-1500 PID 控制[手册]

SIMATIC S7-1200, S7-1500 PID 控制[手册]

数据分析中会常犯哪些错误,如何解决? 五

作者:范一帆 链接:https://www.zhihu.com/question/19578400/answer/22290995 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 看到这个题目头脑里闪过一本书的名字《统计陷阱》(how to lie with statistics)。 该书通过实例分析探讨了如何通过统计数据将一堆冰冷的数据通过人为的操

617

相关关系、因果关系、回归关系的区别

相关关系和因果关系之间的区别 两个变量之间存在相关关系,不一定说明两者之间存在着因果关系。因果关系,是指一个变量的存在一定会导致另一个变量的产生。而相关性是统计学上的一个概念,是指一个变量变化的同时,另一个因素也会伴随发生变化,但不能确定一个变量变化是不是另一个变量变化的原因。比如天气冷和下雪通常一起发生,说明两者有很强的相关性,但不能肯定是谁导致了谁,所以不确定两者是够有因果关系。

拙翔峰的博客 5万+

concat效率 mysql_MySQL统计函数GROUP_CONCAT使用陷阱分析

本文实例分析了MySQL统计函数GROUP_CONCAT使用中的陷阱。分享给大家供大家参考,具体如下:最近在用MySQL做一些数据的预处理,经常会用到group_concat函数,比如类似下面一条语句mysql>select aid,group_concat(bid) from tbl group by aid limit 1;sql语句比较简单,按照aid分组,并且把相应的bid用逗号串起...

weixin_39721853的博客 1211

为什么相关性不等于因果性?终于有人讲明白了

导读:本文我们来讨论有关相关性和因果性的话题。作者:徐晟来源:大数据DT(ID:hzdashuju)相关性体现了两个事物之间相互关联的程度。比如房屋面积越大,房价就越高,改变其中一个变量(...

大数据 6301

《统计会犯错——如何避免数据分析中的统计陷阱》一导读

前 言 统计会犯错——如何避免数据分析中的统计陷阱 在那本非常著名的统计读物《统计数字会撒谎》(How to lie with statistics)的最后一章中,作者哈弗(Darrell Huff)告诉我们“任何带有医学味道的言论”或者“由科学实验室和大学发布的信息”都是值得我们相信的,虽然不是毫无条件地相信,但是肯定比“媒体”或者“政...

weixin_34228662的博客 1060

统计学最全思维导图

本文用一系列 「思维导图」 由浅入深的总结了 「统计学」 领域的基础知识,是对之前系列文章做的一次完整的梳理,也是我至今为止所有与统计有关的学习笔记。众所周知,「统计学」 是深入理解 「机器学习/数据挖掘」 的重要基础学科。 思维导图 描述性统计:表格与图形法 描述性统计:数值方法 概率 概率分布 抽样分布 区间估计 假设检验 两总体均值&比例的推断 总体方差的统计推断 多个比率的比较/独立性/拟合优度检验 实验设计 | 方差分析 简单线性回归 残差分析 多元回归 时间

大大枫free 1万+

统计陷阱读书笔记

第一章 内在有偏的样本主要将通过偏差的样本来获得想要的数据,文中举例耶鲁大学毕业生的工资来说明这个问题,给出统计结论时却并未给出样本,通过合理的猜测,可以知道这样的样本是有偏差的,例如能联系上的人一般都不穷,愿意告诉别人自己工资的人更不穷 第二章 精心挑选的平均数一般给统计结论时却并不给出是那种平均数,是算术平均还是中位数或者是众数,通过这种方式来欺骗人,例

tianqio的专栏 3106
上一篇: 从互联网数据分析师技能掌握要求角度看数据平台架构演变
下一篇: 将博客搬至博客园
everda
博客等级 码龄12年 5粉丝 4原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值