数据分析中会常犯哪些错误,如何解决?

Stream流将List转换为map源码分析 Stream流将list转换为Map 阅读详情

这篇文章从数据分析的几个阶段,总结了14个我们可能会犯的一些错误,以及如何避免。

数据获取阶段

在数据采集/获取阶段,容易犯的错误:

NO.1 采样偏差

在数据采集的时候,如果不能获取到总体的数据,那就要采集到可以代表总体的样本,抽样就显得尤其重要,如果样本不具有代表性,那么得出的结论一定是有失偏颇的。

举个例子 ->
小红书的用户群体是年轻的女性用户为主,如果用这份数据去预测一部受众是青少年的电影票房,结果可能就不合理了。

避免的方法 ->
使样本能够充分代表总体。

 

NO.2 幸存者偏差

指的是只能看到经过某种筛选而产生的结果,忽略了被筛选掉的关键信息。

在二战期间,人们发现幸存的轰炸机中,机翼中弹的数量很多,而机身中弹的却很少。因此人们认为我们应该加固飞机的机翼,其实不然,就是因为机翼中弹多还能飞回来,所以机翼中弹并没有影响飞机返航;而机身中弹的少则说明了子弹打中机身对飞机的影响更大,导致飞机不能返航,在这个飞机问题中,只统计到了幸存下来的飞机,以此下结论,是不正确的。

 


举个例子 ->
在某产品开放日,邀请使用该产品的用户到现场给产品打分,结果用户满意度都很高,其实就是一个幸存者偏差的例子,愿意来现场打分的客户,基本上都是忠实客户了,得分自然就高。

 

避免的方法 ->
还是样本不具备代表性的问题,避免主观臆断,用科学的方法选择样本。

数据处理阶段

在数据处理阶段,容易犯的错误:

NO.3 不注意数据的清洗

行百里者半九十,都说做数据分析有80%的时间都是在处理数据,其实就在告诉我们数据处理是多么的重要,干净的数据源是一切工作的前提,不然一切都要从头开始。

NO.4 在原始数据上直接处理

尽量不要直接在原始数据上开始修改处理,最好拷贝一份,保留好原始数据。这样做的目的是避免后续处理时出现错误,无法返回到原始数据的情况。

举个例子 ->
在做异常值处理时,直接把异常值删除了,后面发现其实不是异常值,而是一个值得注意的小概率事件,这就麻烦了,还不如一开始就在原始数据的备份上进行操作。

避免的方法 ->
在拷贝的原始数据上处理

数据分析阶段

在数据分析阶段,容易犯的错误:

NO.5 只会工具,不会分析

各种数据分析工具Excel、SQL、Python、Power BI、Tableau运用的炉火纯青,但却没有一个分析的逻辑思维方法,没有深入地去分析现象背后的原因。通常要搞清楚分析的目的是什么,工具都是辅助。

避免的方法 ->
多学习和总结一些思维和方法,并能够成功地运用,掌握其要领。

 

NO.6 过于追求高级方法/工具

在分析时,崇尚所谓高级的、时尚的方法,而不从项目自身实际出发,找到适合项目的分析方法。同样,过分追求“高端”工具的使用,比如在数据量很少的情况下,非要用数据库/Python,但其实Excel就可以简单便宜地满足分析的需求。

避免的方法 ->
合适的才是最好的。

可视化阶段

在可视化阶段,容易犯的错误:

NO.7 不做图表

用文字来表达结果,肯定不如直接上图更显而易见。

避免的方法 ->
能用图表展示的结论就少用文字来描述

NO.8 误导性的图表

比不做图表更可怕的是做出具有误导性的图表。常见的比如把Y轴的刻度不从0开始计,这样得到的图形走势就显得差距非常大,给人造成一定程度上的视觉冲击,但实际上,差距并没有那么大。

举个例子 ->
下图中净利润的增长可以看到Q4增长幅度非常明显,但仔细一看可以发现,纵坐标是从13%开始的,如果把纵坐标调成0%开始,就会发现这个增长幅度其实并不明显。

纵坐标从13%开始

纵坐标从13%开始


纵坐标从0开始

纵坐标从0开始

避免的方法 ->
保持客观的态度做图表,不要被心里预设的结论所左右,该是什么就是什么。

得出结论阶段

在得出结论时,容易犯的错误:

NO.9 主观臆断

完全抛弃数据,而是以自我经验或想法来给出结论。这样做数据分析就没有意义了,要保持客观的态度,不要总是“我觉得”,“我认为”,要以数据为依据。

避免的方法 ->
以数据为导向,保持一个数据人应用的科学客观的态度。

NO.10 数据偏见

在得出结论时,仅选择支持你声明的数据,丢弃不支持声明的部分。这就失去了客观性,是建立在数据上的主观臆断,一定要让数据反映出客观事实。

举个例子 ->
发现了啤酒和尿布的销量一样好,如果我只选择性地关注啤酒的销量,而忽视尿布,那就不会有购物篮分析了。

避免的方法 ->
客观,客观,还是客观的态度。

NO.11 相关性==因果性

我们经常说相关性不等于因果性,两个变量之间存在相关关系,并不意味着一个变量会影响另一个变量,也不意味着二者存在实际关系。

如果一个指标和另一个指标是一起变化的,说明它们是相关的,而如果是一个指标先变化从而导致了另一个指标的变化,才说明它们是有因果性的。

在数据分析时很容易将相关性判断为因果性,这是不对的。相关性已经很好了,但因果性更佳,很多时候,我们只能发现相关性,但应永不停止寻找因果性。因为发现相关性可以帮助我们预测未来,而发现因果性意外着可以改变未来。

 

NO.12 唯数据论

由数据分析得到的结果不具备可行性,完全不考虑常识和业务需求,数据脱离了业务,也是常犯的错误。

避免的方法 ->
多了解业务,多沟通,不要一味搞技术。

其他

NO.13 先预设一个结果,再倒推原因

依据经验常识先预设了一个结果,再从结果出发,为结果找原因,这
也是一种主观臆断,颠倒了数据分析的逻辑,我们应当是先分析,再结果,现在变成了先结果,再为结果找一个说辞。

避免的方法 ->
可以有假设,但假设不能等同于结论,大胆假设,小心求证。

NO.14 忽视黑天鹅事件

在发现澳大利亚的黑天鹅之前,17世纪之前的欧洲人认为天鹅都是白色的。但随着第一只黑天鹅的出现,这个不可动摇的观念崩溃了。

黑天鹅的存在寓意着不可预测的重大稀有事件,它在意料之外,却又改变着一切。人类总是过度相信经验,而不知道一只黑天鹅的出现就足以颠覆一切。

 

2008年美国次贷危机爆发就是一个典型的黑天鹅事件,大家用通用的风险价值模型预测投资风险,结论是美国商业银行放贷业务崩溃发生的概率只有不到1%,结果我们都知道了,这种不到1%的小概率事件居然发生了。

避免的方法 ->
所以不要忽视小概率事件,它有可能会造成严重的后果。


 

高校学籍管理系统(SQL Server数据库课程设计) 摘要: 高校的管理工作是一项复杂且系统化的工作。而随着当代社会积极响应国家“科教兴国”的战略。高校建设规模和招生人数每年均高不下,庞大的学生群体对高校的管理工作带来了巨大的挑战。而对学生的学籍管理工作更是高校管理工作的一个重要环节。 面对高校学生学籍信息如此庞大的数据群,如采用传统的管理模式,管理工作的效率不仅低下,而且数据错误的发生率相对较高,还会产生人力和物力上的巨大开支。面对这样的情况,开发一个高校学籍管理系统就显得尤为重要。 运用高校学籍管理系统可以大大提高高校管理工作效率、方便系统维护、减小开支、 阅读详情

相关推荐

机器学习---xgboost算法

问题上表现的十分顶尖,本节将较详细的介绍XGBoost的算法原理。成和剪枝分别对应了经验风险最小化和结构风险最小化, XGBoost的决策树生成是结构风险最小。式(1.1)称为经验风险最小化,训练得到的模型复杂度较高。出结果, 是模型的输出结果;等式右边第⼀部分是模型的训练误差,第⼆部分是正则化项,这里。其中,F是假设空间,假设空间是在已知属性和属性可能取值的情况下,对所有可能满足目标的情。最小化,结构风险最小化的模型往往对训练数据以及未知的测试数据都有较好的预测。的正则化项是K棵树的正则化项相加而来的。

weixin_43961909的博客 1万+

list对象转map

根据list对象中的某个属性转换成map /** * 将对象中的某个属性作为map的key 将对象本身作为map的value构成成一个map * * @param fieldToKey 必须是obj的field 我们把field的getValue作为map的key * @author mountain 2019-01-07 17:21 */ public static <T, E> Map<T, E> listToM

mountain的博客 3899

【数据集】waymo motion dataset介绍与数据解析可视化

waymo motion数据集下载,数据描述,数据特征和地图特征,数据解析并完成数据可视化

shuaixio的博客 5180

Stream将List转为Map,Set汇总拼接key以及分组groupingBy用法

我们可以使用一个由双参数版本的Collectors.groupingBy工厂方法创 建的收集器,它除了普通的分类函数之外,还可以接受collector类型的第二个参数。4、指定key-value,value是对象本身,Function.identity()是简洁写法,也是返回对象本身,key 冲突的解决办法,这里选择第二个key覆盖第一个key。3、指定key-value,value是对象本身,Function.identity()是简洁写法,也是返回对象本身。提取部门ID集合(List)并去重。

牧竹子 1万+

Camera(5)metadata

Metadata 是整个 Android camera 中类似于高楼大厦中的管道系统一样,贯穿了整个 Camera 的 Framework 和 vendor HAL。Metadata 里面包含了所有的控制、参数、返回值等等。Metadata分为Android原生的Metadata和芯片商或者用户自定义的Metadata,即Android Tag和Vendor Tag。Vendor Tag在Hal中定义,并在camx和chi目录中使用。

qq_55893245的博客 3052

YOLO26改进策略【YOLO和Mamba】| 替换骨干 Mamba-YOLO26-L !!! 最新的发文热点

Vision Clue Merge模块在Mamba - YOLO模型中同样重要,主要负责在模型的下采样过程中处理特征图,为后续的特征融合和目标检测任务提供更有效的信息。

Limiiiing的博客 472

java中List转为Map<key,List>

代码】java中List转为Map

mameng1988的博客 1347

【自动驾驶轨迹规划之hybrid A*算法】

本文参考论文:https://ai.stanford.edu/~ddolgov/papers/dolgov_gpp_stair08.pdf 这篇文章是基于经典A*算法与reeds-shepp曲线的,不清楚的读者请参考【自动驾驶轨迹规划5之A*算法】_无意2121的博客-优快云博客【自动驾驶轨迹规划之dubins曲线与reeds-shepp曲线】_无意2121的博客-优快云博客 目录 1 hybrid A* 算法创新点 1.1 搜索方式 1.2 车辆运动学模型 1.3 reeds-shepp曲

weixin_65089713的博客 1万+

List 多条件分组 转成map

将list多条件分组 转成map。StringUtils 工具类中添加方法。

qq_41976630的博客 742

[PCIe5.0] 2.2.7.1 TPH Rules

TPH 机制通过硬件提示优化数据流,适用于高性能计算和存储场景。

系统固件工程师 349

从零开始:使用Verilog在FPGA上实现8051微控制器的完整指南

8051微控制器是一种8位微控制器,由Intel在1980年代初推出。它包括一个CPU、一些RAM和ROM、I/O端口、定时器和串行通信接口。由于其简单的架构和强大的功能,8051已经成为了嵌入式系统设计的首选。FPGA是一种集成电路,设计师可以按照自己的需求进行编程。与传统的ASIC(应用特定集成电路)相比,FPGA提供了更高的灵活性,允许在硬件级别进行快速原型设计和迭代。这里,我们定义了一些基本的输入/输出端口,如时钟clk、复位reset、数据输入/输出和地址输入/输出。

qq_38334677的博客 1332

数据分析中会常犯哪些错误,如何解决的?

http://toutiao.com/i6298464540233302530/ 错把相关性当成因果性 correlation vs. causation 经 典的冰淇凌销量和游泳溺水人数成正比的数据,这并不能说明冰淇凌销量的增加会导致更多的人溺水,而只能说明二者相关,比如因为天热所以二者数量都增加了。 这个例子比较明显,说起来可能会有人觉得怎么会有人犯这样的错误,然而在实际生活、

liuyukuan的专栏 1352

化工设计软件:AVEVA E3D二次开发_(8).管道系统设计

在 AVEVA E3D Design 中,管道规格的定义是确保设计一致性和标准化的关键。通过二次开发,可以自动生成并管理管道规格。下面是一个示例,展示如何通过编写脚本来定义和管理管道规格。# 导入必要的库 import clr。

kkchenjj的博客 973

数据分析中会常犯哪些错误,如何解决? 六

作者:王新俊 链接:https://www.zhihu.com/question/19578400/answer/60211159 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 分享一个工作中遇到的数据解读案例吧。 这个案例是使用公司内部的数据分析系统给一个珠宝类品牌广告主(宝格丽)做品牌用户群分布分析。 预期用户群分布:有一定购买力的中年高

353

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

efm32 入门.pdf

本PDF共计22页,介绍的是操作驱动API,下载与否自己斟酌。

数据分析中会常犯哪些错误,如何解决? 一

作者:邹昕 链接:http://www.zhihu.com/question/46942656/answer/103917503 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 来点入门的吧(因为我就是入门水平啊) 错把相关性当成因果性 correlation vs. causation 经典的冰淇凌销量和游泳溺水人数成正比的数据,这并不能

406

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

数据分析中会常犯哪些错误,如何解决? 四

作者:Han Hsiao 链接:https://www.zhihu.com/question/19578400/answer/24785530 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 Numbers don't lie. 最近发现大家对如何成为一名数据科学家?的答案比较关注,表示受宠若惊。最近有点小忙,但作为一名DMer鄙人决定继续分享一些

1453

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

数据分析中会常犯哪些错误,如何解决? 五

作者:范一帆 链接:https://www.zhihu.com/question/19578400/answer/22290995 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 看到这个题目头脑里闪过一本书的名字《统计陷阱》(how to lie with statistics)。 该书通过实例分析探讨了如何通过统计数据将一堆冰冷的数据通过人为的操

617

数据分析中会常犯哪些错误,如何解决? 二

作者:谢科 链接:https://www.zhihu.com/question/19578400/answer/24843398 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 截图说话——哗众取宠的美国Fox news经常用的一些招数。 这些招数更多的是从视觉上给人一种“错觉”。比如说,本来不大的差异,截掉Y轴的一部分,瞬间差异就会让看的人觉得

282

数据分析中会常犯哪些错误,如何解决? 三

作者:秦吉宁 链接:https://www.zhihu.com/question/19578400/answer/42655587 来源:知乎 著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。 有好事同志专门搞了一个网站来收集“八杆子打不着但看着贼拉靠谱的相关关系”,几乎就是专门让大家来扯淡装叉用的。 几个例子: 尼古拉斯凯奇在电影中的出镜次数和淹死在游泳池

272

在数据分析上,管理者常犯的9个错误

数据是人类的发明。人类定义了他们想要测量的现象,设计系统收集数据,在分析之前进行清理和预处理,最后选择如何解释结果。即使使用相同的数据集,两个人也可以得出截然不同的结论。这是因为数据本身并不是“地面真实”——能够反应客观现实的、可观察的、可证明的数据。 你如何概念化一个现象,确定要测量什么,并决定如何测量,将影响你收集的数据。你利用AI解决问题的能力很大程度上取决于你如何表述你的问题,以及你是否...

A_1236的博客 231

业余数据分析师常犯这4个错误,第一个几乎人人中招

新手/业务数据科学家接到工作任务后,因为没有体系化地学习过数据分析,也没有经过培训就上岗,几乎可以说是0经验,于是他们在工作中就犯下这些错误。

simplilearnCN的博客 2001

数据分析过程中,我们常犯的错误有哪些?

1.走得太快,没空回头看路 初创公司里的人们仿佛一直在被人念着紧箍咒:“要么快要么死,要么快要么死。”他们是如此着急于产品开发,以至于他们常常没有空想用户对产品的具体使用细节,产品在哪些场景怎么被使用,产品的哪些部分被使用,以及用户回头二次使用产品的原因主要有哪些。而这些问题如果没有数据难以回答。 2.你没有记录足够的数据 光给你的团队看呈现总结出来的数据是没有用的。如果没有精确到日乃至小时的变化...

数智集的博客 651

10个python初学者常犯的错误

下面10个python初学者常犯的错误,并不是真正的代码错误,代码照样可以运行,但是不够pythonic,因为python有自己的语言哲学,在代码的处理上有传统语言无法比拟的简洁性和便捷性。

zhishi0000的博客 999

7z 头部错误 数据错误_数据分析工作有哪些「新手常见错误」?

一、主管臆断,而不是用数据去证明1.错误现象找到工作社群会员(现在是分析部门的一个负责人)招了一个面霸,面霸面试期间懂各种机器学习理论等,但是入职以后,之前没有认真做过项目,却连一份基础的分析报告都做不好。2.新手如何避免这类错误?1)结论里不要是“我觉得”,“我认为”这种主管臆断的词,而是要以客观的方式,所有的结论都要用数据去证明你的观点。2)提出假设,用数据证明,得出分析结论的方法,就是假设分...

weixin_29430691的博客 331
上一篇: SQL今日一题(15):子查询
下一篇: SQL今日一题(16):3表连接
进击的可乐!
博客等级 码龄9年 411粉丝 200原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

进击的可乐!

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值