太适合小白了!11招,高手都在用的数据分析招式!

MetricsQL快速上手 MetricsQL 是 VictoriaMetrics 推出的时间序列查询语言,兼容 PromQL 语义,并提供更强的函数集、更高的性能优化与便捷的表达式扩展。 阅读详情

阅读本文大概需要3分钟

菜鸟独白

用Python来玩转数据分析实在是太爽了,因为有强大的Pandas来处理数据非常方便,我个人对数据分析情有独钟,探索数据的秘密非常好玩!前段时间写过一篇小白学数据分析入门招式,但是进阶的部分上次没有来得及整理,今天分享给大家。

我们依然用比较有名的泰坦尼克数据集来做示例,通过对这个数据集的处理,来快速上手数据分析的常见招式和基本手法,让初学者可以快速上手数据分析!

2fd001a7210f36623108ae8d1328453d.jpeg

要点:

  • 数据的字符处理

  • 数据的过滤

  • 数据的分组

  • 数据的透视表

1.数据集的字符处理

第一招:对列的处理

我们看一下这个数据集里面的列都是英文的,不是很爽,我们把列的名字变成中文,这样看的舒服。

a748373720c65886f581c18ad35d6398.jpeg

df.rename(columns={'Survived':'是否获救',

'Name':'姓名',

'Pclass':'船舱等级','Sex':'性别',

'Age':'年龄','SibSp':'兄弟姐妹数',

'Parch':'父母小孩数','Ticket':'船票',

'Fare':'船票费'})

这样处理完之后看一下是不是舒服很多:

fd970f90769eae06a80ce3290a4de601.jpeg

第二招:对数据集里面的特定字符串进行替换

我们把性别里面的male替换为男,female替换为女

df['性别'].map({'female':'女','male':'男'})

1489692fbaa90990a8920e92fdf8ed7a.jpeg

第三招:对列的字符进行替换

我们看到船票比如A/5 21171 有两部分组成,一部分是英文字符,一部分是纯数字,如果我们只想保留数字部分,我们直接用str字符串进行处理

df['船票']=df['船票'].str.replace(r'[^\d+]','')

df.head(3)

cb9455cccc6abcdeb99bb71b1d938ee3.jpeg

pandas里面的字符串功能非常强大,除了replace之外,

还有contains,split,match,findall,endswith等等,这招在清洗数据的非常有用。

2.数据集的过滤

我们在分析数据的时候经常要对数据内容进行过滤,或者是部分提取。

第四招:用逻辑表达式组合过滤

提取性别是女孩并且年龄在10岁以下的

df[(df['性别']=='女')&(df['年龄']<=10)]

df.head(3)

7873fd57571a8d25f7fdef2f7ae49f65.jpeg

第五招:巧用不等于

提取非3等舱,并且获救乘客信息

df[(df['是否获救']==1)&(df['船舱等级']!=3)]

ac3407e8c80eb1915c9be05550487b9a.jpeg

第六招:也可以用query函数

df.query('船舱等级==[1,2]')

acc16a459aafe53bcbdef64dbb00954b.jpeg

3.数据的分类

我们有的时候需要对数据进行多维度的细分和统计,有下面几招:

第七招:用where函数

第一种比较简单,用where

比如我们认为比如我们认为 年龄在18以下都是未成年,18岁以上成年的

df['是否成年']=np.where(df['年龄']>=18,'成年','未成年')

df.sample(3)

903a04ff5c9a2bacf75449005b7ae09e.jpeg

第八招:用万能的apply函数

apply可以处理比较复杂的逻辑,比如我们把年龄划分为几个阶段,小孩,青年,成人,老人。

0e4335d00c8c6a377b38634db2a1b738.jpeg

看一下新增的列"年龄分类"是不是层次分类更精准!

21facb89a31038f9c765d16351437049.jpeg

4.数据的切片和透视表

第九招:神奇的groupby函数

我们喜欢对数据按照某种类别分组统计:

1).从性别的维度来对是否获救的人数进行统计

df.groupby('性别')['是否获救'].count()

性别

女    314

男    577

Name: 是否获救, dtype: int64

2).从船舱的等级来看是非获救

df.groupby('船舱等级')['是否获救'].count()

船舱等级

1    216

2    184

3    491

Name: 是否获救, dtype: int64

第十招:对数据进行轴切片分析

比如我们希望对是非获救和船舱等级这个两个轴进行深入切片分析,这样的伎俩在R语言里面也经常用到,这里pandas给我们提供了非常方便的agg函数

df.groupby(['是否获救','船舱等级'])['年龄'].agg(['size','max','min','mean'])

f5642e3d41042ac26b0f5ab796ae78de.jpeg

这样就很容易发现,获救里面的头等舱的人比较多,平均年龄相对未获救的要年轻不少.

第十一招:数据透视表

透视表在很多数据分析里面都有,比如常见的excel里面,pandas也提供了类似的功能.

根据一个或者多个键对数据进行聚合,我们用透视表也能做出类似上面的功能,比groupby还要强大.

df.pivot_table(columns=['性别'],

index=['是否获救','船舱等级'],

values='年龄',

aggfunc={'年龄':[np.mean,min,max]})

21a8d52d3e5be0d07d8d59d68676c371.jpeg

ad456ee637b1861b6f9fe7ff12ecf1a6.gif

看完上面的11招,加上前面的(18招,小白必看的数据分析招式|精选上篇),学会这些招数基本上可以算是入门数据分析了。


 

 
推荐阅读:
入门: 最全的零基础学Python的问题  | 零基础学了8个月的Python  | 实战项目 |学Python就是这条捷径
干货:爬取豆瓣短评,电影《后来的我们》 | 38年NBA最佳球员分析 |   从万众期待到口碑扑街!唐探3令人失望  | 笑看新倚天屠龙记 | 灯谜答题王 |用Python做个海量小姐姐素描图 |碟中谍这么火,我用机器学习做个迷你推荐系统电影
趣味:弹球游戏  | 九宫格  | 漂亮的花 | 两百行Python《天天酷跑》游戏!
AI: 会做诗的机器人 | 给图片上色 | 预测收入 | 碟中谍这么火,我用机器学习做个迷你推荐系统电影
小工具: Pdf转Word,轻松搞定表格和水印! | 一键把html网页保存为pdf!|  再见PDF提取收费! | 用90行代码打造最强PDF转换器,word、PPT、excel、markdown、html一键转换 | 制作一款钉钉低价机票提示器! |60行代码做了一个语音壁纸切换器天天看小姐姐!|
年度爆款文案
Excel IF函数12种经典用法:从基础判断到高阶组合实战 在数据处理与办公自动化领域,条件判断是核心逻辑之一,它决定了数据流的方向和结果输出。其基本原理是通过设定逻辑条件,对数据状态进行识别与分流。掌握条件判断技术,能极大提升数据处理的智能化水平与工作效率,广泛应用于数据清洗、业务规则执行、动态报表生成等场景。本文聚焦Excel中的IF函数,作为实现条件判断的利器,它通过`IF(逻辑判断, 真值, 假值)`的基础语法,衍生出嵌套、多条件组合、错误处理等丰富应用。文中将深入解析如何利用IF函数解决“多条件筛选”和“数据分析”中的实际难题,例如结合AND/OR函数进行 阅读详情

相关推荐

Excel直方图实战:从数据分布洞察到业务决策

直方图是理解连续型数据分布形态的基础统计图表,其核心在于通过分组(Bin)实现频数统计与密度可视化。不同于简单柱状图,它揭示数据集中趋势、偏态、多峰性及异常区间,支撑质量控制、用户分群、时效分析等关键场景。掌握分组设计原则(如起点覆盖全量、组距业务可解释、预留溢出组)和Excel高可控实现路径(数据透视表+柱状图),能有效规避自动分组失真、标签错序、无法动态刷新等高频问题。本文聚焦真实业务语境下的直方图构建逻辑与工程化落地,融合分组依据定义、动态交互升级与分布诊断思维,助力分析师从‘画图’进阶为‘读图’与‘

weixin_30522183的博客 536

泰坦尼克 数据集_数据分析(一):11招入门数据分析

作者:奔跑的鳄鱼阅读本文大概需要3分钟用Python来玩转数据分析实在是太爽了,因为有强大的Pandas来处理数据非常方便,我个人对数据分析情有独钟,探索数据的秘密非常好玩!前段时间写过一篇小白学数据分析入门招式,但是进阶的部分上次没有来得及整理,今天分享给大家。我们依然用比较有名的泰坦尼克数据集来做示例,通过对这个数据集的处理,来快速上手数据分析的常见招式和基本手法,让初学者可以快速上...

weixin_39622178的博客 411

R语言线性回归lm()实战:从原理诊断到业务落地

线性回归是统计建模与机器学习中最基础且可解释性最强的算法之一,其核心基于普通最小二乘法(OLS)求解参数最优估计,依赖线性关系、独立性、同方差性、正态性与无多重共线性五大经典假设。理解这些原理不仅支撑模型可靠性,更决定业务归因是否可信——例如系数显著性(p值)直接对应‘该因素是否真实影响结果’的决策判断。在R语言中,lm()函数虽语法简洁,但需结合残差诊断图、VIF检验、稳健标准误等技术手段应对真实数据中的异方差、共线性与异常值问题。广泛应用于销售归因、风险预警、产品性能分析等高价值场景,是数据分析师连接数

weixin_30836759的博客 457

正确的Python学习路线图,来了!

国庆长假余额还剩最后一天啦,这两天陆续有很多新的同学加我微信,咨询问题。想学Python,但是Python的图书太多太多了,很容易从入门到放弃,咨询菜鸟哥能否推荐一些图书,然后由浅入深的阅...

cainiao_python的博客 4316

Pandas数据清洗8个核心单行方法:稳定兼容1.3+的工程化实践

Pandas数据清洗是数据分析流程中耗时最长、出错率最高的环节,其本质是将原始脏数据通过类型转换、空值处理、字符串标准化和时间解析等操作,转化为结构清晰、类型安全、业务可用的DataFrame。核心原理在于利用Pandas向量化字符串方法(如str.strip、str.replace)、健壮型数值转换(pd.to_numeric + errors='coerce')和高容错时间处理(.dt.to_period)替代低效循环与易错手动逻辑。这类方法具备强稳定性、低认知负荷与生产就绪特性,显著提升ETL效率与协

anque1234的博客 474

MPP数据库选型指南:Doris与ClickHouse全方位对比

选定了数据库,性能调优就是让它跑得更快、更稳的“秘密武器”。Doris和ClickHouse就像两匹赛马,调优得当,能让它们在赛道上飞驰!下面我们分享两者的实用调优技巧,结合真实案例,帮你把性能发挥到极致。

大模型大数据攻城狮的专栏 1368

那些年,阿里巴巴技术男神们写的书!

书籍名称:《离线和实时大数据开发实战》 内容提要:阿里巴巴大数据开发专家撰写,源于十余年工作实践,只讲实用有效的“招式”。庖丁解牛式式讲解离线和实时开发平台架构、原理、开发示例,涵盖查询与优化、建模、数仓开发、流计算开发等核心技术。本书包含三篇,共计12章内容。第一篇——数据大图和数据平台大图(第1~2章),主要站在数据处理和数据处理平台的角度,对数...

weixin_33937778的博客 158

Java调用Python的N种姿势:从入门到实战

通过Java的Runtime类,调用操作系统的命令行,执行Python命令,就像你在终端敲python script.py一样。生成Python代码:python -m grpc_tools.protoc -I. --python_out=. --grpc_python_out=. vector.proto。Java和Python,一个是企业级开发的硬核老大哥,一个是灵活多变的脚本语言小王子。两者的结合,就像咖啡加奶茶,既有Java的严谨高效,又能借Python的简洁和生态优势。

大模型大数据攻城狮的专栏 644

使用Miniconda实现PyTorch/TensorFlow双框架共存方案

本文介绍如何使用Miniconda隔离PyTorch与TensorFlow环境,解决深度学习框架间的依赖冲突。通过创建独立环境、导出YAML配置文件,实现环境可复现与团队协作,提升开发效率与系统稳定性。

weixin_35815766的博客 338

实战避坑:泛微E9流程接口与单点登录(SSO)开发全解析(含自定义Action、Restful API与免密登录)

本文深入解析泛微E9流程接口与单点登录(SSO)开发中的关键技术与避坑指南,涵盖自定义Action开发、Restful API鉴权机制及跨系统单点登录实现。通过实战案例与代码示例,帮助开发者高效完成二次开发,解决系统集成中的数据孤岛问题,提升企业信息化建设效率。

weixin_42549451的博客 676

用Python+PyTorch实现DQN无人机避障:从环境搭建到实战训练(附完整代码)

本文详细介绍了如何使用Python和PyTorch框架,基于深度强化学习中的DQN算法,实现一个无人机自主避障系统。内容涵盖从自定义环境搭建、DQN智能体核心算法实现,到完整的训练流程与超参数调优,并提供了可视化演示与进阶优化方向,为开发者提供了从理论到实践的完整指南。

kubernetes8ctl的博客 641

初中生学python教材推荐,中学生可以这样学python

大家好,小编来为大家解答以下问题,中学生可以这样学python.pdf,初中生学python教材推荐,现在让我们一起来看看吧!Source code download: 本文相关源码1.Hello world安装完Python之后,打开IDLE(Python GUI) ,该程序是Python语言解释器,你写的语句能够立即运行。我们写下一句著名的程序语句:并按回车,你就能看到这句被K&R引入到程序世界的名言python自学有用吗。 在解释器中选择"File"–“New Window” 或快捷键 Ctrl+N

Z77888_的博客 745

DSP28335与Vofa+上位机通信实战:SCIb配置避坑指南(附完整代码)

本文提供DSP28335与Vofa+上位机通信的实战指南,重点解析SCIb模块配置的常见问题与解决方案。针对研旭开发板的硬件连接、波特率精确计算、FIFO高效使用以及FireWater协议封装进行了详细说明,并附有完整代码,帮助开发者快速实现实时数据可视化与波形分析,提升调试效率。

weixin_29172963的博客 152

Python入门教程:超详细1小时学会Python

1.Hello world安装完Python之后,打开IDLE(Python GUI) ,该程序是Python语言解释器,你写的语句能够立即运行。我们写下一句著名的程序语句:并按回车,你就能看到这句被K&R引入到程序世界的名言。在解释器中选择"File"–“New Window” 或快捷键 Ctrl+N , 打开一个新的编辑器。写下如下语句:保存为a.py文件。按F5,你就可以看到程序的运行结果了。这是Python的第二种运行方式.找到你保存的a.py文件并双击也可以看到程序结果。Python的程序能够直接

weixin_72959097的博客 71

GD32测量pwm波频率以及占空比

1、需求 最近做的一个项目,其中有一个传感器输出是pwm波形,频率代表速度,频率越高速度越快。不同的占空比代表不同的故障类型。占空比10%~90%,频率范围20hz ~1khz。 基于以上的需求,单片机要实现两个功能: 1、测量频率 2、测量占空比 这怎么玩呢?从没搞过啊。 2、需求分析 经过查找资料以及参考正点原子的教程,发现单片机的定时器的输入捕获功能能够实现该功能。 2.1分析 如上图所示,测量占空比和测量频率实际上就是测量波形的长度。 对于占空比,就是测量T2与T1时刻的差值 对于频率,就是测量T

Jack Yi的博客 9080

基于Python的手语识别项目(简单版)

总之,看似简单的代码,实则花费了我不少的时间和精力,我曾无数次在深夜的灯光下,与代码为伴,只为了一点点优化,一丝丝提升。让我们一起,以尊重原创的精神,推动编程领域的发展,让这份热爱和技术的力量,照亮更多人的前行之路。模型的建立(---------------本人采用的是开源的asl-alphabet手势识别库,记得放在路径下--------------)current_dir需要根据自己的路径修改!current_dir需要根据自己的路径修改!current_dir需要根据自己的路径修改!

lusen_j的博客 1967

用Python+PokéAPI分析宝可梦逆属性:属性克制与进化链实战

在宝可梦对战中,属性克制是决定伤害高低的核心机制,而逆属性对战则是在属性不利的情况下通过策略翻盘。如何客观量化这种劣势?通过Python调用开放数据接口PokéAPI,可以获取宝可梦属性与类型克制关系,将逆属性转化为可计算的伤害系数。这种数据解析方法不仅能还原动漫中的经典对战场景,还能用于构建对战分析工具。本文以魔幻假面喵与大电海燕的实战案例,演示从接口请求到属性相乘计算的全流程,并顺带解析呆火鳄进化链,适合对API数据分析和游戏数据挖掘感兴趣的开发者。掌握属性伤害计算,能帮助你更科学地理解对战博弈。

weixin_34059951的博客 490

地图之家总目录

地图之家总目录 cesium示例 leaflet示例

GIS之家家长 1万+

Excel基础操作精讲:从高效录入到规范打印的完整指南

在数据处理与分析领域,掌握电子表格软件的基础操作是构建高效工作流的基石。其核心原理在于将数据视为结构化的信息单元,通过规范化的操作逻辑确保数据的准确性与一致性,这对于后续进行数据清洗、公式计算及可视化分析至关重要。从技术价值看,扎实的基础能显著提升个人与团队的数据处理效率,减少人为错误,并为学习高级功能(如数据透视表、VBA宏)乃至与Python pandas等工具进行数据交换奠定坚实基础。常见的应用场景涵盖财务对账、销售统计、行政报表制作及科研数据处理等日常办公与分析的方方面面。本文聚焦于Excel的高效

weixin_33978044的博客 465

PCL点云八叉树体素中心下采样,体素包含点索引提取

基于PCL octree实现点云八叉树计算,支持提取体素中心点进行点云下采样;根据任一点坐标,可以得到其在八叉树中的位置,输出对应体素内其余点的坐标或者索引

qq_48694523的博客 463

全志V3S嵌入式驱动开发(编译器升级到7.5)

【 声明:版权所有,欢迎转载,请勿用于商业用途。 联系信箱:feixiaoxing @163.com】 看过我们文章的朋友都知道,前面为了做v3s的驱动,对linux kernel进行了两次升级。第一次升级时从4.10.y升级到4.14.y,另外一次升级是从4.14.y升级到5.2.y。这中间最主要的原因,就是为了驱动适配的需要,更新的内核可以对硬件驱动有更好的支持,架构也更合理。 如果说内核升级尚且可以理解,那为什么要对编译器升级呢?这里面,最重要的一点就是语言的升

嵌入式-老费,一个分享专业嵌入式知识的blog 1168

《置身钉内》原文-可播放阅读

阿里员工的《置身钉内》相信你一定有听说、或看过这样的标题,最近出差、又加上各种其他的事还有,今天拿起来看,网上流传大多是 DPF 截图版,对于工作一天再盯着长篇着实累,所以搜索到一篇文字版,可以选择语音播放。文末会放一个网盘离线版本。以下是正文:发心第一 钉钉的动物园形象钉三多,是一只尖尾雨燕,世界上平飞最快的鸟类之一。它最特殊的地方在于,可以吃喝、睡眠、交配通通在空中完成;每年从非洲飞经印度和东南亚,回中国北方繁殖,最多可以连续飞行三百多天不落地。尖尾雨燕的拉丁文是apus apus,"pus"是"脚"的

JavaPub 6933

假人有限元模型

假人模型,车辆碰撞假人有限元模型,适合做乘员安全的研究者利用

数据科学家技能树:从SQL查询到机器学习建模的完整能力图谱(含10段Python实战)

本文系统化梳理 IT 开发者从"码农"到"超能力者"的完整技能树,覆盖基础层(思维+工具)、核心层(语言+架构+算法)、进阶层(框架+数据库+调试)、高阶层(分布式+性能+安全)、大师层(领导力+影响力+终身学习)共 **5 大层级 20+ 关键能力**,并附 **10+ 段可运行 Python 代码**、**6 张能力对比表**、**6 个常见误区 FAQ**、**21 天修炼计划**与**5 篇精选参考文献**。无论你是刚入门的编程新手、迷茫的初中级工程师,还是寻求突破的高级开发者,都能从本文获得清晰的

热爱技术与前沿创新,深耕科技领域,在科创中精进自我;探索技术乐趣,分享技术干货与成长心得,以技术为伴,热爱生活,在科创与生活中双向成长。 246

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

Python深度学习:从入门到实战

亲爱的读者,欢迎您翻开这本书。我们即将探索的,是深度学习的宇宙——一个由数据、算法与算力构筑的奇妙世界。它既是严谨的科学,也是创造的艺术,更是一条通往未来智慧的修行之路。本书将带您从最基础的数学原理出发,亲手搭建神经网络,驾驭Transformer等前沿模型,最终将智慧转化为现实世界的价值。请放下畏惧,保持好奇。这不仅是一次知识的学习,更是一场思维的远行。来,随我一起,开启这趟非凡的旅程吧。

weixin_45747731的博客 450

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

上一篇: 这个行业好起来了!
下一篇: 强的离谱,这个论文工具,yyds!
菜鸟学Python
博客等级 码龄9年 8089粉丝 571原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值