数据专家最常使用的 10 大类 Pandas 函数 ⛵

pandas一些常用函数以及操作的使用和理解(持续更新) pandas库的一些用法1.创建DataFrame2.dataframe.columns(更改列名)3.dataframe列索引、行索引4.dataframe存、读存csv文件 1.创建DataFrame import pandas as pd import numpy as np f = pd.DataFrame(np.arange(20).reshape(4, 5), index=["c", "a", "d", "b"]) print(f) 结果 2.dataframe.columns(更改列名) 阅读详情

Python具有极其活跃的社区和覆盖全领域的第三方库工具库,近年来一直位居编程语言热度头部位置,而数据科学领域最受欢迎的python工具库之一是 Pandas。随着这么多年来的社区高速发展和海量的开源贡献者,使得 pandas 几乎可以胜任任何数据处理工作。

Pandas的功能与函数极其丰富,要完全记住和掌握是不现实的(也没有必要),资深数据分析师和数据科学家最常使用的大概有二三十个函数。在本篇内容中,ShowMeAI 把这些功能函数总结为10类。熟练掌握它们,你就可以轻松解决80% 以上的数据处理问题。

也推荐大家阅读ShowMeAI针对数据分析编写的教程和速查表,快速成为数据洞察高手!

💡 1.读取数据

我们经常要从外部源读取数据,基于不同的源数据格式,我们可以使用对应的 read_*功能:

  • read_csv:我们读取CSV格式数据时使用它。这个函数的使用注意点包括 header(是否有表头以及哪一行是表头), sep(分隔符),和 usecols(要使用的列/字段的子集)。
  • read_excel:读取Excel格式文件时使用它。这个函数的使用注意点包括 sheet_name(哪个表)和标题。
  • read_pickle:读取pickle格式存储的文件时使用,这个格式的优势是比 CSV 和 Excel快很多。
  • read_sas: 我经常使用这个功能,因为我曾经使用 SAS 来处理数据。

💡 2.写入数据

处理完数据后,我们可能会把处理后的DataFrame保存下来,最常用的文件写入函数如下:

  • to_csv: 写入 CSV 文件。 注意:它不保留某些数据类型(例如日期)。 很多情况下我们会将参数索引设置为False,这样就不用额外的列来显示数据文件中的索引。
  • to_excel: 写入 Excel 文件。
  • to_pickle:写入pickle文件。这是建议的写入格式,读写的速度都非常快。

💡 3.数据概览

将数据成 DataFrame 格式后,我们最好对数据有一个初步的了解,以下是最常用到的几个数据概览函数,能提供数据的基本信息。

  • head:返回前几行,通常用于检查数据是否正确读取,以及了解数据字段和形态等基本信息。
  • tail:检查最后几行。在处理大文件时,读取可能不完整,可以通过它检查是否完整读取数据。
  • info:数据集的总体摘要:包括列的数据类型和内存使用情况等信息。
  • describe:提供数据集的描述性摘要(比如连续值的统计信息、类别型字段的频次信息等)。
  • shape: 行数和列数(注意,这是Dataframe的属性,而非函数)。

💡 4.数据排序

我们经常需要对数据进行排序,Dataframe有一个重要的排序函数。

  • sort_values:通过指定列名对数据进行排序,可以调整升序或者降序规则。

💡 5.处理重复

我们手上的数据集很可能存在重复记录,某些数据意外两次输入到数据源中,清洗数据时删除重复项很重要。 以下函数很常用:

  • duplicated: 识别DataFrame中是否有重复,可以指定使用哪些列来标识重复项。
  • drop_duplicates:从 DataFrame 中删除重复项。一般建议大家先使用 duplicated检查重复项,确定业务上需要删除重复项,再使用这个函数。

💡 6.处理缺失值

现实数据集中基本都会存在缺失值的情况,下面这些函数常被用作检查和处理缺失值。

  • isnull:检查您的 DataFrame 是否缺失。
  • dropna: 对数据做删除处理。注意它有很重要的参数how(如何确定观察是否被丢弃)和 thred(int类型,保留缺失值的数量)。
  • fillna: 用指定的方法填充缺失值,例如向前填充 ( ffill)。

💡 7.数据处理

一个字段可能包含很多信息,我们可以使用以下函数对字段进行数据处理和信息抽取:

  • map:通常使用map对字段进行映射操作(基于一些操作函数),如 df[“sub_id”] = df[“temp_id”].map(lambda x: int(x[-4:])).
  • apply:通过多列的数据创建新的字段,在创建新列时经常需要指定 axis=1。

💡 8.数据透视

Dataframe有 2 种常见数据:

  • 『宽』格式,指的是每一行代表一条记录(样本),每一列是一个观测维度(特征)。
  • 『长』格式,在这种格式中,一个主题有多行,每一行可以代表某个时间点的度量。

我们会在这两种格式之间转换。

  • melt:将宽表转换为长表。 注意:重要参数id_vars(对于标识符)和 value_vars(其值对值列有贡献的列的列表)。
  • pivot:将长表转换为宽表。注意:重要参数index(唯一标识符), columns(列成为值列),和 values(具有值的列)。

💡 9.合并数据集

我们对多个数据集Dataframe合并的时候,可能用到下列的函数(包括表关联和拼接)。

  • merge:基于某些字段进行表关联。重要的参数包括 on(连接字段),how(例如内连接或左连接,或外连接),以及 suffixes(相同字段合并后的后缀)。
  • concat:沿行或列拼接DataFrame对象。当我们有多个相同形状/存储相同信息的 DataFrame 对象时,它很有用。

💡 10.分组统计

我们经常会需要对数据集进行分组统计操作,常用的函数包括:

  • groupby:创建一个 GroupBy 分组对象,可以基于一列或多列进行分组。
  • mean:您可以在 GroupBy 分组对象上调用 mean 来计算均值。其他的常用统计信息包括标准差std。
  • size: 分组的频率
  • agg:聚合函数。包括常用的统计方法,也可以自己定义。

参考资料

python pandas库常用函数及常用代码 else:将浮点数转换为整数。字符串处理函数是 Python中用于字符串的处理函数,这些函数可以帮助我们很快的处理字符串,下面是一些常用的字符串处理函数: 其中 numpy和 matplotlib是 matplotlib库中的字符串处理函数。srandom函数的使用方法: srandom函数实际上是一个简单的字符串匹配函数,它使用一个字符串来作为参数,返回一个随机数,可以使用 srandom和 salt两个函数来产生。在 pandas库中有很多函数,这些函数都是一些常用的函数,而且这些函数的功能也很强大。 阅读详情

相关推荐

nCode:GlyphWorks案例教程一

nCode GlyphWorks案例一Comparing Frequency Content of Two Different Tests案例文件目标配置选择数据 Comparing Frequency Content of Two Different Tests 在本案例中,我们将比较来自两个不同测试的六个加速计通道的频率内容。将三轴加速度计放置在车辆的左前角和右前角,然后分别在两个不同的试验路面上行驶12分钟以上。 案例文件 此案例的文件(采用nCode DAC格式)位于nCode安装目录下的\demo

追月行的博客 1万+

Pandas函数汇总

pd.read_excel('data.xls',sheet_name,header,names,index_col)# 读取excel。使用行索引(iloc[3,1]相当于两个参数;pd.concat([df1, df2], keys=['x', 'y']) # 使用多层索引 keys。pd.read_csv('data.csv',sep,header,index_col) # 加载csv数据。df.plot(kind='scatter', x='A', y='B') # scatter: 散点图。

qq_41600393的博客 6535

VMware ESXI 7.0实战:4T硬盘RAID1配置与性能调优全记录

本文详细记录了在VMware ESXI 7.0环境下,为Dell服务器配置两块4T硬盘组建RAID1并进行深度性能调优的全过程。文章重点解析了RAID控制器写入策略(Write-Back with BBU)、读取策略(Read-Ahead)的关键选择,并深入探讨了在ESXI虚拟机层面通过选用PVSCSI控制器、调整虚拟磁盘缓存策略(scsiX:Y.caching)等技巧,以最大化满足数据分析等IO密集型工作负载的需求,最终实现性能的显著提升。

gaochao的博客 259

这20个Pandas函数一定要牢记,建议收藏!!

来自:Deephub IMBAPandas 是数据科学社区中使用最广泛的库之一,它是一个强大的工具,可以进行数据操作、清理和分析。本文将提供最常用的 Pandas 函数以及如何实际使用它们的样例。我们将涵盖从基本数据操作到高级数据分析技术的所有内容,到本文结束时,你会深入了解如何使用 Pandas 并使数据科学工作流程更高效。1、pd.read_csv ()read_csv用于读取CSV(逗号分隔...

weixin_43373042的博客 4834

CentOS7安装openGauss5.0.2LTS版本

该文档要根据自己的实际情况调整ip地址。要根据自己的实际网卡调整。

superhanyubo的专栏 2579

桌面云虚拟机Ubuntu离线安装open-vm-tools

公司办公在桌面云中进行开发,桌面云是无法访问外网的,然后又有安装虚拟机的需求,使用VMware自带的VMware-tools安装功能失败,报错也需要联网才能解决,如果不安装VMware-tools,则虚拟机无法使用共享文件夹功能以及与本机共享剪贴板功能,非常难受,故自己研究解决如何离线安装open-vm-tools(open-vm-tools 是 VMware Tools 的开源实施)打开Ubuntu,可以在文件中看到生成的ISO文件,点开,将四个软件包复制粘贴至桌面。

weixin_43397593的博客 5076

高效的10个Pandas函数,你都用过吗?

作者|Soner Yıldırım来源|towardsdatascience翻译\编辑|Python大数据分析Pandas是python中最主要的数据分析库之一,它提供了非常多的函数、方...

简说Python的博客 2271

BioEmu 扩散模型加速传统分子动力学(MD)模拟

BioEmu 是一种创新的生成式深度学习系统,通过高效采样和准确预测蛋白质的动态机制,为蛋白质科学和药物设计提供了新的工具。它在多构象采样、MD 模拟拟合和蛋白质稳定性预测方面表现出色,同时显著降低了计算成本。BioEmu 的开发为未来蛋白质动态研究和应用奠定了坚实基础。

weixin_42357472的博客 320

Pandas太慢?快使用Vaex DataFrame,每秒数亿数据算起来 ⛵

本文详细介绍了Vaex这个强大的工具库,能够每秒处理数亿甚至数十亿行数据,而无需将整个数据集加载到内存中。对于大型数据的分析任务,Vaex的效率更简单,对硬件/环境的要求更少!pandas升级版!快用起来吧~

ShowMeAI研究中心 1万+

携程滑块、点选验证码登录识别逆向

本文分析了携程登录系统的风控机制,主要包含三种验证场景:无验证码、滑块验证码和二次图标点选验证码。通过跟踪risk_inspect风控接口,发现验证流程采用标准AES加密,需提交设备指纹等加密信息。当触发验证码时,需额外提交包含轨迹坐标的verify_msg参数及token/rid参数。最终通过风控检测后,需使用一致的指纹参数和验证token完成加密登录。文章强调所有分析仅用于学习,代码实现需确保符合法律规范。

码王吴彦祖的博客 1100

Fastgpt本地使用Docker Compose 快速部署

修改文件,并执行再执行d重起容器。具体配置,参考配置详解。可以查看日志,在启动容器后,第一次请求网页,会进行配置文件读取,可以看看有没有读取成功以及有无错误日志。进入 FastGPT 容器,可以通过ls data查看目录下是否成功挂载文件。可通过查看配置文件。可能不生效的原因挂载目录不正确配置文件不正确,日志中会提示invalid json,配置文件需要是标准的 JSON 文件。

洛阳泰山的博客 1633

Pandas数据显示不全?快来了解这些设置技巧! ⛵

资深工程师最常用的 Pandas 显示设置技巧!Pandas数据显示不全?快来了解这些设置技巧,自定义显示的行数、列数、列宽,使浮点列之间的小数位精度保持一致、禁用科学记数法

ShowMeAI研究中心 1万+

032、准谐振反激变换器(QR-Flyback)原理

文章摘要: 本文以65W PD快充炸管案例切入,解析准谐振反激变换器(QR-Flyback)原理。通过主动利用漏感与MOS结电容的谐振,在Vds波谷开通实现近似ZVS,显著降低开关损耗与电压应力。对比传统反激,QR模式轻载效率提升8%,Vds尖峰减少23%。关键设计要点包括:变压器漏感需<3%、谷底检测电路需抗干扰、启动阶段需防过冲。推荐NCP1340等专用控制芯片,并强调VCC电容优选低ESR陶瓷材质。QR适用于30W-150W场景,其核心优势在于轻载效率优化,但需平衡漏感控制与可靠性。作者结合实测数据与

Jack010169的博客 117

高手系列!数据科学家私藏pandas高阶用法大全 ⛵

本文汇总介绍了21个 Pandas 进阶用法,能保持代码整洁优雅,更能提高代码效率!这篇是从数据科学家朋友那里搞到的私藏,快一起薅羊毛~

ShowMeAI研究中心 1万+

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

C# WinForm 基于DirectShow.dll编写的程序,可边预览边保存视频,音频和图片

基于微软的DirectShow.dll的二次开发1.自动识别连接的摄像头跟麦克风且可以对其进行选择(默认选中第一个)2.可录制wmv和avi两种格式的视频并且都带有音频,avi可以录制的分辨率和帧数进行选择,wmv默认进行了淸晰度优化如不喜欢可去除代码中有相关提示3.可在预览点开之后进行拍照,也可边录制视频边拍照4.添加了视频和音频的压缩功能(酌情使用)这次二次开发发现C#对DirectShow的相关信息太少,这次做完也不敢藏私共享出来,还望大家指正

羡慕 Excel 的高级选择与文本框颜色呈现?Pandas 也可以拥有!! ⛵

通过 Styler API 的设置,Pandas 也能像 Excel 那样进行『条件选择』和 『文本框颜色』设置,一眼获取最关键信息!本文讲解 Pandas 使用单色(或渐变色)高亮显示缺失值、最大值、最小值、范围值等【数据与代码亲测可运行】...........................

ShowMeAI研究中心 1万+

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

羡慕 Excel 的高级选择与文本框颜色呈现?不妨看看pandas是如何吊打Excel ⛵

用过 Excel 的数据分析师,对 Excel 的『』与『』功能大都印象深刻。下方动图演示了 Excel『数据选择&底色填充高亮』功能。如果我们需要『』,直接如下图所示,在『条件格式』中选择『突出显示单元格规则』即可进行设置。习惯用 Python 进行数据分析挖掘的我们,是否可以完成相同的高级显示呢?答案是,可以的!!在本文中将带大家在 Pandas Dataframe 中完成多条件数据选择及各种呈现样式的设置。

weixin_45356954的博客 106

数据分析大作战,SQL V.S. Python,来看看这些考题你都会吗 ⛵

SQL与Pandas都可以完成大部分数据分析需求。本文用SQL与Pands逐一实现10类核心数据分析需求,轻松进行对比学习:数据选择、限制、统计计数、排序、新字段生成、数据选择、数据分组、统计均值、方差、极差/范围。...

ShowMeAI研究中心 9049

2022了你还不会『低代码』?数据科学也能玩转Low-Code啦! ⛵

2022了你还不知道“低代码”?一起看看数据分析、机器学习、深度学习领域最受欢迎的 Python 低代码工具:D-Tale、AutoViz、Lux、Pandas-Profiling、PyCaret、PyTorch Lightning、Hugging Face Transformers。

ShowMeAI研究中心 1万+

一键自动化数据分析!快来看看 2023 年最受欢迎的 Python 宝藏工具库! ⛵

实际工作中,我们往往依托于业务数据分析制定业务策略。这个过程需要频繁地进行数据分析和挖掘,发现模式规律。对于算法工程师而言,一个有效的 AI 算法系统落地,不仅仅是模型这么简单——数据才是最底层的驱动。典型的『』包含 6 个关键步骤,其中『』是至关重要的一步。探索性数据分析,通常使用统计图形等数据可视化方法,探索数据的结构和规律,总结数据主要特征的方法。这一过程通常包含细碎的处理步骤和分析操作。

Everly_的博客 1506

一键自动化数据分析!快来看看 2022 年最受欢迎的 Python 宝藏工具库! ⛵

探索性数据分析(EDA)在机器学习中至关重要!这些高效又绝美的宝藏库,快用起来——Matplotlib、Seaborn、Plotly、Bokeh、Altair、pandas-profiling、Sweetviz、AutoViz、Microsoft Power BI、Tableau!

ShowMeAI研究中心 1万+

pycharm实用库推荐,玩转pycharm,一篇就够啦~

PyCharm 是由 JetBrains 开发的一款强大的 Python 集成开发环境(IDE),为 Python 程序员提供了智能代码编辑、调试器、集成工具、测试支持、Web 开发支持、数据库工具和丰富的插件生态系统等功能。它适用于从小型脚本到大型项目的所有 Python 开发任务,尤其在 Web 开发、数据科学和机器学习领域表现出色。PyCharm 提供社区版(免费)和专业版(付费),满足不同开发者的需求,大幅提高开发效率。

小瑾的博客 2523

50个pandas高频操作汇总_50个pandas 高频使用

df.info()

2401_89790831的博客 2264

pandas 常用函数与方法汇总

pandas数据变形–分组与聚合 agg(func) agg实现了apply+combine func取内置聚合函数(如max,min) func取自定义函数 func取函数列表 func取key为列名、value为函数的dict 结果 行索引为groupby 的by值 列名: 当func为一个函数时,列名为原始列名 ...

红叶谷 wsp_1138886114的博客 3134

从Excel到Python:最常用的36个Pandas函数

数据表检查的目的是了解数据表的整体情况,获得数据表的关键信息、数据的概况,例如整个数据表的大小、所占空间、数据格式、是否有 空值和重复项和具体的数据内容,为后面的清洗和预处理做好准备。本文涉及pandas最常用的36个函数,通过这些函数介绍如何完成数据生成和导入、数据清洗、预处理,以及最常见的数据分类,数据筛选,分类汇总,透视等最常见的操作。使用price列的均值来填充NA字段,同样使用fillna函数,在要填充的数值中使用mean函数先计算price列当前的均值,然后使用这个均值对NA进行填充。

2401_84009679的博客 1318

数据专家最常使用的 10 大类 Pandas 函数

Python具有极其活跃的社区和覆盖全领域的第三方库工具库,近年来一直位居编程语言热度头部位置,而数据科学领域最受欢迎的python工具库之一是 Pandas。

2201_75362610的博客 590

超全的 100 个 Pandas 函数汇总,建议收藏

来源丨吊车尾学院大家好,我是小z今天给大家整理了100个Pandas常用的函数,可以放在手头当字典的那种。分别分为6类:统计汇总函数、数据清洗函数、数据筛选、绘图与元素级运算函数、时间序列...

SeizeeveryDay的博客 805
上一篇: 钻石价格预测的ML全流程!从模型构建调优道部署应用!⛵
下一篇: 部署机器学习模型必须考虑的5个要素;用Python快速写web应用的框架;神经网络可视化;3D医学图像分割工具包;前沿论文 | ShowMeAI资讯日报
ShowMeAI
博客等级 码龄5年 6514粉丝 672原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

ShowMeAI

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值