利用python两种方法教你一行代码实现探索性数据分析报告

利用python进行探索性数据分析(EDA):以Kaggle泰坦尼克号数据集为例 探索性数据分析(EDA)是我们进行数据分析和很多数据挖掘比赛的基础。当我们得到一个数据后,我们首先要分析一下这个数据的基本情况,例如哪些变量是分类型的,哪些是连续型的,它们的分布是什么情况,它们之间有什么关系,数据缺失值如何。通过探索性数据分析后,我们能大致了解数据,从而进行相关模型建立以及作为特征工程的基础。 本文通过Kaggle泰坦尼克号数据来进行探索性数据分析实战。📝个人介绍:小编大四统计在读,目前保研到统计学top3高校继续攻读统计研究生,如果文章对你有帮助,欢迎点赞收藏评论!... 阅读详情

💮两种方法教你一行代码实现探索性数据分析报告

==探索性数据分析(EDA)== 是使用可视化方法总结和分析数据集主要特征的过程。EDA是数据科学家要做的第一部分,如果我们不懂得如何进行EDA,那么无法对数据进行进一步的建模。上一篇文章我以泰坦尼克号数据为例,介绍了如何使用python详细的进行探索性数据分析,但有时这是很耗费时间的,现在,我介绍两种方法实现一行代码生成探索性数据分析报告。分别使用以下两个包,如果没有安装的小伙伴先去安装一下。

  • Sweetviz
  • pandas_profiling

我们照样使用泰坦尼克号数据集进行分析,需要相关数据集的看我这篇文章:blog.youkuaiyun.com/weixin_4505…

  • 先导入数据
import pandas as pd
from pandas_profiling import ProfileReport
df = pd.read_csv("train.csv")
df.head()

.dataframe tbody tr th:only-of-type { vertical-align: middle; } .dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; }

PassengerIdSurvivedPclassNameSexAgeSibSpParchTicketFareCabinEmbarked
0103Braund, Mr. Owen Harrismale22.010A/5 211717.2500NaNS
1211Cumings, Mrs. John Bradley (Florence Briggs Thayer)female38.010PC 1759971.2833C85C
2313Heikkinen, Miss. Lainafemale26.000STON/O2. 31012827.9250NaNS
3411Futrelle, Mrs. Jacques Heath (Lily May Peel)female35.01011380353.1000C123S
4503Allen, Mr. William Henrymale35.0003734508.0500NaNS
df.shape

(891, 12)

🏵️1. Sweetviz

==Sweetviz== 一个python开源库,通过基本的可视化来分析数据,并生成一个html文件。这个库的主要优点是我们可以 比较数据集。 首先我们创建一个名为sweet_Analysized_report的文件,显示探索性数据分析结果。在本报告中,我们可以很容易地找到不同变量的特征,如:数量、缺失值、不同值、最大值、最小值、平均值等。具体代码和结果如下图所示

import sweetviz as sv
sweet_report = sv.analyze(df)
sweet_report.show_html('sweet_report.html')


  • ==相关系数热力图== image-20220428000518658

  • ==Age分布情况==

image-20220428000524465

  • ==sibsip分布情况== image-20220428000528937

==在这个Html文件中,我们可以看到其他每个变量的分布情况,大家可以自行验证测试。==

🌹2. 比较探索性数据分析

Sweetviz还支持比较不同数据集的探索性数据分析,首先,我们将数据集分成两部分,然后进行比较,然后保存此比较报告。数据集的两部分显示两种不同的颜色橙色和蓝色。具体代码和结果见下文:

df1 = sv.compare(df[445:], df[:445])
df1.show_html('Compare.html')

这里我把数据分为两部分,分别有445和446个数据。

  • ==survived分布情况==

image-20220428000605910

  • ==Pclass分布情况== image-20220428000610892

  • ==sex分布情况== image-20220428000616112

🥀3. pandas_profiling

==pandas_profiling==基于pandas的DataFrame数据类型,可以简单快速地进行探索性数据分析。和sweetviz类似,pandas_profiling可以返回一个html文件,包含如下内容

  • 数据整体概要:数据类型,唯一值,缺失值等
  • 各个变量的描述性统计分析
  • 各个变量的分布情况,直方图和条形图
  • 变量间的相关系数热力图等

具体代码和结果如下:

design_report = ProfileReport(df)
design_report.to_file(output_file='report.html')

  • ==变量分布情况== image-20220428000643490

  • ==相关系数热力图==

image-20220428000652333

  • ==变量关系图== image-20220428000659451

  • ==数据总体概要== image-20220428000707130

✨总结

用上述两种方法得到的探索性数据分析是非常简易的。如果要想详细了解数据的话,建议一步一步根据自己的需求进行分析。具体可以看下面这篇推荐的文章,不过通过上述两种方法可以让我们大致初步的了解一下数据情况,并且可以节约很多时间(毕竟探索性数据分析真的很花费时间)

---------------------------END---------------------------

题外话

当下这个大数据时代不掌握一门编程语言怎么跟的上时代呢?当下最火的编程语言Python前景一片光明!如果你也想跟上时代提升自己那么请看一下.

在这里插入图片描述

感兴趣的小伙伴,赠送全套Python学习资料,包含面试题、简历资料等具体看下方。


👉优快云大礼包🎁:全网最全《Python学习资料》免费赠送🆓!(安全链接,放心点击)

一、Python所有方向的学习路线

Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照下面的知识点去找对应的学习资源,保证自己学得较为全面。

img
img

二、Python必备开发工具

工具都帮大家整理好了,安装就可直接上手!img

三、最新Python学习笔记

当我学到一定基础,有自己的理解能力的时候,会去阅读一些前辈整理的书籍或者手写的笔记资料,这些笔记详细记载了他们对一些技术点的理解,这些理解是比较独到,可以学到不一样的思路。

img

四、Python视频合集

观看全面零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

img

五、实战案例

纸上得来终觉浅,要学会跟着视频一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

img

六、面试宝典

在这里插入图片描述

在这里插入图片描述

简历模板在这里插入图片描述

👉优快云大礼包🎁:全网最全《Python学习资料》免费赠送🆓!(安全链接,放心点击)

若有侵权,请联系删除

Python探索性数据分析库之sweetviz使用详解 Python Sweetviz库是一个强大的自动化探索性数据分析工具,它通过生成全面、交互式的可视化报告,大幅简化了数据分析过程。其自动化的特性使数据科学家能够快速理解数据结构、识别模式和异常,并发现特征与目标变量之间的关系,从而为后续的特征工程和模型构建提供宝贵洞察。Sweetviz的使用非常简单直观,只需几行代码即可生成专业的分析报告,同时也提供了足够的灵活性来满足特定的分析需求。 阅读详情

相关推荐

5个Python自动化探索性数据分析库

EDA或探索性数据分析是一项耗时的工作,但是由于EDA是不可避免的,所以Python出现了很多自动化库来减少执行分析所需的时间。EDA的主要目标不是制作花哨的图形或创建彩色的图形,而是获得对数据集的理解,并获得对变量之间的分布和相关性的初步见解。我们在以前也介绍过EDA自动化的库,但是现在已经过了1年的时间了,我们看看现在有什么新的变化。

dsuiofh的博客 1778

莫兰指数stata命令_基于Stata的ESDA(探索性空间数据分析)代码解析与实操验证...

一、引言探索性空间数据分析(Exploratory Spatial Data Analysis,ESDA)是空间计量经济学的重要技术。网上调研发现,鲜有基于Herrera Gomez(2016)的方法,使用中国本土数据,比较全面地实现ESDA的文章。本文可能是中国第一篇基于中国本土数据,实现Herrera Gomez(2016)技术,并对其进行深度解读的文章。本文由五大部分组成:第一部分...

weixin_36317317的博客 1万+

通过Python库ydata-profiling生成数据分析报告

ydata-profiling提供了一个全面的数据集分析视图,使得能够快速理解数据集的特征,识别潜在的数据质量问题,并为进一步的数据分析和建模提供基础。报告可以导出为 HTML 或 JSON 格式,便于分享和进一步处理。

eeee~~的博客 1545

10个自动EDA库功能介绍:几行代码进行的数据分析靠不靠谱

在本文中整理了10个可以自动执行EDA并生成有关数据的见解的软件包,看看他们都有什么功能,能在多大程度上帮我们自动化解决EDA的需求。

deephub 4193

探索性分析 NOAA 时空数据的 R 语言实现

在数据科学领域,探索性数据分析(Exploratory Data Analysis,简称 EDA)是一项重要的任务,旨在通过可视化和统计方法来了解数据的特征和结构。本文将介绍如何使用 R 语言进行 NOAA 时空数据的探索性分析,并提供相应的源代码示例。值得注意的是,本文仅提供了 NOAA 时空数据的探索性分析的基本框架和示例代码,具体的分析方法和结论应根据实际需求和数据特点进行调整。希望这篇文章能够帮助您在 R 语言中能够帮助您在 R 语言中进行 NOAA 时空数据的探索性分析。

BugHunterX的博客 314

数据分析可视化利器:python pandas-profiling 一行代码EDA 探索性数据分析

在数据分析进行之前,了解原始数据的分布,缺失值情况,数据的相关性等非常重要,今天介绍的python 库就可以非常便利而且炫酷的解决这个问题。

shiter编写程序的艺术 3209

Python机器学习:使用Pandas进行探索性数据分析 Ⅱ

承接上篇博客,前期我们处理分析了数据,后续我们将对其进行训练评估,我们使用了五种算法进行比对,来选择最适合我们的训练模型。

北天的博客 806

数字IC设计实现之hierarchical flow系列(一)

数字IC设计实现之hierarchical flow系列(一) 最近这段时间小编又比较忙起来了,今天抽空来咖啡厅码字来了,刚到时脑子一片空白,不知道要分享些什么(项目结束后将会在知识星球上分享数字 IC 设计实现 Tapeout 前要review的那些 checklist)。突然间想起来有个星友希望小编分享些数字 IC 设计实现 hierarchical flow 的相关内容。考虑到现在大都采用这种方式来做 design 和实现,那就选这个 topic 了。限于篇幅和时间限制,今天只分享逻辑综合部分和布局布

weixin_37584728的博客 6003

两种方法教你一行代码实现探索性数据分析报告

探索性数据分析(EDA) 是使用可视化方法总结和分析数据集主要特征的过程。EDA是数据科学家要做的第一部分,如果我们不懂得如何进行EDA,那么无法对数据进行进一步的建模。上一篇文章我以泰坦尼克号数据为例,介绍了如何使用python详细的进行探索性数据分析,但有时这是很耗费时间的,现在,我介绍两种方法实现一行代码生成探索性数据分析报告。分别使用以下两个包,如果没有安装的小伙伴先去安装一下...

阿里云专家博主、数据科学领域优质创作者、统计er在读 4691

应用软件——Altium Designer 19 Gerber/坐标文件

如何输出Gerber文件 步骤如下: 打开需要输出的PCB文件 2. 设置原点坐标 3. 打开Gerber Files 选项,File–>Fabrication Opuputs–>Gerber Files。 4. General参数设置。 用于指定输出Gerber文件中使用的单位(Units)和格式(Format)。单位可以是公制(Millimeters)和英制(Inches);格式栏中2:3,2:4,2:5代表文件中使用的不同数据精度,其中2:3表示数据含2位整数3位小数;相应的,另外两个分

染血黑兔的博客 7206

F28335 DSP ePWM模块实战:从基础配置到电机控制

本文详细解析了TI TMS320F28335 DSP的ePWM模块,从基础概念、寄存器配置到实战应用。通过代码示例,手把手教你如何配置定时中断、生成PWM波形、实现死区保护与故障联防,并最终完成一个可调速、可换向的直流电机控制项目,是掌握F28335电机控制核心技术的实战指南。

g5h6i的博客 1128

pandas_profiling :教你一行代码生成数据分析报告

分析报告全貌‍什么是探索性数据分析熟悉pandas的童鞋估计都知道pandas的describe()和info()函数,用来查看数据的整体情况,比如平均值、标准差之类,就...

python爬虫人工智能大数据 1480

GD32F470实战:如何用EXMC+SDRAM搞定LVGL大内存需求(附完整代码)

本文详细介绍了如何在GD32F470微控制器上通过EXMC接口驱动外部SDRAM,以满足LVGL图形库的大内存需求。内容涵盖硬件连接、EXMC时序配置、轻量级内存管理器实现,以及将LVGL帧缓冲和资源无缝集成到SDRAM的实战方法,并提供了完整的代码示例和调试技巧,帮助开发者构建稳定可靠的嵌入式GUI系统。

k9l0m1的博客 443

区区几行Python代码,就能实现全面自动探索性数据分析!

在本文中,我们介绍了10个自动探索性数据分析Python软件包,这些软件包可以在几行Python代码中生成数据摘要并进行可视化。通过自动化的工作可以节省我们的很多时间。Dataprep是我最常用的EDA包,AutoViz和D-table也是不错的选择,如果你需要定制化分析可以使用Klib,SpeedML整合的东西比较多,单独使用它啊进行EDA分析不是特别的适用,其他的包可以根据个人喜好选择,其实都还是很好用的,最后edaviz就不要考虑了,因为已经不开源了。

wly55690的博客 887

STM32G474串口调试避坑指南:从CubeMX配置到中断收发,手把手教你搞定USART1

本文详细解析了STM32G474串口调试中的常见问题,从CubeMX配置到中断收发,提供USART1的避坑指南。涵盖时钟树同步、GPIO模式选择、中断接收逻辑、波特率偏差修正等关键点,帮助开发者高效解决串口通讯难题,提升嵌入式开发效率。

weixin_29191081的博客 210

基于STM32、HAL库的MCP4651-503E/ST数字电位器驱动程序设计

@param channel: 通道 (0: A通道, 1: B通道)* @param channel: 通道 (0: A通道, 1: B通道)// SPI1 SCK/MISO/MOSI引脚配置。* @param hmcp: MCP4651句柄。* @param hmcp: MCP4651句柄。* @param hmcp: MCP4651句柄。* @param hmcp: MCP4651句柄。* @param hmcp: MCP4651句柄。* @param hspi: SPI句柄。

corlin6688的博客 137

Python一行命令生成数据分析报告

一般在python进行数据分析/统计分析时,第一步总是对数据进行一些描述性分析、相关性分析,但是总会是有一大堆代码,那么今天就介绍一个神器pandas_profiling,一行命令就能搞定大部分描述性分析! 安装 pipinstallpandas_profiling 使用 那么我们继续使用之前文章中使用过很多次的NBA数据集,还记得我们在介绍pandas使用的那篇文章...

早起Python 1274

Spring Boot集成ShardingSphere实现数据加密及数据脱敏 | Spring Cloud 48

利用ShardingSphere实现: - 数据加密 - 数据脱敏

gmHappy 1万+

python数据分析并生成报告_pandas_profiling :教你一行代码生成数据分析报告

分析报告全貌‍ 什么是探索性数据分析熟悉pandas的童鞋估计都知道pandas的describe()和info()函数,用来查看数据的整体情况,比如平均值、标准差之类,就是所谓的探索性数据分析-EDA。pandas_profiling简介如果你想更方便快捷地了解数据的全貌,泣血推荐一个python库:pandas_profiling,这个库只需要一行代码就可以生成数据EDA报告。pandas_...

weixin_39742065的博客 390

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

python一行输出五个数据_换个思路,一行Python搞定数据探索性分析!

对于每个从事和数据科学有关的人来说,前期的数据清洗和探索一定是个花费时间的工作。毫不夸张的说,80%的时间我们都花在了前期的数据工作中,包括清洗、处理、EDA(Exploratory Data Analysis,探索性数据分析)等。前期的工作不仅关乎数据的质量,也关乎最终模型预测效果的好坏。 每当我们手上出现一份新的数据时,我们都需要事先通过人为地观察、字段释义等方...

weixin_39873456的博客 2991

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

上一篇: Python Requests:轻松搞定HTTP请求!
下一篇: 【Python|Pandas】Pandas库核心内容
Python_P叔
博客等级 码龄3年 5453粉丝 827原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值