Python笔记:Pandas DataFrame 加载数据的方式

Python 生成测试数据的常用第三方库整理 文章目录 阅读详情

为什么要加载不同的数据

因为我们很有可能会使用来自很多来源的数据库训练学习算法。Pandas 使我们能够将不同格式的数据库加载到 DataFrame 中。

加载数据格式 csv

  • 用于存储数据库的最热门数据格式是 csv
  • CSV 是指逗号分隔值, 是一种简单的数据存储格式
  • pd.read_csv() 函数将 CSV 文件加载到 Pandas DataFrame
Salary_data = pd.read_csv('./salary.csv')

# 我们输出关于 Google_stock 的一些信息
print('Salary_data is of type:', type(Salary_data))
print('Salary_data has shape:', Salary_data.shape)
  • 使用 .head() 方法查看前 5 行数据
Salary_data.head()
  • .tail() 方法查看最后 5 行数据
Salary_data.head()
  • 我们还可以选择使用 .head(N) 或 .tail(N) 分别显示前 N 行和后 N 行数据

  • 快速检查下数据集中是否有任何 NaN 值, 我们将使用 .isnull() 方法,然后是 .any() 方法,检查是否有任何列包含 NaN 值

Salary_data.isnull().any()
  • 通过使用 Pandas 的 .describe() 方法,可以获取关于 DataFrame 每列的描述性统计信息
Salary_data.describe()
  • 也可对单列应用 .describe() 方法
Salary_data['你的某列标签名'].describe()

使用 Pandas 提供的很多统计学函数查看某个统计信息

# 查看每列最大值
print(Salary_data.max())
# 查看某一列的最小值
print(Salary_data['某一列的标签'].min())
# 查看每列平均值
print(Salary_data.mean())

另一个重要统计学衡量指标是数据相关性

  • 使用 .corr() 方法获取不同列之间的关联性: 关联性值为 1 表明关联性很高,关联性值为 0 告诉我们数据根本不相关。
Salary_data.corr()

以不同的方式对数据分组

  • .groupby() 方法使我们能够以不同的方式对数据分组
# 加载假公司的数据到DataFrame中
data = pd.read_csv('./fake_company.csv')
data

这里写图片描述

  • 我们来计算公司每年在员工薪资上花费的数额。为此,我们将使用 .groupby()方法按年份对数据分组,然后使用 .sum() 方法将所有员工的薪资相加。
data.groupby(['Year'])['Salary'].sum()

输出:

Year
1990     153000
1991     162000
1992     174000
Name: Salary, dtype: int64
  • 现在假设我们想知道每年的平均薪资是多少。为此,我们将使用 .groupby()方法按年份对数据分组,就像之前一样,然后使用 .mean() 方法获取平均薪资。
data.groupby(['Year'])['Salary'].mean()

输出:

Year
1990     51000
1991     54000
1992     58000
Name: Salary, dtype: int64
  • 现在让我们看看每年每个部门的薪资分配状况。在这种情况下,我们将使用.groupby()方法按照Year和Department对数据分组,之后我们会把每个部门的薪资加起来
data.groupby(['Year', 'Department'])['Salary'].sum()

输出:

Year     Department
1990    Admin              55000
             HR                    50000
             RD                    48000
1991    Admin              60000
             HR                    52000
             RD                    50000
1992    Admin            122000
             RD                    52000
Name: Salary, dtype: int64
python 数据处理学习pandas之DataFrame(一) 暂无 阅读详情

相关推荐

python pandas 之 Dataframe 数据结构

DataFrame 是 pandas 中两个主要数据结构之一,另一个是 Series。DataFrame 的文档在这里:传送门。 因为这几天需要使用这个数据结构来完成一个小作业,在这里总结一下 Dataframe 的一些基本用法。 文章目录创建元素访问获取行列常用属性矩阵转置元素个数行元素个数列元素个数操作遍历行遍历列遍历求和行求和列求和参考资料 创建 首先我们来看一看 Dataframe 的创建...

在到处之间找我 2570

python Faker制造假数据并以csv格式写到文件中

python Faker制造假数据并以csv格式写到文件中

weixin_45514285的博客 910

Python 的 pandas DataFrame 简介

pandas是一个开源的 Python 库,它提供了高性能的数据操控,使得数据分析变得快速和简单。典型的pandas用途有重塑(reshape)、排序(sort)、切片(slice)、聚合(aggregate)和合并(merge)数据。pandas库的底层是NumPy库。NumPy是用来处理数组的,它的性能比传统的 Python 列表,高得多,因为它把数据存放在一块连续的内存里。pandasSeries(系列):这是一个类似于一维数组的对象,包含一个数据数组和一个数据标签数组。数据标签数组被称作index。

dowhileprogramming的专栏 1149

借助faker+pandas生成测试数据保存到excel文件

【代码】借助faker+pandas生成测试数据保存到excel文件。

weixin_45288198的博客 610

【python】pandas:DataFrame详解

DataFrame是一个二维的表格型数据结构,它含有一组有序的列,每列可以是不同的值类型(数值、字符串、布尔型值等)。DataFrame可以被视为一个电子表格或SQL表,或是由多个Series对象组成的字典(这些Series对象共享一个索引)。

MAOZI8的博客 1605

python dataframe是什么_什么是Pandas的DataFrame?

1. 什么是DataFrameDataFrame是一个表格型的数据结构,它含有一组有序的列,每列可以是不同的值类型(数值、字符串、布尔值等)。DataFrame既有行索引也有列索引,它可以被看做由series组成的字典(共用同一个索引)2. DateFrame特点DataFrame中面向行和面向列的操作基本是平衡的。DataFrame中的数据是以一个或多个两维块存放的(而不是列表、字典或别的一维数...

weixin_35289035的博客 2018

Python-faker+panda

点击名片关注阿尘blog,一起学习,一起成长今日分享一些Python常用的东西,整理一些小笔记,比如Faker的使用,panda的使用1、使用faker造数据简介测试工作中,经常会遇到需要制造大量测试数据的时候,如果手动造数据必然会浪费大量时间,Faker是一个制造数据的强大的python库,可以制造姓名、电话、身份证、地址、邮箱等等各种各样伪数据,所以还是有必要了解一下的。安装fakerpip...

m0_72418211的博客 252

递归神经网络预测Google股票价格:我尝试使用LSTM预测Google股票价格

递归神经网络预测Google股票价格 我试图使用LSTM预测Google股票价格 长短期记忆(LSTM)单元(或块)是递归神经网络(RNN)层的构建单元。 由LSTM单元组成的RNN通常称为LSTM网络。 常见的LSTM单元由单元,输入门,输出门和忘记门组成。 该单元负责在任意时间间隔内“记住”值。 因此,LSTM中的“内存”一词。 就像多层(或前馈)神经网络中一样,这三个门中的每一个都可以被认为是“常规”人工神经元:也就是说,它们计算加权和的激活(使用激活函数)。 从直觉上讲,它们可以看作是通过LSTM连接的值流的调节器。 因此表示“门”。 这些门与单元之间存在连接。 更好的预测模型的结果是:

python熊猫入门

A comprehensive guide to analyzing CSV data using Python Pandas and Pandas Profiling 使用Python Pandas和Pandas分析来分析CSV数据的综合指南 Python Pandas is one of the most heavily used tools utilized by data scienti...

weixin_26741235的博客 453

2019股票价格_data.csv

NumPy学习指南书的 苹果股票价格的数据,用于代码案例测试, 文件为csv格式

stocks.csv

量化交易测试策略股票代码,是基于2020.06.12选出,均线处于多头状态,喜欢的同学,可以下载测试抓匹配的策略一下,同步学习一下

Python:Pandas创建Dataframe数据框的六种方法

创建Dataframe主要是使用pandas中的DataFrame函数,其核心就是第一个参数:data,传入原始数据,因此我们可以据此给出六种创建Dataframe的方法: 一、字典类 方法1:列表、数组或元组构成的字典构造Dataframe 直接上代码: import pandas as pd import numpy as np dic = {"a": [1, 2, 3, 4], #列表 "b": np.array([4, 5, 6, 7]), #数组 "c": (1, 2,

DY7778F的博客 4万+

goog.rar_google_stock_stock price

google stock price pridiction

Python3 pandas,DataFrame的常用属性、访问DataFrame中的数据

查看DataFrame的常用属性 DataFrame的基础属性有values、index、columns和dtypes,分别可以获取元素、索引、列名和类型。 读取CSV数据 查看DataFrame的属性 访问DataFrame中的数据 DataFrame单列数据获取 DataFrame单列多行数据获取 DataFrame多行多列数据获取 DataFrame多行...

霏霏_伊人 4974

博客中数据分析师专栏,机器学习部分的补充数据文件

博客中数据分析师专栏,机器学习部分的补充数据文件 有文件缺少可以直接私信博主补充

一、Abaqus CAE 入门操作(薄膜应力计算)

一、Abaqus CAE 入门操作(薄膜应力计算)

A20802013的博客 4371

Pandas系列:10种方式创建DataFrame

DataFrame数据创建 在上一篇文章中已经介绍过pandas中两种重要类型的数据结构:Series类型和DataFrame类型,以及详细讲解了如何创建Series的数据。 本文介绍的是如何创建DataFrame型数据,也是pandas中最常用的数据类型,必须掌握的,后续的所有连载文章几乎都是基于DataFrame数据的操作。 扩展阅读 1、Pandas开篇之作:Pandas中使用爆炸函数 2、Pandas系列第一篇:Series类型数据创建 导入库 pandas和numpy建议通过anaconda安

尤尔小屋 1万+

从Google到LLVM:5种主流clang-format预设风格横向对比(含代码对比图)

本文横向对比了LLVM、Google、Chromium、Mozilla和WebKit五种主流的clang-format预设代码风格。通过同一段C++代码的格式化效果对比图,直观展示了它们在指针对齐、大括号换行、缩进等关键细节上的差异,并提供了基于团队背景与项目基因的选型决策指南。

weixin_28828243的博客 445

Pandas-DataFrame入门

Pandas是用于数据分析的开源Python库,可以实现数据加载,清洗,转换,统计处理,可视化等功能DataFrame和Series是Pandas最基本的两种数据结构DataFrame用来处理结构化数据(SQL数据表,Excel表格)Series用来处理单列数据,也可以把DataFrame看作由Series对象组成的字典或集合在我们使用Excel或者SQL进行数据处理时,Excel和SQL都提供了基本的统计计算功能当我们再次查看gapminder数据的时候,可以根据数据提出几个问题。

weixin_45862390的博客 1366

硬件工程师八大细分岗位详解:从芯片到整机的技术分工与职业选择

硬件工程作为电子系统设计的核心领域,涉及从芯片级到整机级的完整技术链条。其基本原理是通过电路设计、信号处理和功率管理等技术,将电子元件集成为功能完备的硬件系统。随着产品复杂度提升,硬件工程师岗位出现高度专业化分工,这种细分不仅提升了技术深度,更优化了团队协作效率。在工程实践中,信号完整性和电源完整性成为高速数字设计的两个关键技术挑战,直接影响系统稳定性。本文基于行业热词"硬件工程师"和"信号完整性",深入解析八大细分岗位的技术差异,帮助从业者明确职业发展方向,构建系统化的硬件设计思维。

weixin_33811539的博客 458

Web自动化神操作:如何用OpenCV 破解滑块验证码?

验证码作为一种安全机制,可以有效防止暴力破解密码、发帖、灌水、刷票等,大家在做 Web 自动化的时候应该有碰到验证码这个难题,一般我们可以和开发沟通请求他们的帮助:去掉验证码或者设置一个万能验证码,而如果开发不帮忙我们该如何去解决呢? 本篇文章以 Java 语言为例教你怎么破解验证码。 现在大多数网址会采用滑块验证码的方式,下面以腾讯的滑块验证码为例,先来看看破解的效果: 要破解滑块验证码,我们一般采取的思路如下: 获取滑块到背景缺口图的距离 通过 selenium 的 Actio

不喝枸杞的程序员 2037

Pandas各种方式读取dataframe的数据,有这篇就够了

import numpy as np from pandas import DataFrame import pandas as pd #构建dataframe,二维数组 df = DataFrame(np.arange(20).reshape(4,5),index=['one','two','three','four'],columns=list('abcde')) print(df) ...

健康平安的活着的专栏 9457

11、Windows Autopilot 部署与设备注册全攻略

本文详细介绍了Windows Autopilot的完整部署流程,涵盖注册配置文件设置、注册状态页面(ESP)配置、设备注册方法(包括CSV导入、JSON注入、在线注册等)、自动化脚本实现及故障排除技巧。通过手动与PowerShell自动化两种方式指导用户完成配置,并提供流程图、最佳实践和常见问题解答,帮助IT管理员高效实现设备零接触部署与管理。

ii567的博客 343
上一篇: Python笔记:在Pandas中处理NaN值
下一篇: Python笔记:初识Matplotlib和Seaborn
Wang's Blog
博客等级 码龄12年 7438粉丝 2421原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Wang's Blog

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值