现学现卖之pandas-01数据的加载

python之文本文件的读取(read_table/csv函数) python之文本文件的读取 对于CSV及txt后缀的文本文件,分别使用pandas模块中的read_csv函数和read_table函数 CSV read_csv txt read_table 1. read_table函数的参数 read_table(filepath_or_buffer , sep='\t' , header='infer' , names=None , index _col=None , usecols=None , dtype=None , co 阅读详情

numpy 帮我们处理数值型数据,pandas能够处理多种类型的数据,这里只写5种常用的,其它请转官方文档

1.1 read_csv/read_table

1.1.1 read_csv

import pandas as pd 
#读取csv  常用参数 一般来说我们应该都是直接read吧😂
pd.read_csv(filepath_or_buffer,sep,delimiter,delim_whitespace,header,names,index_col,usecols,dtype,skiprows)
参数注释
filepath_or_buffer文件的路径或者地址,url,或者类似文件的对象,当是类似文件对象的时候,我们使用read()方法引用对象。
sep默认的分割符“,”
delimiter可选择的分割符,可以自己定义,设置时sep不起作用
delim_whitespace指定’ ’ or '\t’为分割符,默认False,启用设置为true,设置为true时,delimiter不起作用
header1、指定行作为列名和数据的开始,没有列名等同于header=0,如果存在列名,等同于header=None,(这应该是不使用header的效果); 2、参数可以为list,这时选取多行作为列名;3、当skip_blank_lines=True时,默认时ture,header =0 是数据开始的,而不是文件的第一行。
names自定义列名,需要设置header=None
index_col指定那几列作为行索引,参数可以是列名或者列的序号,当设置index_col=False时,pandas不会选取第一列作为索引,eg: 每行末尾有不合适的分割符(没动)
usecols选取使用的列
dtype加载的数据类型或者每一列的数据类型,需要传字典。
skiprow跳过0-当前行

1.1.2 read_table

与read_csv 类似,常用的参数除了sep的默认值不一样,其他的基本相同,我们可以用read_csv读取text文件,这是设置分割符为`\t`即可。
import pandas as pd 
#读取text  常用参数 pd.read_table(filepath_or_buffer,sep,delimiter,delim_whitespace,header,names,index_col,usecols,dtype)

1.2 read_excel

把excel文件转换成DataFrame类型

read_excel(io,sheet_name=0,header=0,names=None,index_col=None,use_cols=None,dtype=None,skip_rows)
#空值这几个也不是很常用
na_values 、keep_default_na、na_filter
参数注释
io文件的路径或者地址,url,或者类似文件的对象,当是类似文件对象的时候,我们使用read()方法引用对象。
sheet_name可以是中文名称,也可以是位置序号
header选取第几行做为列名,默认0
names自定义列名,需要设置header=None
index_col默认空,传入列表,会生成聚合索引,索引取决于选择的列
use_col选取使用的列,可以是位置序号也可以是列名称
skiprows过0-当前行
na_values默认None,设定把什么样的数字转换成nan
keep_default_nature 启用na_values,None不启用na_values
na_filter默认ture,查找缺失值,在没有缺失值的文件中可以关闭,可以加快速度。

1.3 read_json

pandas.read_json(path_or_buf=None, orient=None, typ='frame', dtype=None, convert_axes=None, convert_dates=True, keep_default_dates=True, numpy=False, precise_float=False, date_unit=None, encoding=None, lines=False, chunksize=None, compression='infer')
参数注释
path_or_bufJSON 字符串,路径或者类似文件的对象,当是类似文件对象的时候,我们使用read()方法引用对象。
orientjson的类型,我们知道json有多种嵌套方式,如下表所示;当typ= series,可选参数为:{‘split’,‘records’,‘index’},默认是index;当typ = frame,可选参数为:{‘split’,‘records’,‘index’, ‘columns’,‘values’, ‘table’},默认是columns.此时index必须是唯一的。注:0.23.0加入的’table’
typ是转换成Series或者frame,默认是frame
dtypebool或者dict,默认None, 当为true时,会自行推测数据类型并转换。为None时,原样输入,对于orient=‘table’,默认为true,(这里存有疑问🤔️,20200315) 注:0.25.0不应用于orient=‘table’
convert_axes尝试做适当的轴变换,默认None,
convert_datesbool或者字符串列表,默认true.转换也写类似时间的列。
keep_default_dates如果解析时间,解析默认的类似时间的列。
numpy1.0.0 开始废弃
precise_float当把字符串类型转换为数值可以使用高精度。默认:False,采用低精度,提高速度。
date_unit可以认为是时间精度设置,默认none,可传入 ‘s’, ‘ms’, ‘us’ or ‘ns’ 设置时间精度。
encoding字符编码,默认‘utf-8’
linesbool,默认none,把每一行当作一个json对象读入。
chunksize当line为true是才可传参,详见官方。注:0.21.0
compression实时从硬盘解压数据。可选参数{‘infer’, ‘gzip’, ‘bz2’, ‘zip’, ‘xz’, None},默认:‘infer’,跟据文件的后缀名如:gzip, bz2, zip or xz,其他的不解压。如果使用’zip’,这个压缩包中要至少含有一个文件。设置为:none 不解压。

orient 样式

参数类型
splitdict like {index -> [index], columns -> [columns], data -> [values]}
recordslist like [{column -> value}, … , {column -> value}]
indexdict like {index -> {column -> value}}
columnsdict like {column -> {index -> value}}
valuesjust the values array

1.4 read_clipboard

read_clipboard是从剪切板获取数据,默认参数sep=‘s+’,表示一个或多个空格,其它和read_csv一致。

1.5 read_sql

#提取SQL结果集或者表
pandas.read_sql(sql, con, index_col=None, coerce_float=True, params=None, parse_dates=None, columns=None, chunksize=None)
参数类型
sqlSQL语句或者表名
con数据库链接,用过Python连接过其它数据库应该很好理解。
index_col默认为空,索引的列名,一个或者list.
coerce_float将非字符串、非数字对象的值转换为浮点型
params这个应该是把参数传到SQL里面,在写SQL的时候用参数去写。【存疑】
parse_dates要转换成日期的列
columns设置列名,只有在读表的时候才能用。
chunksize返回一个迭代器,指定每次的行数。
Pandas之read_csv()函数中文详解 从事数据分析工作,经常需要进行数据清洗,pandas库是数据分析最常用的库之一。本文根据官方文档对pandas的read_csv()函数进行说明。read_csv()函数是用来读取csv文件的内容进而转化为易于操作的数据结构dataframe的常用函数。具有十分强大的功能,可以传入多种参数,下面就根据官方文档以及自己的实践,详细介绍各个参数,对于不易理解的参数会附上示例代码。 pandas.r... 阅读详情

相关推荐

利用pandas来进行csv文件读取

read_csv:从文件,url,文件型对象中加载带分隔符的数据,默认分隔符为逗号 read_table:从文件,url,文件型对象中加载带分隔符的数据,默认分隔符为制表符’/t’ read_fwf:读取固定宽度的数据 read_clipboard:读取剪切板中的数据,可以看作是read_table的剪切板,在将在网页上的数据转换为表格中的数据时用到 pip install pandas Looking in indexes: https://pypi.tuna.tsinghua.edu.cn/simpl

wawjb的博客 920

Pandas知识点-读写Excel最全参数总结(收藏)

pandas系列。

weixin_43790276的博客 5951

遇到问题--python-- pandas--常见问题积累

问题–Error tokenizing data. C error: Expected 3 fields in line 20, saw 4 在使用read_csv时报错 data = pd.read_csv(inputfile, encoding='utf-8',header=None) 完整报错如下: 错如下: pandas.errors.ParserError: Error tokeni...

直到世界的尽头 7030

pandas.read_csv参数超级详解,好多栗子!

前言:相信很多和我一样初入数据处理的小伙伴们肯定不知道,原来习以为常的read_csv还有这么多方便快捷的骚参数,对,就是相当骚的那种骚   首先放出官方手册:点击打开链接,喜欢看英文原稿的同学可以直接看哦! pandas.read_csv 老规矩,官方参数走一波: read_csv(filepath_or_buffer, sep=',', delimiter=None, header...

sinat_35562946的博客 5万+

Panda3D 1.6 Game Engine 无水印pdf

Panda3D 1.6 Game Engine 英文无水印pdf pdf所有页面使用FoxitReader和PDF-XChangeViewer测试都可以打开 本资源转载自网络,如有侵权,请联系上传者或csdn删除 本资源转载自网络,如有侵权,请联系上传者或csdn删除

PANDA系列MIDI键盘说明书.pdf

PANDA系列MIDI键盘说明书.pdf

python笔记系列——pandas读取txt和csv文件

pandas读取txt和csv文件 import pandas as pd 读取csv:pd.read_csv 读取txt:pd.read_table pandas读取csv f = open(‘D:/000.csv’) df = pd.read_csv(f) # 读入股票数据 data = df.iloc[:, 0:3].values # 取前3列 用read_csv()读取csv文件...

qq_40792751的博客 6875

Ribo-seq数据解析:从翻译效率计算到动态可视化分析

本文系统介绍了Ribo-seq(核糖体印迹测序)数据分析全流程,从核心的P-site定位、翻译效率计算,到差异翻译分析和动态可视化。重点阐述了如何利用Ribo-seq高分辨率数据揭示基因表达在翻译层面的精细调控,并提供了从数据处理到生物学解读的实用工具与避坑指南。

weixin_28559803的博客 421

Pandas读取数据出错 Initializing from file failed

Pandas读取数据出错 Initializing from file failed 参考:优快云博客 cancer=pd.read_csv("F:\\exp\\实验\\威斯康辛乳腺癌数据集\\cancer.txt") cancer.columns=['class','age','menopause','tumor-size','inv-nodes','node-caps','deg-malig...

yyf_blog 852

FAST_LIO_ROS2 可以用gazebo仿真吗?

摘要:FAST_LIO_ROS2可与Gazebo仿真环境兼容,通过订阅Gazebo模拟的激光雷达和IMU数据实现SLAM建图。已有开源项目(如pb_rm_simulation)验证了该方案,支持导航模式切换与真实机器人移植。关键步骤包括环境配置、传感器话题匹配及参数调试,需注意版本兼容性与数据噪声处理。相关教程提供了从环境搭建到三维建图的完整流程。

专注 激光SLAM, 目标检测, 欢迎关注, 分享交流! 1138

TOD和PPS精确时间同步技术

授时

u010783226的专栏 1万+

pd.read_csv()详解(理解20%满足80%应用场景)

官方文档 pandas.read_csv(filepath_or_buffer, sep=', ', delimiter=None, header='infer', names=None, index_col=None, usecols=None, squeeze=False, prefix=None, mangle_dupe_cols=True, dtype=None, engine=None,...

漫步量化 7万+

射频测试基础知识总结

表示可以辐射到空间的电磁频率,频率范围从300KHz~110GHz之间,射频简称RF,是高频交流变化电磁波的简称,其每秒变化小于1000次被称为低频电流,超过10000次的称为高频电流,而射频就是这种高频电流。为了确保天线接收的信号能够在接收机的最后一级被正确的恢复,一个好的低噪音放大器需要在放大信号的同时产生尽可能低的噪音以及失真。两种,带内试验的范围也有一定的差别,比如,带内试验主要是检测信号的质量,如功率、频谱宽度、调制质量,而带外测试的是信号的杂散、谐波,主要是看对频带之外的干扰有多大。

cny70的博客 9628

pd.read_csv()常用参数

pd.read_csv() pd.read_csv(filepath_or_buffer, sep=',', delimiter=None, header='infer', names=None, index_col=None, usecols=None, squeeze=False, prefix=None, mangle_dupe_cols=True, dtype=None, engine=None, converters=None, true_values=None, false_values=Non

dc19971118的博客 4万+

嵌入式常用通信协议 #概述

嵌入式通信协议

AFK3060的博客 2116

手把手教你学simulink实例--基于Simulink的航空发动机控制系统设计与仿真

航空发动机是飞机的核心动力装置,其性能直接影响飞行器的安全性、经济性和可靠性。现代航空发动机控制系统需要具备高精度、快速响应和强鲁棒性的特点,以适应复杂的飞行环境和任务需求。本项目旨在使用MATLAB/Simulink平台,设计并实现一种适用于涡扇发动机的闭环控制系统,通过调节燃油流量、压气机叶片角度等控制变量,确保发动机在不同工况下稳定运行,并满足推力需求。

MHD0815的博客 275

python文件的读写read_csv常用参数

文章目录pandas.read_csv参数理解filepath_or_bufferheadersepdelimiterdelim_whitespacenamesindex_colusecolssqueezeprefixdtypeengineconvertersskiprowsskipfooternrowsparse_dateskeep_date_coliteratorchunksizecompre...

weixin_44941795的博客 3711

基于形状的模板匹配之候选点选择

基于形状的匹配匹配,顶层金字塔提取候选点

manuoo的专栏 2767

pandas.read_csv()常用参数用法

官网参数 pandas.read_csv(filepath_or_buffer, sep=',', delimiter=None, header='infer', names=None, index_col=None, usecols=None, squeeze=False, prefix=None, mangle_dupe_cols=True, dtype=None, engine=None, converters=None, true_values=None, false_values=None, sk

yang2110862的博客 694

手把手带你实现DAF-Net:零代码基础入门红外与可见光图像融合(从理论到实战)

本文介绍了红外与可见光图像融合技术及DAF-Net网络的应用。红外图像能捕捉热源但缺乏细节,可见光图像纹理丰富但在低光环境下表现不佳。DAF-Net采用双分支特征提取和动态注意力融合架构,能智能分配特征权重实现优势互补。文章详细讲解了环境配置、数据集准备(如TNO数据集)和预处理方法,并提供了DAF-Net的核心代码实现,包括特征提取、注意力融合和图像重建模块。通过该技术可在安防、自动驾驶等领域获得更优质的融合图像,提升视觉感知能力。

m0_71589036的博客 228

复分析 阿尔福斯(Ahlfors) 第三版答案 英文

答案分为十章,有部分习题没有答案,全英文复分析阿尔福斯(Ahlfors) 第三版答案

解决pandas.read_csv()出现“OSError: Initializing from file failed”问题

在使用pandas.read_csv()读取txt文件时出现了如下异常: H:\Anaconda\anaconda\lib\site-packages\pandas\io\parsers.py in parser_f(filepath_or_buffer, sep, delimiter, header, names, index_col, usecols, squeeze, prefix, man...

落花四月 2885

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

API:详解 pandas.read_csv

pandas.read_csv 作为常用的读取数据的常用API,使用频率非常高,但是API中可选的参数有哪些呢? pandas项目代码 答案是: .read_csv(filepath_or_buffer, sep=’, ‘, delimiter=None, header=’infer’, names=None, index_col=None, usecols=None, squeeze=Fa...

Sehr Gut 4万+

蓝牙模块HM-10手册

蓝牙模块HM-10手册,该手册对蓝牙模块HM-10进行了详细的介绍和使用方法以及一些AT指令。

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

pandas.read_csv学习笔记

pandas.read_csv功能很简单,就是读取csv文本文件到DataFrame变量中。就是参数比较多。pandas.read_csv(filepath_or_buffer, sep=', ', delimiter=None, header='infer', names=None, index_col=None, usecols=None, squeeze=False, prefix=None...

李啸林的专栏 3万+

【pandas】(二)读写数据

一、读数据 以kaggle竞赛,Titanic数据为例 1.1pandas.read_csv pandas.read_csv(filepath_or_buffer, sep=', ', delimiter=None, header='infer', names=None, index_col=None, usecols=None, squeeze=False, prefix=None, m...

醉糊涂仙的博客 2719

pandas.read_csv()参数详解

  官方手册:点击打开链接! pandas.read_csv 老规矩,官方参数走一波: read_csv(filepath_or_buffer, sep=',', delimiter=None, header='infer', names=None, index_col=None, usecols=None, squeeze=False, prefix=None, mangle_dup...

pandas.read_csv()参数详解 4万+

现学现卖之pandas-02数据的选择

数据的选择[2020年3月]1 Series AND Dataframe 1 Series AND Dataframe series是一个数据

Aronup 210
上一篇: Matplotlib入门04-柱状图
下一篇: 现学现卖之pandas-02数据的选择
Aronup
博客等级 码龄7年 75粉丝 35原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值