Python数据处理(二):处理 Excel 数据

本文详细介绍了如何使用Python处理Excel数据,包括安装xlrd库、解析Excel文件、确定有用数据的起始行、组装数据以及总结处理Excel的技巧。通过实例展示了在无法直接观察Excel时,如何通过程序确定数据位置。

在本章和下一章里,我们将研究两种文件类型实例:Excel 文件和 PDF,并给出几条一般性说明,在遇到其他文件类型时可以参考。

处理 Excel 比上章讲的处理 CSV、JSON、XML 文件要难多了,下面以 UNICEF(联合国儿童基金会) 2014 年的报告为例,来讲解如何处理 Excel 数据。

相关文章:

十分钟快速入门 Python

Python数据处理(一):处理 JSON、XML、CSV 三种格式数据

一、安装 Python 包

要解析 Excel 文件,需要用第三方的包 xlrd。我们用 pip 来安装第三方包,在命令行输入以下安装命令:

pip install xlrd

如果提示 command not found ,则需要先安装 pip 。安装方法见 pip 官网:https://pip.pypa.io/en/stable/installing/

二、解析 Excel 文件

想从 Excel 工作表中提取数据,有时最简单的方式反而是寻找更好的方法来获取数据。直接解析有时并不能解决问题。所以在解析之前先看看能不能找到其他格式的数据,比如 CSV、JSON、XML等,如果真找不到再考虑 Excel 解析。

处理 Excel 文件主要有三个库。

  • xlrd
    读取 Excel 文件。

  • xlwt
    向 Excel 文件写入,并设置格式。

  • xlutils
    一组 Excel 高级操作工具(需要先安装 xlrd 和 xlwt)。

在用到这三个库的时候你需要分别安装。但本章只会用到 xlrd。

下面一步步的讲解如何解析 Excel 文件。

先导入 xlrd 库,然后打开工作簿并保存在 book 变量中。

import xlrd
book = xlrd.open_workbook('./resource/data.xlsx')

与 CSV 不同,Excel 工作簿可以有多个标签(tab)或工作表(sheet)。想要获取数据,我们要找到包含目标数据的工作表。

如果有几个工作表,你可以猜一下索引号,但如果工作表很多的话就没法猜了。所以你应该知道 book.sheet_by_name(somename) 命令,其中 somename 是你要访问工作表的名字。

我们来看一下工作表都有哪些名字:

import xlrd

book = xlrd.open_workbook('./resource/data.xlsx')

for sheet in book.sheets():
    print(sheet.name)

book.sheets() 列出所有的 sheet,sheet.name 打印出 sheet 的名字。输出:

Data Notes
Table 9

我们要找的工作表是 Table 9。所以我们把这个名字添加到脚本中:

import xlrd

book = xlrd.open_workbook('./resource/data.xlsx')

sheet = book.sheet_by_name('Table 9')
print(sheet)

运行会输出类似这样的值:

<xlrd.sheet.Sheet object at 0x106af8898>

要查看 sheet 都有什么方法,可以用 print(dir(sheet))。从打印的结果中找到一个 nrows 方法,sheet.nrows 返回这个 sheet 一共有多少行。我们将用 nrows 来遍历每一行的内容。

import xlrd

book = xlrd.open_workbook('./resource/data.xlsx')

sheet = book.sheet_by_name('Table 9')

for i in range(sheet.nrows):
    print(sheet.row_values(i))

运行程序得到如下图的输出:

取到表格的数据之后,接下来就该想怎么格式化这些数据,将有用的信息提取出来。提取信息的格式有很多种,这里我们用其中一种:

{
  u'Afghanistan': {
		'child_labor': {
			'female': [9.6, ''],
			'male': [11.0, ''], 
			'total': [10.3, '']
		},
		'child_marriage': {
	     'married_by_15': [15.0, ''],
	     'married_by_18': [40.4, '']
		} 
	}, 
  u'Albania': {
   	'child_labor': {
     	'female': [9.4, u'  '],
    	'male': [14.4, u'  '],
      'total': [12.0, u'  ']
  	},
    'child_marriage': {
    	'married_by_15': [0.2, ''],
    	'married_by_18': [9.6, '']
		} 
	},
	...
}

如何确定有用的数据从第几行开始

能够读取 Excel 数据之后,还要从中提取有用的信息,了解如何从纷繁复杂的数据提取关键数据很重要。

方法一:用软件打开Excel直观判断

首先最简单的方法是用软件打开 Excel 文件直观的看,如下图:

我们上面定义的格式是以国家为键,所以首先应该找到国家。观察 Excel 表格,从第15 行开始显示国家数据。Child labour 和 Child marriage 的数据从第E列到第N列。

方法二:用程序多次试验

如果不想用第一种方法,或者电脑上没有软件可以打开文件,可以尝试第二种方法:写代码多次试验。

这个方法用到了计数器原理。先打印前10行,看有没有想要的数据,如果没有再打印11-20行,这样一个区间一个区间的排查,直到确定准确的行数。

代码如下:

import xlrd

book = xlrd.open_workbook('./resource/data.xlsx')

sheet = book.sheet_by_name('Table 9')

count = 0
for i in range(sheet.nrows):
    if count < 10:
        row = sheet.row_values(i)
        print(i, row)
    count += 1

先打印排查了前10行,查看控制台输出没有找到想要的国家数据,继续调整试验:

import xlrd

book = xlrd.open_workbook('./resource/data.xlsx')

sheet = book.sheet_by_name('Table 9')

count = 0
for i in range(10, sheet.nrows):
    if count < 10:
        row = sheet.row_values(i)
        print(i, row)
    count += 1

我们已经知道了前10行没有想要的数据,所以 range 直接改成 range(10, sheet.nrows) 从第10行开始打印,其他代码不变。再次运行程序,得到如下输出:

可以看到从第14行开始出现了国家名字,这就是我们要找的数据。

三、组装数据

找到想要的数据在第几行第几列之后,就可以按之前定义的格式写代码提取组装数据啦。

import xlrd
import pprint

book = xlrd.open_workbook('./resource/data.xlsx')

sheet = book.sheet_by_name('Table 9')

# 定义存放数据的字典
data = {}
for i in range(14, sheet.nrows):
    row = sheet.row_values(i)
    # 取出国家名字
    country = row[1]
    # 按照给定的格式组装数据
    data[country] = {
        'child_labor': {
            'total': [row[4], row[5]],
            'male': [row[6], row[7]],
            'female': [row[8], row[9]],
        },
        'child_marriage': {
            'married_by_15': [row[10], row[11]],
            'married_by_18': [row[12], row[13]],
        }
    }
    # 最后一个国家是 Zimbabwe,判断到 Zimbabwe 之后就 break 跳出循环
    if country == 'Zimbabwe':
        break

# 打印数据
pprint.pprint(data)

打印复杂对象时使用 pprint 格式更美观。

四、总结

  1. 处理 Excel 的三个库:xlrd,xlwt,xlutils。根据需要决定用哪些库。
  2. 解析出 Excel 之后,通过两种方法确定想要数据的位置:用图形化界面打开直接观察和通过程序一步步筛选。如果不知道一个对象都有什么命令,可以打印 dir(obj) 来查看,其中 obj 是想要查看相关命令的对象。
  3. 提前想好最终想输出的格式,有格式之后组装数据会比较容易。
  4. 打印复杂对象时使用 pprint 格式更美观。

以上就是用 python 解析 Excel 数据的完整教程。下节会讲处理PDF文件,以及用Python解决问题,欢迎关注。

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值