【超干货长文！】会爬虫但不知道如何做数据分析？用 Excel 做分析但不会用 Python 分析？一篇超长文教会你

本文链接：https://blog.youkuaiyun.com/xiaolinyui/article/details/137174787

文章目录

前言
- 01 生成数据表
- - 导入数据表
  - 创建数据表
- 02 数据表检查
- - 数据维度(行列)
  - 数据表信息
  - 查看数据格式
  - 查看空值
  - 查看唯一值
  - 查看数据表数值
  - 查看列名称
  - 查看前 10 行数据
  - 查看后 10 行数据
- 03 数据表清洗
- - 处理空值(删除或填充)
  - 清理空格
  - 大小写转换
  - 更改数据格式
  - 更改列名称
  - 删除重复值
  - 数值修改及替换
- 04 数据预处理
- - 数据表合并
  - 设置索引列
  - 排序(按索引，按数值)
  - 数据分组
  - 数据分列
- 05 数据提取
- - 按标签提取(loc)
  - 按位置提取(iloc)
  - 按标签和位置提取（ix）
  - 按条件提取（区域和条件值）
- 06 数据筛选
- - 按条件筛选（与，或，非）
- 07 数据汇总
- - 分类汇总
  - 数据透视
- 08 数据统计
- - 数据采样
  - 描述统计
- 09 数据输出
零基础Python学习资源介绍
- 👉Python学习路线汇总👈
- 👉Python必备开发工具👈
- 👉Python学习视频600合集👈
- 👉实战案例👈
- 👉100道Python练习题👈
- 👉面试刷题👈
资料领取

前言

常遇到两类朋友。一类是会爬虫但不知道如何进一步做数据分析的，一类是平常用 Excel 做分析但不太会用 Python 分析的。如果和你很像，那下面这篇系统长文会很适合你，建议先收藏。

Excel 是数据分析中最常用的工具，本文通过 Python 与 excel 的功能对比介绍如何使用 Python 通过函数式编程完成 excel 中的数据处理及分析工作。从 1787 页的 pandas 官网文档中总结出最常用的 36 个函数，通过这些函数介绍如何通过 Python 完成数据生成和导入、数据清洗、预处理、数据分类、数据筛选、分类汇总、透视等最常见的操作。

文末为大家准备了Python零基础到入门的学习资料

内容包含：

python百万字PDF教程，手把手助你从零进阶拿高薪（十一模块）
1.hello，初识python
2.python大数据技术体系
3.AI研发，快人一步
4.全栈开发体系，你不能错过的内容
5.掌握核心，python核心编程
6.python并发编程
7.python数据库编程
8.爬虫入门必学
9.python框架源码分析
10.爬虫必备JS逆向
11.多学一点，加薪更稳定Android逆向

文章内容共分为 9 个部分目录如下：

01 生成数据表

第一部分是生成数据表，常见的生成方法有两种，第一种是导入外部数据，第二种是直接写入数据。 Excel 中的文件菜单中提供了获取外部数据的功能，支持数据库和文本文件和页面的多种数据源导入。

python 支持从多种类型的数据导入。在开始使用 python 进行数据导入前需要先导入 pandas 库，为了方便起见，我们也同时导入 numpy 库。

1import numpy as np
2import pandas as pd

导入数据表

下面分别是从 excel 和 csv 格式文件导入数据并创建数据表的方法。代码是最简模式，里面有很多可选参数设置，例如列名称，索引列，数据格式等等。感兴趣的朋友可以参考 pandas 的
官方文档。

1df=pd.DataFrame(pd.read_csv('name.csv',header=1))
2df=pd.DataFrame(pd.read_excel('name.xlsx'))

创建数据表

另一种方法是通过直接写入数据来生成数据表，excel 中直接在单元格中输入数据就可以，python 中通过下面的代码来实现。生成数据表的函数是 pandas 库中的 DateFrame 函数，数据表一共有 6 行数据，每行有 6 个字段。在数据中我们特意设置了一些 NA 值和有问题的字段，例如包含空格等。后面将在数据清洗步骤进行处理。后面我们将统一以 DataFrame 的简称 df 来命名数据表。

1df = pd.DataFrame({"id":[1001,1002,1003,1004,1005,1006],
2                   "date":pd.date_range('20130102', periods=6),
3                   "city":['Beijing ', 'SH', ' guangzhou ', 'Shenzhen', 'shanghai', 'BEIJING '],
4                   "age":[23,44,54,32,34,32],
5                   "category":['100-A','100-B','110-A','110-C','210-A','130-F'],
6                   "price":[1200,np.nan,2133,5433,np.nan,4432]},
7                   columns =['id','date','city','category','age','price'])

这是刚刚创建的数据表，我们没有设置索引列，price 字段中包含有 NA 值，city 字段中还包含了一些脏数据。

02 数据表检查

第二部分是对数据表进行检查，python 中处理的数据量通常会比较大，比如我们之前的文章中介绍的纽约出租车数据和 Citibike 的骑行数据，数据量都在千万级，我们无法一目了然的了解数据表的整体情况，必须要通过一些方法来获得数据表的关键信息。数据表检查的另一个目的是了解数据的概况，例如整个数据表的大小，所占空间，数据格式，是否有空值和重复项和具体的数据内容。为后面的清洗和预处理做好准备。

数据维度(行列)

Excel 中可以通过 CTRL+向下的光标键，和 CTRL+向右的光标键来查看行号和列号。Python 中使用 shape 函数来查看数据表的维度，也就是行数和列数，函数返回的结果(6,6)表示数据表有 6 行，6 列。下面是具体的代码。

1#查看数据表的维度
2df.shape
3(6, 6)

数据表信息

使用 info 函数查看数据表的整体信息，这里返回的信息比较多，包括数据维度，列名称，数据格式和所占空间等信息。

#数据表信息
df.info()

&lt;class 'pandas.core.frame.DataFrame'&gt;
RangeIndex: 6 entries, 0 to 5
Data columns (total 6 columns):
id          6 non-null int64
date        6 non-null datetime64[ns]
city        6 non-null object
category    6 non-null object
age         6 non-null int64
price       4 non-null float64
dtypes: datetime64[ns](1), float64(1), int64(2), object(2memory usage: 368.0+ bytes

查看数据格式

Excel 中通过选中单元格并查看开始菜单中的数值类型来判断数据的格式。Python 中使用 dtypes 函数来返回数据格式。

Dtypes 是一个查看数据格式的函数，可以一次性查看数据表中所有数据的格式，也可以指定一列来单独查看。

#查看数据表各列格式
df.dtypes

id                   int64
date        datetime64[ns]
city                object
category            object
age                  int64
price              float64
dtype: object
#查看单列格式
df['B'].dtype

dtype('int64')