pandas的groupby、pivot_table和crosstab

1. 起因

利用python的pandas库进行数据分组分析十分便捷,其中应用最多的方法包括:groupby、pivot_table及crosstab,以下分别进行介绍。

2. 详解

首先构造数据

import numpy as np
import pandas as pd
df = pd.DataFrame({'key1':['a','a','b','b','a'],'key2':['one','two','one','two','one'],'data1':np.random.randn(5),'data2':np.random.randn(5)}) 

df数据结构

2.1 group函数

分组groupby Pandas中最为常用和有效的分组函数。

1)按列分组

注意以下使用groupby()函数生成的group1是一个中间分组变量,为GroupBy类型。

group1 = df.groupby('key1')  
group2 = df.groupby(['key1','key2'])  

使用推导式[x for x in group1]可显示分组内容。

[x for x in group1]
[('a',       data1     data2 key1 key2
  0  1.830651  0.407903    a  one
  1 -0.973132 -0.056084    a  two
  4 -1.069184  0.043338    a  one), ('b',       data1     data2 key1 key2
  2 -0.477718 -1.488174    b  one
  3 -0.227680 -0.825671    b  two)]

在分组group1、group2上可以应用size()、sum()、count()等统计函数,能分别统计分组数量、不同列的分组和、不同列的分组数量。

group1.size()  
key1
a    3
b    2
dtype: int64
group1.sum() 

 

对于分组的某一列或者多个列,应用agg(func)可以对分组后的数据应用func函数。例如:用group1['data1'].agg('mean')对分组后的’data1’列求均值。当然也可以推广到同时作用于多个列和使用多个函数上。

group1['data1'].agg(['mean','sum'])  

2.2 透视表pivot_table

pivot_table可以产生类似于excel数据透视表的结果,相当的直观。其中参数index指定“行”键,columns指定“列”键。

pd.pivot_table(df, index = 'key1', columns= 'key2')

2.3 交叉表crosstab

交叉表crosstab 可以按照指定的行和列统计分组频数,用起来非常方便;当然同样的功能也可采用groupby实现。

pd.crosstab(df.key1,df.key2, margins=True)



作者:LeoinUSA
链接:https://www.jianshu.com/p/bb3085e2eb2b
来源:简书
简书著作权归作者所有,任何形式的转载都请联系作者获得授权并注明出处。

### 使用 Pandas 的 `groupby` 方法分组后进行数据合并 在使用 Pandas 进行数据分析时,`groupby` 是一种强大的工具,可以用来对数据集按特定列或条件进行分组。为了实现更复杂的数据处理需求,在完成分组操作之后,通常还需要进一步的操作来合并这些分组的结果。 #### 合并分组后的数据 当希望将多个分组结果重新组合成一个新的 DataFrame 时,可以通过多种方式进行: - **agg/aggregate 函数**:此函数允许用户针对不同列应用不同的聚合函数,并返回一个包含所有分组结果的新表格[^2]。 ```python import numpy as np import pandas as pd df = pd.DataFrame({ 'A': ['foo', 'bar', 'foo', 'bar', 'foo', 'baz', 'bar'], 'B': range(7), }) def sum_and_mean(x): d = {} d['sum'] = x.sum() d['mean'] = x.mean() return pd.Series(d) result = df.groupby('A')['B'].apply(sum_and_mean).reset_index() print(result) ``` 上述代码展示了如何通过自定义函数同时计算每一组内某一列的总与平均数,并将它们作为新列加入到最终输出中。 - **transform 函数**:如果目标是在原始索引基础上保留原有形状的同时添加新的字段,则应考虑使用 transform 。该方法会广播其结果至原输入长度相匹配的形式[^1]。 ```python tips = sns.load_dataset('tips') total_bill_grouped = tips.groupby(['day','smoker'])[['total_bill']] bill_per_person = total_bill_grouped.transform(lambda x: round(x / (len(tips)/x.count()), 2)) print(bill_per_person.head()) ``` 这段例子说明了怎样基于天数吸烟情况两个维度来进行分组,并为每位顾客分配他们当天消费金额占总体比例的部分。 - **pivot_tablecrosstab 表格转换**:对于某些场景下需要创建透视表的情况来说,这两个功能非常有用。前者支持多级索引以及复杂的汇总逻辑;后者则更适合制作交叉频次分布表[^3]。 ```python # 创建简单的透视表 pd.pivot_table(df, values='D', index=['A'], columns=['C'], aggfunc=np.sum) # 制作交叉频率表 pd.crosstab(index=tips.day, columns=[tips.smoker], margins=True) ``` 以上介绍了几种常见的在 Pandas 中利用 `groupby` 完成分组后再进行数据合并的方式。实际应用场景可能会更加多样化,因此建议根据具体的业务背景选择最合适的技术方案。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值