Group by 前几项的值

本文探讨了在MySQL中如何高效地获取GroupBy后每组前N项记录的方法,对比了自联表、UNIONALL及行号三种策略,其中行号法因扩展性和查询效率最佳脱颖而出。

在MySQL中如何获取Group By后前N项记录

 

背景

最近,在做公司产品数据统计时,遇到一个有趣的问题——获取各个产品线更新时间最新的一条记录。每个产品每更新一次,都会根据更新内容生成一条新的记录。为了解决这个问题,我想到了使用group by 进行产品类型分组。然后在查询时,筛选出更新时间时间戳最大的数据。SQL语句如下:

SELECT type, 
       max(update_time), 
       * 
FROM   tbl_user_works 
GROUP  BY type 

使用这条SQL确实帮我筛选到了各产品最新的更新时间,但是无法筛选出最新更新时间对应的记录。那么,如何筛选到各产品更新时间最新的记录呢?

问题描述

我们将问题分成了简单版和升级版:

  • 简单版: 用Group by 分组后,获取每组最大项
  • 升级版:用Group by 分组后,获取每组前N项

解决方法

为了描述方便,我们模拟了一张学生成绩表。表结构与数据如下:

CREATE TABLE `tbl_student_score` (
  `stu_id` char(4) COLLATE utf8_bin NOT NULL DEFAULT '' COMMENT '学生编号',
  `sub_id` int(11) NOT NULL DEFAULT '0' COMMENT '课程ID',
  `score` int(11) DEFAULT NULL COMMENT '得分',
  PRIMARY KEY (`stu_id`,`sub_id`)
) COMMENT='学生得分表';

INSERT INTO `tbl_student_score` (`stu_id`, `sub_id`, `score`)
VALUES
    (X'303034', 3, 87),
    (X'303031', 3, 70),
    (X'303032', 3, 30),
    (X'303033', 3, 85),
    (X'303031', 2, 50),
    (X'303034', 2, 78),
    (X'303032', 2, 80),
    (X'303033', 2, 95),
    (X'303034', 1, 63),
    (X'303033', 1, 93),
    (X'303032', 1, 92),
    (X'303031', 1, 99);

需求描述:获取各科目成绩排前2名的学生成绩信息。

方法一:自联表

SELECT * 
FROM   tbl_student_score a 
WHERE  (SELECT count(1) 
        FROM   tbl_student_score b 
        WHERE  b.sub_id = a.sub_id 
               AND b.score > a.score) < 2 
ORDER  BY sub_id, 
          score DESC 

我们通过自联表的方式,将成绩表A与成绩表B进行关联,筛选出每组得分最高的2项。

SELECT count(1) 
        FROM   tbl_student_score b 
        WHERE  b.sub_id = a.sub_id 
               AND b.score > a.score

这条子查询返回 A表课程=B表课程,且 B表得分大于A表得分影响行数。
若行数为 0,则表明该记录得分最高,若行数为1,则表明该记录的得分为第二高得分。

最后,对筛选出的记录,按照课程ID升序、得分降序进行排序,得到结果。

 

自联表结果

缺点:

  • 时间复杂度为 O(n^2),查询效率比较低

方法二: UNION ALL

(select * from tbl_student_score where sub_id=1 order by score desc limit 2 )

union all

(select * from tbl_student_score where sub_id=2 order by score desc limit 2 )

union all

(select * from tbl_student_score where sub_id=3 order by score desc limit 2 )

通过穷举所有课程类型,分别对每个课程类型按照得分降序的方式,取前2条。然后使用 union all 合并所有结果。

注意:此处,使用 union all 合并结果,而不是 union 合并结果。是因为 union 会对重复数据进行合并,而 union all 则不会。

缺点:

  • 查询语句较为繁琐,需要遍历所有类型。当类型较多、或容易发生变化时,此方法无效。

方法三:行号

SET @num := 0, @type := ''; 

SELECT stu_id, 
       sub_id, 
       score 
FROM   (SELECT *, 
               @num := IF(@type = sub_id, @num + 1, 1) AS row_number, 
               @type := sub_id                         AS temp_type 
        FROM   tbl_student_score 
        ORDER  BY sub_id, 
                  score DESC) AS a 
WHERE  a.row_number <= 2 

原理:这里使用了MySQL中的自定义变量,我们先后声明了序号变量@num 和 当前课程类型变量 @type。SQL重点在子查询部分,我们使用 order by 对表记录按照 sub_id(课程ID) 升序,score (得分)降序排列。

@num := IF(@type = sub_id, @num + 1, 1) AS row_number, 
@type := sub_id                         AS temp_type 

对排好序的数据,进行查询。若当前类型相同,则序号加1,否则,置为 1。每遍历一行数据,需要将当前数据的课程类型赋值给变量 @type。这样,我们只需对表遍历一次,就可以完成排序。时间复杂度为O(n)。

然后,我们再筛选出 row_number <= 2的数据。即可,获取每组排序前2名的数据了。第二次遍历的时间复杂度仍为 O(n)。

注意:使用此方法时,请记得初始化自定义变量 —— SET @num := 0, @type := '';

总结

三种方法中,第三种方法扩展性和查询效率上最好。第一种方法查询效率较低,对于查询效率要求不高的场景可以使用此方法。第二种方法,在实际应用中不是很常见。实用性较差,如果出现新的类型变更需要调整SQL。

### Python Pandas `groupby` 多项操作使用指南 #### 什么是 `groupby` 在 Pandas 中,`groupby` 是一种强大的方法,用于按照某些标准分组数据并对其进行聚合、转换或其他操作。它基于 SQL 的 GROUP BY 功能设计,允许用户对 DataFrame 或 Series 数据执行复杂的分组计算。 #### 基本语法 `DataFrame.groupby(by=None, axis=0, level=None, as_index=True, sort=True, group_keys=True, squeeze=False, observed=False)` 其中最重要的参数是 `by`,它可以是一个函数、列表、字典或者列名,用来指定分组依据[^1]。 #### 实现多项操作的方法 通过组合多个函数调用,可以在同一个 `groupby` 对象上完成多种不同的操作。以下是几种常见的场景: ##### 聚合 (Aggregation) 可以通过 `.agg()` 方法一次性应用多个聚合函数到不同列上。 ```python import pandas as pd data = { 'Category': ['A', 'B', 'C', 'A', 'B', 'C'], 'Value1': [10, 20, 30, 40, 50, 60], 'Value2': [7, 14, 21, 28, 35, 42] } df = pd.DataFrame(data) result = df.groupby('Category').agg({ 'Value1': ['sum', 'mean'], 'Value2': 'max' }) print(result) ``` 这段代码会按类别分组,并分别求取每类别的总和 (`sum`) 和平均 (`mean`),以及最大 (`max`)【^1】。 ##### 变换 (Transformation) `.transform()` 方法会对每一组返回相同大小的结果集合,通常用于标准化或填充缺失等任务。 ```python normalized_df = df.copy() normalized_df['Normalized'] = normalized_df.groupby('Category')['Value1'].transform(lambda x: (x - x.mean()) / x.std()) print(normalized_df) ``` 这里展示了如何根据分类变量来规范化数型特征[^2]。 ##### 过滤 (Filtering) 如果只想保留满足一定条件的组,则可以使用 `.filter()`. ```python filtered_df = df.groupby('Category').filter(lambda x: len(x) >= 2 and x['Value1'].sum() > 50) print(filtered_df) ``` 此例子仅显示那些至少有两个记录且其 Value1 列合计超过五十的所有行[^2]. ##### 自定义函数的应用 除了内置的功能外,还可以传递自定义逻辑给这些方法. ```python custom_result = df.groupby('Category').apply( lambda g: pd.Series([ g['Value1'].quantile(0.25), g['Value1'].quantile(0.75)], index=['Q1','Q3']) ).reset_index() print(custom_result) ``` 上面的例子演示了怎样计算每个组的第一四分位数(Q1)与第三四分位数(Q3)[^2]. #### 注意事项 当涉及复杂的数据处理流程时,请注意性能优化;对于大数据集来说,过多嵌套的操作可能会降低效率。另外,在实际运用当中也要考虑内存消耗情况,适时释放不再使用的对象以节省资源[^3]。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值