数据库系列之MySQL中的分页查询优化

mysql数据库实现数据分页详解 在MySQL数据库中,实现数据分页通常使用LIMIT和OFFSET子句。这些子句使得查询结果可以分批返回,从而实现分页功能。在MySQL中实现分页有多种方法,每种方法都有其适用的场景和优缺点。选择哪种方法取决于具体的应用场景、数据量以及性能要求。在实际应用中,通常会根据需求选择最适合的分页方式,并在应用程序中集成分页逻辑,通过传递页码和每页记录数参数来动态生成SQL查询语句。 阅读详情

分页查询的效率在数据量大的时候尤为重要,影响到前端响应和用户体验。本文简要测试了几种分页查询优化的方法,适用于数据库开发性能优化场景。


1、MySQL中分页方法
1.1 limit m,n分页语句

传统的分页查询使用“select c1,c2,… from t1 limit n,m”语句,工作原理就是先读取前面n条记录,然后抛弃前n条,读后面m条想要的,所以n越大,偏移量越大,性能就越差。

1.1.1 limit分页和总页数公式

1)limit分页公式

limit  (curPage-1)*pageSize,pageSize

其中curPage是当前第几页;pageSize是一页多少条记录

2)总页数公式

int totalPageNum = (totalRecord +pageSize-1)/pageSize;

其中totalRecord是总记录数,通过SELECT COUNT(*) FROM t1获得;pageSize是一页分多少条记录。

1.1.2 limit n,m测试

分页语句limit n,m使用全表扫描速度会很慢,而且数据库结果集返回不稳定,适用于数据量较少的情况。如下测试,起始页不断增加查看SQL的执行时间:

mysql> select * from sbtest1 limit 10000,10 ;
mysql> select * from sbtest1 limit 100000,10 ;
mysql> select * from sbtest1 limit 1000000,10 ;
mysql> select * from sbtest1 limit 5000000,10 ;

从测试结果中可以看到,随着起始位置的增加,查询时间也不断增加

mysql> show profiles;
+----------+-------------+----------------------------------------+
| Query_ID | Duration    | Query                                  |
+----------+-------------+----------------------------------------+
|       1 |  0.00861825 | select * from sbtest1 limit 10000,10   |
|       2 |  0.68741175 | select * from sbtest1 limit 100000,10  |
|       3 |  5.62566875 | select * from sbtest1 limit 1000000,10 |
|       4 | 18.33333200 | select * from sbtest1 limit 5000000,10 |
+----------+-------------+----------------------------------------+
1.2 limit m语句实现上一页下一页

翻页查询中上一页和下一页功能实现,一般会记录查询的信息,比如当前页数、id最大值、id最小值和需要到的页数。假设当前页面大小为m,当前页数为no1,则页面最大值为max=(no1+1)m-1,最小值为min=no1m,可以使用以下SQL实现上一页和下一页:

select * from sbtest1 where id>max order by id asc limit n;//下一页
select * from sbtest1 where id<min order by id desc limit n;//上一页

这种方式不管翻多少页只需要扫描n条数据,虽然扫描的数据少了,但是在需要跳转到多少页的场景中无法实现。

为了减少扫描的数据量,可以给这条语句加上一个条件限制,使得每次扫描不用从第一条开始。例如:每页10条数据,当前是第10页,当前条目ID的最大值是109,最小值是100,即当前页为100~109

那么跳到第9页:
select * from sbtest1 where id<100 order by id desc limit 0,10;   //倒序
那么跳到第8页:
select * from sbtest1 where id<100 order by id desc limit 10,10;
那么跳到第11页:
select * from sbtest1 where id>109 order by id asc limit 0,10;
2、分页查询优化
2.1 使用子查询优化

子查询优化原理:https://www.jianshu.com/p/0768ebc4e28d

1)select * from sbtest1 where k=504878 limit 100000,5;的查询过程:

首先会查询到索引叶子节点数据,然后根据叶子节点上的主键值去聚簇索引上查询需要的全部字段值。像下图左边这样,需要查询100005次索引节点,查询100005次聚簇索引的数据,最后再将结果过滤掉前100000条,取出最后5条。MySQL耗费了大量随机I/O在查询聚簇索引的数据上,而有100000次随机I/O查询到的数据是不会出现在结果集当中的。

在这里插入图片描述

既然一开始是利用索引的,为什么不先沿着索引叶子节点查询到最后需要的5个节点,然后再去聚簇索引中查询实际数据。这样只需要5次随机I/O,类似于上图右边的过程。这就是子查询优化,这种方式先定位偏移位置的id,然后往后查询,这种方式适用于id递增的情况。如下所示:

mysql> select *  from sbtest1 where k=5020952 limit 50,1;
mysql> select id  from sbtest1 where k=5020952 limit 50,1;
mysql> select * from sbtest1 where k=5020952 and id>=( select id  from sbtest1 where k=5020952 limit 50,1) limit 10;
mysql> select * from sbtest1 where k=5020952 limit 50,10;

在子查询优化中,谓词中k是否有索引,对查询效率有很大影响,上述语句没有使用索引走全表扫描需要24.2s,走了索引后只需要0.67s。

mysql> explain  select * from sbtest1 where k=5020952 and id>=( select id  from sbtest1 where k=5020952 limit 50,1) limit 10;
+----+-------------+---------+------------+-------------+---------------+------------+---------+-------+------+----------+------------------------------------------+
| id | select_type | table   | partitions | type        | possible_keys | key        | key_len | ref   | rows | filtered | Extra                                    |
+----+-------------+---------+------------+-------------+---------------+------------+---------+-------+------+----------+------------------------------------------+
|  1 | PRIMARY     | sbtest1 | NULL       | index_merge | PRIMARY,c1    | c1,PRIMARY | 8,4     | NULL  |   19 |   100.00 | Using intersect(c1,PRIMARY); Using where |
|  2 | SUBQUERY    | sbtest1 | NULL       | ref         | c1            | c1         | 4       | const |   88 |   100.00 | Using index                              |
+----+-------------+---------+------------+-------------+---------------+------------+---------+-------+------+----------+------------------------------------------+
2 rows in set, 1 warning (0.11 sec)
2.2 使用id限定优化

假设数据库中表的id是连续递增的,则可以根据查询的页数和查询的记录数计算出查询的id的范围,然后根据id between and语句来查询。id的范围可以通过分页公式计算得到,比如说当前页面大小为m,当前页数为no1,则页面最大值为max=(no1+1)m-1,最小值为min=no1m,SQL语句可以表示为id between min and max。

select * from sbtest1 where id between 1000000 and 1000100 limit 100;

这种查询方式能够极大地优化查询速度,基本能够在几十毫秒之内完成。限制是需要明确知道id的情况,不过一般在分页查询的业务表中,都会添加基本的id字段,这为分页查询带来很多便利。上述SQL还有另一种写法:

select * from sbtest1 where id >= 1000001 limit 100;

可以看到执行时间上的差异:

mysql> show profiles;
+----------+------------+--------------------------------------------------------------------------------------------------------------+
| Query_ID | Duration   | Query                                                                                                        |
+----------+------------+--------------------------------------------------------------------------------------------------------------+
|        6 | 0.00085500 | select * from sbtest1 where id between 1000000 and 1000100 limit 100                                         |
|        7 | 0.12927975 | select * from sbtest1 where id >= 1000001 limit 100                                                          |
+----------+------------+--------------------------------------------------------------------------------------------------------------+

还可以使用in的方式来进行查询,这种方式经常用在多表关联的时候进行查询,使用其他表查询的id集合,来进行查询:

select * from sbtest1 where id in (select id from sbtest2 where k=504878) limit 100;

使用in查询的方式要注意某些mysql版本不支持在in子句中使用limit。

2.3 基于索引再排序

基于索引再排序是利用索引查询中有优化算法,通过索引再去找相关的数据地址,避免全表扫描,这样节省了很多时间。另外Mysql中也有相关的索引缓存,在并发高的时候利用缓存效果会更好。在MySQL中可以使用如下语句:

SELECT * FROM 表名称 WHERE id_pk > (pageNum*10) ORDER BY id_pk ASC LIMIT M

这种方法适用于数据量多的情况(元组数上万),最好ORDER BY后的列对象是主键或唯一索引,使得ORDER BY操作能利用索引被消除但结果集是稳定的。比如下面两个语句:

mysql> show profiles;
+----------+------------+--------------------------------------------------------------------------------------------------------------+
| Query_ID | Duration   | Query                                                                                                        |
+----------+------------+--------------------------------------------------------------------------------------------------------------+
|        8 | 3.30585150 | select * from sbtest1 limit 1000000,10                                                                       |
|        9 | 1.03224725 | select * from sbtest1 order by id limit 1000000,10                                                           |
+----------+------------+--------------------------------------------------------------------------------------------------------------+

对索引字段id使用order by语句后,性能有了明显的提升。

分页查询其它优化方法还有比如使用复合索引将谓词字段和id加入到索引中、使用临时存储的表来记录分页的id然后进行in查询等。


参考资料:

  1. https://zhuanlan.zhihu.com/p/92552787
  2. https://blog.youkuaiyun.com/bandaoyu/article/details/89844673
  3. https://blog.youkuaiyun.com/HADEWOKE/article/details/53996110
  4. https://www.jianshu.com/p/0768ebc4e28d

转载请注明原文地址:https://blog.youkuaiyun.com/solihawk/article/details/120571308
文章会同步在公众号“牧羊人的方向”更新,感兴趣的可以关注公众号,谢谢!
在这里插入图片描述

手把手教你实现数据库分页查询 text{总页数} = \lceil \frac{\text{总记录数}}{\text{每页记录数}} \rceil = \lceil \frac{105}{10} \rceil = 11。分页查询是数据库开发中非常重要的一项技术,尤其是在处理大数据量的应用中。\text{总页数} = \lceil \frac{\text{总记录数}}{\text{每页记录数}} \rceil。:根据当前页码和每页显示的记录数,从数据库中提取对应的数据。:根据每页显示的记录数和总记录数计算总页数。 阅读详情

相关推荐

Mysql 数据库中怎么实现分页

的性能会随着偏移量的增加而变得更差,因为它需要跳过指定数量的行。在处理大数据集时,可能需要考虑使用其他优化方法,例如基于游标的分页查询。在计算偏移量时,我们将页数减去 1,以得到正确的偏移量。另外,为了确保分页查询的结果是按照期望的顺序返回,通常需要在查询中包含适当的排序条件,例如使用。使用这个公式,可以将它应用到查询中,以获取特定页的数据。上述查询将返回从第 21 行开始的 10 条记录,即第 3 页的数据。这将返回结果集中第 21 行到第 30 行的数据。是结果集的偏移量,表示从第几行开始返回结果,

CHEN的博客笔记 2748

Mysql分页查询优化

1.插入大量数据 创建存储过程,向表中插入大量数据 drop procedure if EXISTS `my_procedure`; delimiter // create procedure my_procedure() BEGIN DECLARE n int DEFAULT 1; WHILE n < 10001 DO insert INTO weather (city,shidu,pm25,pm10,quality,high_temp,low_temp) VALUE ('Q

wdquan19851029的专栏 4461

MySQL千万数据量下的分页查询优化:从原理到实践

在现代应用程序中,数据库是核心组件之一,而分页查询是常见的数据库操作之一。然而,当数据量达到千万级别时,传统的分页查询(如`LIMIT offset, size`)可能会变得非常缓慢,尤其是在`offset`值较大的情况下。这是因为MySQL需要扫描大量的数据才能找到正确的起始位置。本文将深入探讨千万数据量下的分页查询优化策略,从原理到实践,帮助你更好地应对这一挑战。

李长渊的博客 1454

优化mysql分页查询

MySQL的系统结构图,客户端程序发送sql语句查询请求给服务层,服务层会解析、优化sql语句,之后交给存储引擎,也就是说,存储引擎是真正完成查询的(增加、删除、修改也是由存储引擎负责的)

yangyanping20108的博客 1659

Hibernate中的MySQL分页查询技术指南

Hibernate Criteria API为开发者提供了一种面向对象的方式来构建和执行数据库查询。与直接使用原生SQL语句相比,Criteria API的好处在于它能够提供一个更安全和更灵活的查询机制。它支持运行时的查询动态构建,使得代码更加清晰,并且减少了因拼写错误或语法错误而引起的问题。该API特别适用于那些复杂查询条件较多、需要频繁修改查询逻辑以及需要更好的类型安全的场景。

weixin_42668301的博客 1010

在安装之后使用labelme出现qtpy.PythonQtError:No Qt bindings could be found错误

我在base环境(python3.7)可成功安装和使用labelme,而在同py37版本和py36的虚拟环境中可安装labelme包,但在使用的时候出现报错,如下: 我尝试着去解决第一个错误提示,错误提示为:moduleNotFoundError:No module named ‘PySide’,结果掉入了一个无止无尽的坑,看到网上有朋友说这个只能在py27-py35才能安装,还有说需要VC+ 140等,他们说的这个解决方案只针对于这个缺包的描述,而我们仅仅只需要一个labelme,因此我直接对后面的错误

qq_33538651的博客 9814

Mysql数据库技术

1.数据库MySQL分页时用的语句 使用limit关键字。Select * from 表名 where 条件 limit 开始位置,结束位置。通过动态的改变开始和结束位置的值来实现分页。 2.根据你以往的经验简单叙述一下MYSQL的优化 a、尽可能使用更小的整数类型.(mediumint就比int更合适). b、尽可能的定义字段为not null,除非这个字段需要null. c、如果想要清空表的所有记录,建议用truncate table tablename而不是delete from t...

振公子的博客 215

统信UOS系统盘扩容保姆级教程:用GParten-分区编辑器5分钟搞定

本文提供统信UOS系统盘扩容的详细图形化教程。针对系统盘空间不足问题,重点介绍如何使用系统自带的GParten-分区编辑器,在5-10分钟内安全、直观地完成扩容操作,无需记忆复杂命令,适合所有用户快速解决存储空间告急的困扰。

e3f4g5的博客 640

MySQL 分页查询优化

MySQL分页查询优化,通俗易懂!🎉

qq_56158663的博客 2871

手把手教你用UC3842搭建12V/5A反激电源(附PSIM仿真文件)

本文详细介绍了基于UC3842的12V/5A反激电源设计与PSIM仿真实践。从UC3842芯片选型、高频变压器计算到PSIM仿真模型搭建,提供完整的开关电源设计流程。特别包含PCB布局要点和实测优化建议,帮助工程师快速掌握反激电源开发技巧。

u6v7w8x的博客 1199

三维重建之条纹投影结构光(一)

该系列为条纹投影结构光学习笔记,一共分为四篇。第一篇记录文献阅读的笔记,对重要知识点进行摘录介绍。 本篇以理论知识推导为主,主要从以下三个方面进行介绍,首先介绍条纹投影的三角测量原理;然后介绍相位主值的求解和相位展开;最后介绍相位和高度的模型,即相高模型。本篇博文不涉及具体的代码实现。 条纹投影结构光测量原理 ...

beyond951的博客 3万+

MySQL数据库之分页查询

而分页查询可以让你 “按需获取部分数据”,就像看书翻页一样,每次只取需要的 “那一页”。:偏移量 = (页码 - 1) × 每页行数。排序(必须排序,否则结果顺序随机!在 MySQL 中,分页查询的核心是。

2302_76852954的博客 1637

全网详细解决Client does not support authentication protocol requested by server;consider upgrading Mysql c

全网详细解决1251 - Client does not support authentication protocol requested by server; consider upgrading Mysql client。

念兮为美 5476

Mysql 分页查询优化的几种思路

当需要从数据库查询的表有上万条记录的时候,一次性查询所有结果会变得很慢,特别是随着数据量的增加特别明显,这时需要使用分页查询。 对于数据库分页查询,也有很多种方法和优化的点。下面简单说一下我知道的一些方法。 准备工作 为了对下面列举的一些优化进行测试,下面针对已有的一张表进行说明。 表名:order_history 描述:某个业务的订单历史表 主要字段:unsigned int id,...

只有变秃 才能变强 1681

Python 实战:爬取高德地图交通数据(路况拥堵指数分析)

高德地图是由高德软件有限公司开发的一款地图导航产品,提供详细的地图浏览、路线规划、实时路况、公共交通查询等功能。高德地图拥有庞大的用户群体和海量的交通数据,这些数据对于交通管理、城市规划、出行服务等领域具有重要的价值。通过对高德地图交通数据的分析,我们可以了解城市交通的运行状况,识别拥堵路段,预测交通流量,为交通管理部门和出行者提供决策支持。

yansideyucsdn的博客 2684

ROS与深度相机入门教程:(1)Ubuntu16.04 在ROS中驱动Intel D435i深度相机

Intel在Github上开源了支持所有RealSense系列相机的SDK,包括了D400、SR300系列深度相机和T265双目跟踪相机,支持Linux、Windows、Mac OS以及Android,链接:https://github.com/IntelRealSense/librealsense/blob/master/doc/distribution_linux.md#installin...

m0_37957160的博客 2075

MySQL分页查询优化

对于使用 id 限定优化中的问题,需要 id 是连续递增的,但是在一些场景下,比如使用历史表的时候,或者出现过数据缺失问题时,可以考虑使用临时存储的表来记录分页的id,使用分页的id来进行 in 查询。当需要从数据库查询的表有上万条记录的时候,一次性查询所有结果会变得很慢,特别是随着数据量的增加特别明显,这时需要使用分页查询。另外我还做了十来次查询,从查询时间来看,基本可以确定,在查询记录量低于100时,查询时间基本没有差距,随着查询记录量越来越大,所花费的时间也会越来越多。

辣香牛肉面的博客 803

华为OD机考双机位C卷 - 构成正方形的数量 (Java & Python& JS & C/C++ & GO )

华为OD机考双机位C卷 - 成正方形的数量 (OD上机考试双机位C卷)。提供在线OJ刷题。Java、C++、Python、GO语言、C语言、JavaScript题解,并提供完整思路讲解。

算法大师! 5938

Mysql 分页查询优化

也就是说,虽然每次都只返回 n 条记录,但是每次查询都要查询 m+n 行数据。所以,对于大表的查询,越到后面 m 越大,要扫描的记录也就越多。所以我们需要优化下这个多余的查询,即想办法做到不扫描前 m 行记录,只扫描后 n 行记录。

Chlapis的博客 933

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

精雕软件(JDpaint) 5.5 绿色版

精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版精雕软件(JDpaint) 5.5 绿色版

Mysql数据库分页查询及优化

最近遇到个数据库分页查询问题,mysql数据库分页查询默认是升序查询,就是第一页查询的是最先插入的数据,最后一页才是最新插入的数据,弄了个小的数据库表单。

小丑鱼的专栏 1808

Camera2Demo

在Camera2 的基础上进行封装,使得Camera2一堆初始化逻辑与Activity分离,降低耦合度,完成预览拍照并保存的操作

MySQL 百万级分页查询优化

例如,只需要查询`id`、`name`和`age`三个字段进行分页显示,应该使用`SELECT id, name, age FROM table_name WHERE condition ORDER BY column_name LIMIT offset, limit;例如,有一个`users`表,包含`id`(主键)、`name`、`age`和`create_time`字段,经常按照`create_time`降序进行分页查询。但如果只使用`price`条件,索引可能无法有效使用。1. 调整缓存相关参数。

chinansa的博客 1364

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

mysql分页查询如何优化_mysql分页查询优化

测试实验1. 直接用limitstart,count分页语句,也是我程序中用的方法:select * from product limit start, count当起始页较小时,查询没有性能问题,我们分别看下从10,100,1000,10000开始分页的执行时间(每页取20条),如下:select * from product limit 10, 20 0.016秒sele...

weixin_30689519的博客 2180

高斯DWS数据库分页查询优化思路

高斯是分布式数据库,将会对数据进行分布式存储,会增加网络之间传输的性能损耗,因此尝试了下每个节点都保存一份数据,是否能增加查询速度,这个做法的弊端在于,数据会在每个查询节点都会存储一份,造成存储资源的浪费,在实际测试中,查询性能并不能得到提升。背景:数据仓库采用高斯DWS,API平台采用DBAPI,平台限制了一个请求最大3S,因此超过3S的请求将会被取消掉,请求3S并不是SQL执行3S,经过验证,SQL执行九百多毫秒请求就会被杀掉,当前表数据大概四百多万。

空城的博客 2157

MySQL分页查询方法及优化

关于数据表的id说明 一般情况下,在数据库中建立表的时候,每一张表强制添加 id 递增字段,这样更方便我们查询数据。 如果数据量很大,比如像订单这类,一般会推荐进行分库分表。这个时候 id 就不建议作为唯一标识了,而应该使用分布式的高并发唯一 id 生成器来生成,并在数据表中使用另外的字段来存储这个唯一标识。 首先使用范围查询定位 id (或者索引),然后再使用索引进行定位数据,即先 select id,然后在 select *;这样查询的速度将会提升好几倍。

努力的鋜 331

mysql分库分表分页查询语句_MySQL分页查询优化

作者:悠悠ihttp://cnblogs.com/youyoui/p/7851007.html相关阅读Mysql高性能优化规范建议当需要从数据库查询的表有上万条记录的时候,一次性查询所有结果会变得很慢,特别是随着数据量的增加特别明显,这时需要使用分页查询。对于数据库分页查询,也有很多种方法和优化的点。下面简单说一下我知道的一些方法。准备工作为了对下面列举的一些优化进行测试,下面针对已有的一张表进行...

weixin_31855625的博客 549
上一篇: 数据库系列之InnoDB中在线DDL实现机制
下一篇: 数据库系列之MySQL中的执行计划
solihawk
博客等级 码龄17年 7995粉丝 184原创
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值