查询效率提升10倍!3种优化方案,帮你解决MySQL深分页问题

关于深分页解决办法记录 mysql深分页 阅读详情

开发经常遇到分页查询的需求,但是当翻页过多的时候,就会产生深分页,导致查询效率急剧下降。

有没有什么办法,能解决深分页的问题呢?

本文总结了三种优化方案,查询效率直接提升10倍,一起学习一下。

1. 准备数据

先创建一张用户表,只在create_time字段上加索引:

CREATE TABLE `user` (
  `id` int NOT NULL AUTO_INCREMENT COMMENT '主键',
  `name` varchar(255) DEFAULT NULL COMMENT '姓名',
  `create_time` timestamp NULL DEFAULT NULL COMMENT '创建时间',
  PRIMARY KEY (`id`),
  KEY `idx_create_time` (`create_time`)
) ENGINE=InnoDB COMMENT='用户表';

然后往用户表中插入100万条测试数据,这里可以使用存储过程:

drop PROCEDURE IF EXISTS insertData;
DELIMITER $$
create procedure insertData()
begin
 declare i int default 1;
   while i <= 100000 do
         INSERT into user (name,create_time) VALUES (CONCAT("name",i), now());
         set i = i + 1; 
   end while; 
end $$

call insertData() $$

2. 验证深分页问题

每页10条,当我们查询第一页的时候,速度很快:

select * from user 
where create_time>'2022-07-03' 
limit 0,10;

在不到0.01秒内直接返回了,所以没显示出执行时间。

当我们翻到第10000页的时候,查询效率急剧下降:

select * from user 
where create_time>'2022-07-03' 
limit 100000,10;

执行时间变成了0.16秒,性能至少下降了几十倍。

耗时主要花在哪里了?

  1. 需要扫描前10条数据,数据量较大,比较耗时
  2. create_time是非聚簇索引,需要先查询出主键ID,再回表查询,通过主键ID查询出所有字段

画一下回表查询流程:

1. 先通过create_time查询出主键ID

2. 再通过主键ID查询出表中所有字段

别问为什么B+树的结构是这样的?问就是规定。

然后我们就针对这两个耗时原因进行优化。

3. 优化查询

3.1 使用子查询

先用子查询查出符合条件的主键,再用主键ID做条件查出所有字段。

select * from user 
where id in (
  select id from user 
  where create_time>'2022-07-03' 
  limit 100000,10
);

不过这样查询会报错,说是子查询中不支持使用limit。

我们加一层子查询嵌套,就可以了:

select * from user 
where id in (
 select id from (
    select id from user 
    where create_time>'2022-07-03' 
    limit 100000,10
 ) as t
);

执行时间缩短到0.05秒,减少了0.12秒,相当于查询性能提升了3倍。

为什么先用子查询查出符合条件的主键ID,就能缩短查询时间呢?

我们用explain查看一下执行计划就明白了:

explain select * from user 
where id in (
 select id from (
    select id from user 
    where create_time>'2022-07-03' 
    limit 100000,10
 ) as t
);

可以看到Extra列显示子查询中用到Using index,表示用到了覆盖索引,所以子查询无需回表查询,加快了查询效率。

3.2 使用inner join关联查询

把子查询的结果当成一张临时表,然后和原表进行关联查询。

select * from user 
inner join (
   select id from user 
    where create_time>'2022-07-03' 
    limit 100000,10
) as t on user.id=t.id;

查询性能跟使用子查询一样。

3.3 使用分页游标(推荐)

实现方式就是:当我们查询第二页的时候,把第一页的查询结果放到第二页的查询条件中。

例如:首先查询第一页

select * from user 
where create_time>'2022-07-03' 
limit 10;

然后查询第二页,把第一页的查询结果放到第二页查询条件中:

select * from user 
where create_time>'2022-07-03' and id>10 
limit 10;

这样相当于每次都是查询第一页,也就不存在深分页的问题了,推荐使用。

执行耗时是0秒,查询性能直接提升了几十倍。

这样的查询方式虽然好用,但是又带来一个问题,就是无法跳转到指定页数,只能一页页向下翻。

所以这种查询只适合特定场景,比如资讯类APP的首页。

互联网APP一般采用瀑布流的形式,比如百度首页、头条首页,都是一直向下滑动翻页,并没有跳转到制定页数的需求。

不信的话,可以看一下,这是头条的瀑布流:

传参中带了上一页的查询结果。

响应数据中,返回了下一页查询条件。

所以这种查询方式的应用场景还是挺广的,赶快用起来吧。

知识点总结:

MySQL百万数据深度分页优化思路分析 我们现在知道了LIMIT 遇到后面查询的性能越差,性能差的原因是因为要回表,既然已经找到了问题那么我们只需要减少回表的次数就可以提升查询性能了。 阅读详情

相关推荐

关于MySQL深分页的问题及优化方案

本文探讨MySQL深分页(如LIMIT 1000000,100)的性能问题及优化方案。传统分页随着offset增大,会产生大量数据扫描、锁竞争和I/O瓶颈。主要优化策略包括:1)基于主键游标分页避免offset;2)延迟关联减少数据扫描;3)覆盖索引避免回表;4)分区表缩小查询范围;5)缓存高频访问数据;6)业务层限制最大页数或预加载。核心思路是通过减少数据扫描量和避免全表offset来提升性能,建议根据业务场景组合使用游标分页、延迟关联等方案,并配合索引优化和业务逻辑调整。

weixin_50055999的博客 1593

解决mysql深度分页问题

数据:单表数据25万条。深度分页优化。

Good Luck 8575

【Mysql】深分页问题、页分裂问题、加密/解密、执行计划

MySQL的数据是存储在磁盘上面的(Memory引擎除外),但是如果每次数据的查询和修改都直接和磁盘交互的话,性能是很差的。于是,为了提升读写性能,Innodb引擎就引入了一个中间层,就是buffer pool。buffer是在内存上的一块连续空间,他主要的用途就是用来缓存数据页的,每个数据页的大小是16KB。

xueping_wu的博客 1014

如何解决Mysql深分页问题

大家都写过分页查询,通过mysql的limit关键字,例如我要查第一页10条,那么就是limit 0,10。这看起来没啥问题。例如数据量很大,页数很多,我查第100000页的10条,那就是limit 100000,10。你就会发现执行速度明显变慢,这就是深分页问题造成的。同样的查询数据量,深分页可能1s左右,但是你查最初的分页的时候,可能只需要几毫秒。

qq_46130027的博客 469

MySQL深分页问题的解决方法

在上面的示例中,get_page_data函数接收一个游标、每页的行数和上一页的最后一行数据的ID。在上述示例中,get_page_data函数的实现与游标分页方法相似,但添加了主键的ORDER BY子句,以确保结果的顺序。然而,需要注意的是,游标分页要求结果集是有序的,通常需要使用ORDER BY子句来确保结果的顺序。游标分页是一种改进的分页查询方法,它通过保存上一页的最后一行数据的位置,来获取下一页的数据。游标分页通过保存上一页的最后一行数据的位置,来获取下一页的数据,避免了扫描和跳过大量的行。

SrySmalltalk的博客 488

深入解析UDS 0x19服务:DTC状态掩码与故障诊断实战

本文深入解析了UDS诊断协议中的核心0x19服务(ReadDTCInformation),重点拆解了DTC状态掩码(DTCStatusMask)的八个状态位及其在故障生命周期中的联动逻辑。通过实战案例,详细说明了从故障发生、确认到清除的全过程,并介绍了如何利用该服务进行深度诊断,包括读取扩展数据(如冻结帧)和避免常见开发误区,是理解汽车ECU故障管理机制的关键。

weixin_29248313的博客 323

实战!如何解决 MySQL 深分页问题

本文旨在深入分析MySQL深分页问题的原因、影响及解决方案,并详细分析底层原理。深分页问题的背景和影响MySQL索引结构和查询执行流程深分页性能下降的原因优化策略及其底层原理实战案例分析总结与建议MySQL 作为最受欢迎的开源关系数据库之一,被广泛用于各种规模的应用程序中。随着数据量的不断增长,高效地处理大量数据成为数据库管理的重要挑战之一。分页是一种常见的数据检索技术,它允许用户在大量数据中浏览和检索信息,而不必一次性加载所有数据。这对于提高用户体验和减少服务器负载至关重要。

m0_74825260的博客 1690

Fluent实战——残差震荡分析与收敛优化策略

本文深入探讨了Fluent仿真中残差震荡的成因与优化策略。残差震荡是流场物理或数值问题的关键信号,文章系统分析了网格质量、边界条件、物理模型非定常性及求解设置四大主因,并提供了库朗数与松弛因子的调参心法,以及针对超音速流、共轭传热等典型场景的实战优化方案,旨在帮助用户有效提升计算收敛性与结果可靠性。

w1x2y3的博客 313

MySql深分页问题详解

MySql深分页问题详解1. 问题描述2. 问题分析3. 环境准备3.1 创建两个表3.2 创建两个函数3.3 编写存储过程3.4 编写存储过程3.5 创建索引3.6 验证测试4. 解决方案4.1 使用索引覆盖+子查询优化4.2 起始位置重定义4.3 降级策略5. 梳理总结 1. 问题描述 日常开发中经常会涉及到数据查询分页的问题,一般情况下都是根据前端传入页数与页码通过mysql的limit方式实现分页,对于数据量较小的情况下没有问题,但是如果数据量很大,深分页可能导致查询效率低下,接口超时的情况。 2.

靖节先生的博客 7800

Cube生成定时器2触发双ADC同步采集并用DMA传输

前言 用cube生成一个用定时器触发ADC1,ADC2同步采集的程序,单片机选择的是STM32L476RGT6,用定时器2进行ADC采集触发,更改定时器2的定时周期便可以更改ADC的采样周期,ADC1和ADC2使用同步规则模式,并用DMA进行数据的传输。 STM32的ADC采样完成总共需要的时间是 ADC完成采样时间=采样周期+12个转换周期 举个例子,假如ADC的时钟是15MHz,采样周期是3个周期,3个采样周期加上12个转换周期,一共是15个周期,因为时钟是15MHz,所以完成一次ADC转换总共需要的时

一行代码的博客 4513

【随机过程】Markov Chain的定义及发展历程与实际应用

本模块书写的初衷:由于在学习张波张景肖等学者所著的《应用随机过程》存在着不甚了解的知识点,经过个人查找资料并整理、分享,希望能够为有同样疑惑的读者贡献绵薄之力,同时如果个人编写内容有错误,恳请读者指正。本文为对《应用随机过程》第42页中Markov Chain基本概念的补充。1.Markov Chain的定义俄国数学家 Andrey Andreyevich Markov 研究并提出一个用数学方法就能解释自然变化的一般规律模型,被命名为马尔科夫链(Markov Chain)。

qq_49657150的博客 3745

提升大数据量分页查询性能:深分页优化全解

当user表具有主键或索引字段时,我们可以借助主键进行子查询以确定偏移起点,这会极大减少扫描行数,从而显著提高查询性能。# 子查询优化SELECT *SELECT idLIMIT 10;直接查询结果显示,查询时间仅为 0.013 秒,性能提升了 200 多倍!书签优化,也称为滚动查询,是一种通过记录上一次查询的最大记录ID来优化深分页查询的方法。这种方法的核心思想是从第一页开始查询,然后获取本页最大的记录ID,再根据大于该记录ID的数据向后持续滚动。

MADAO的博客 2999

基于自抗扰控制的虚拟同步发电机二次调频控制研究

摘要:本文针对高比例可再生能源并网导致的电力系统频率稳定性问题,提出基于自抗扰控制(ADRC)的虚拟同步发电机(VSG)二次调频控制策略。通过分析VSG工作原理和传统调频方法的不足,设计了非线性ADRC和线性ADRC两种控制器,详细阐述了参数整定方法。仿真结果表明,该策略能有效消除频率稳态偏差,提升系统抗扰能力,为分布式电源参与电网调频提供了新思路。 关键词:虚拟同步发电机;自抗扰控制;二次调频;频率调节;抗扰能力

huanghm88的专栏 243

MySQL深分页详解与优化实践

深分页指的是在分页查询中,当分页数(page)较大时,查询需要跳过大量的数据。尤其是在数据量极大的表中,深分页的性能问题十分显著。例如,当我们查询分页的第1000页时,数据库需要跳过前面9990页的数据才能返回目标数据。这样的问题,通常出现在大量数据和复杂查询的结合中。MySQL深分页是数据库性能优化中一个重要的课题。传统的分页查询方式依赖于LIMIT和OFFSET,在数据量大的情况下会导致性能下降,影响系统的响应时间和用户体验。

一碗黄焖鸡三碗米饭的博客 1791

NL2SQL实践系列(1):深入解析Prompt工程在text2sql中的应用技巧

NL2SQL实践系列(1):深入解析Prompt工程在text2sql中的应用技巧

丨汀、的博客 4327

IGBT基础知识及应用电路仿真(Multisim)

本文系统介绍了IGBT(绝缘栅双极晶体管)及其应用电路。首先详细解析了IGBT的基本结构、工作原理和特性参数,重点阐述了其五层半导体结构、电导调制效应和电压驱动特性。随后通过Multisim仿真展示了IGBT在四种典型功率变换电路中的应用:半桥驱动电路实现隔离式互补驱动;全桥逆变电路完成DC-AC转换;三相桥式逆变电路生成三相交流电;直流斩波电路(BUCK/BOOST/BUCK-BOOST)实现电压升降变换。文章通过理论分析与仿真波形相结合,全面呈现了IGBT在中高压大功率场景下的优异性能和灵活应用。

XU157303764的博客 1218

MySQL深分页问题原理与三种解决方案

本文第一介绍深分页问题表现和原因。第二介绍深分页问题三种解决方法,方案一是从业务维度优化,方案二是使用覆盖索引进行优化,方案三是使用Id分页。第三展示MyBatis相关代码

JAVA前线技术专栏 2346

【人工智能之深度学习】23. 推荐系统升级实战:LightGCN重构协同过滤全流程(Amazon-Beauty数据集+完整代码)

摘要:传统协同过滤(如矩阵分解)在电商推荐中存在三大痛点:忽略用户-物品高阶关联、交互数据稀疏导致冷启动、特征工程依赖人工设计。本文基于Amazon-Beauty数据集(含20万+用户交互),用LightGCN图神经网络重构推荐系统:1)构建用户-物品二部图,通过3层图卷积捕捉“用户→物品→用户”的多跳关联;2)采用BPR负采样损失优化嵌入学习,缓解数据稀疏;3)端到端输出用户/物品嵌入,无需人工特征。

专注于人工智能、软件开发、工控自动化、工厂数字化及智能化等领域,希望和大家共同进步! 1494

MySQL深分页,limit 100000,10 优化

MySQL深分页,limit 100000,10 优化

qq_44700578的博客 3227

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

深分页优化总结

深分页

qq_32979219的博客 3250

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

MySQL深分页的处理方案

其核心思想是:不使用固定的页码(Page),也不使用偏移量(OFFSET),而是使用上一页最后一条记录的唯一标识(如自增ID、时间戳)作为“游标”来获取下一页的数据。后台系统可以限制 offset 的最大值(例如最大只能取 1000),或者当 offset 超过一个阈值(如 1000)时,提示用户“请使用更精确的筛选条件来缩小范围”。仍然是 OFFSET 方案,跳过的记录越多,子查询扫描索引的范围依然很大,只是比回表全记录要轻量很多。架构复杂,需要引入和维护新的中间件,有数据同步延迟。

klcss的博客 954

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

MySQL 的 limit 分页查询及性能问题

MySQL 通过 limit 实现分页查询。limit 接收一个或两个整数型参数。如果是两个参数,第一个指定返回记录行的偏移量,第二个指定返回记录行的最大数目。初始记录行的偏移量是 0。为了与 PostgreSQL 兼容,limit 也支持limit a offset b【a:取的记录数;b:索引】。 一、分页查询 客户端通过传递 start(页码),**pageSize(每页显示的条数)**两个参数去分页查询数据库表中的数据。MySql 数据库提供的分页函数 limit m,n 用法和实际需求不切合,所以

ChineseSoftware的博客 1万+

HoRain云--MySQL深分页优化:性能提升2500倍

MySQL深分页优化方案解析 本文针对MySQL中常见的深分页性能问题,提出了四种优化方案。当使用LIMIT offset,size进行大偏移量分页查询时,MySQL需要扫描大量数据导致性能急剧下降。文章详细分析了问题原因,并推荐了四种优化方法:1)基于主键的分页(最推荐);2)延迟关联;3)覆盖索引优化;4)应用层游标方案。通过实测数据对比,优化后的查询性能可提升上千倍。文章还提供了最佳实践建议和实际案例,强调正确的分页设计能有效解决百万级数据下的性能瓶颈,使查询保持毫秒级响应。

2401_86544677的博客 734
上一篇: 想要手撕Spring MVC源码?让我带你一步一步走并手绘流程图
下一篇: Spring从入门到精通—Bean标签详解
Java技术那些事儿
博客等级 码龄5年 2306粉丝 2584原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值