MySQL分页时使用 limit+order by 会出现数据重复问题

1.问题描述

在MySQL中我们通常会采用limit来进行翻页查询，比如limit(0,10)表示列出第一页的10条数据，limit(10,10)表示列出第二页。但是，当limit遇到order by的时候，可能会出现翻到第二页的时候，竟然又出现了第一页的记录。

具体如下：

        第二页

第三页

如上两图发现,出现了数据重复的问题,但是不进行分页就不会出现重复的问题.

2 分析问题

        

在MySQL 5.6的版本以后，优化器在遇到order by limit的语句时候，会做一个priority queue的优化。

使用priority queue的目的，就是在不能使用索引有序性的时候，如果要排序，并使用了limitn，

那么只需要在排序的过程中，保留n条记录即可，这样虽不能解决所有记录都需要排序的开销，但只需要sortbuffer少量的内存就可以完成排序。

之所以5.6版本以后出现第二页数据重复的问题，就是因为priority

queue使用了堆排序的排序方法，而堆排序是一个不稳定的排序方法，也就是相同的值可能排序出的结果和读出来的数据顺序不一致。

同时，我们再看一下MySQL语句关键字执行顺序依次为 form… where… select… order by…

limit…，由于上述priority queue的原因，在完成select之后，所有记录是以堆排序的方法排列的，在进行order

by时，仅把view_count值大的往前移动。

但由于limit的因素，排序过程中只需要保留到5条记录即可，view_count并不具备索引有序性，所以当第二页数据要展示时，mysql见到哪一条就拿哪一条，因此，当排序值相同的时候，第一次排序是随意排的，第二次再执行该sql的时候，其结果应该和第一次结果一样。

再看下MySQL解释sql语言时的执行顺序：

(1)     SELECT 
(2)     DISTINCT <select_list>
(3)     FROM <left_table>
(4)     <join_type> JOIN <right_table>
(5)     ON <join_condition>
(6)     WHERE <where_condition>
(7)     GROUP BY <group_by_list>
(8)     HAVING <having_condition>
(9)     ORDER BY <order_by_condition>
(10)    LIMIT <limit_number>

实际碰到的情况:

目前数据库表中的数据是导入的 所以create_time是相同的 遇到相同的create_time mysql5.6使用了不稳定的一个堆排序 导致数据重复(解决办法,我们可以新增多个字段排序或者修改字段进行排序)

3. 索引排序字段

如果在字段添加上索引，就直接按照索引的有序性进行读取并分页，从而可以规避遇到的这个问题。

4. 正确理解分页

分页是建立在排序的基础上，进行了数量范围分割。排序是数据库提供的功能，而分页却是衍生出来的应用需求。

在MySQL和Oracle的官方文档中提供了limit n和rownum < n的方法，但却没有明确的定义分页这个概念。

还有重要的一点，虽然上面的解决方法可以缓解用户的这个问题，但按照用户的理解，依然还有问题：比如，这个表插入比较频繁，用户查询的时候，在read-committed的隔离级别下，第一页和第二页仍然会有重合。

所以，分页一直都有这个问题，不同场景对数据分页都没有非常高的准确性要求。

5. 一些常见的数据库排序问题

不加order by的时候的排序问题

用户在使用Oracle或MySQL的时候，发现MySQL总是有序的，Oracle却很混乱，这个主要是因为Oracle是堆表，MySQL是索引聚簇表的原因。所以没有order by的时候，数据库并不保证记录返回的顺序性，并且不保证每次返回都一致的。

分页问题 分页重复的问题

如前面所描述的，分页是在数据库提供的排序功能的基础上，衍生出来的应用需求，数据库并不保证分页的重复问题。

NULL值和空串问题

不同的数据库对于NULL值和空串的理解和处理是不一样的，比如Oracle NULL和NULL值是无法比较的，既不是相等也不是不相等，是未知的。而对于空串，在插入的时候，MySQL是一个字符串长度为0的空串，而Oracle则直接进行NULL值处理。