怎么解决MySQL分页时使用 limit+order by出现数据重复的问题

65次阅读
没有评论

共计 2481 个字符,预计需要花费 7 分钟才能阅读完成。

行业资讯    
数据库    
怎么解决 MySQL 分页时使用 limit+order by 出现数据重复的问题

这期内容当中丸趣 TV 小编将会给大家带来有关怎么解决 MySQL 分页时使用 limit+order by 出现数据重复的问题,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。

0 问题描述

在 MySQL 中我们通常会采用 limit 来进行翻页查询,比如 limit(0,10) 表示列出第一页的 10 条数据,limit(10,10) 表示列出第二页。但是,当 limit 遇到 order by 的时候,可能会出现翻到第二页的时候,竟然又出现了第一页的记录。

具体如下:

SELECT `post_title`, `post_date` FROM post WHERE `post_status`= publish  ORDERBY view_countdesc LIMIT 5,5

使用上述 SQL 查询的时候,很有可能出现和 LIMIT 0,5 相同的某条记录。而如果使用如下方式,则不会出现重复的情况:

SELECT * FROM post WHERE post_status= publish  ORDERBY view_countdesc LIMIT 5,5

但是,由于 post 表的字段很多,仅仅希望用这两个字段,不想把 post_content 也查出来。为了解决这个情况,在 ORDER BY 后面使用了两个排序条件来解决这个问题,如下:

SELECT `post_title`, `post_date` FROM post WHERE `post_status`= publish  ORDERBY view_countdesc, IDasc LIMIT 5,5

按理来说,MySQL 的排序默认情况下是以主键 ID 作为排序条件的,也就是说,如果在 view_count 相等的情况下,主键 ID 作为默认的排序条件,不需要我们多此一举加 ID asc。但是事实就是,MySQL 再 order by 和 limit 混用的时候,出现了排序的混乱情况。

1 分析问题

在 MySQL 5.6 的版本上,优化器在遇到 order by limit 语句的时候,做了一个优化,即 使用了 priority queue。

使用 priority queue 的目的,就是在不能使用索引有序性的时候,如果要排序,并且使用了 limit n,那么只需要在排序的过程中,保留 n 条记录即可,这样虽然不能解决所有记录都需要排序的开销,但是只需要 sort buffer 少量的内存就可以完成排序。

之所以 MySQL 5.6 出现了第二页数据重复的问题,是因为 priority queue 使用了堆排序的排序方法,而堆排序是一个不稳定的排序方法,也就是相同的值可能排序出来的结果和读出来的数据顺序不一致。

MySQL 5.5 没有这个优化,所以也就不会出现这个问题。

也就是说,MySQL 5.5 是不存在本文提到的问题的,5.6 版本之后才出现了这种情况。

再看下 MySQL 解释 sql 语言时的执行顺序:

(1)SELECT
(2)DISTINCT select_list
(3)FROM left_table
(4) join_type JOIN right_table
(5)ON join_condition
(6)WHERE where_condition
(7)GROUPBY group_by_list
(8)HAVING having_condition
(9)ORDERBY order_by_condition
(10)LIMIT limit_number

执行顺序依次为 form hellip; where hellip; select hellip; order by hellip; limit hellip;,由于上述 priority queue 的原因,在完成 select 之后,所有记录是以堆排序的方法排列的,在进行 order by 时,仅把 view_count 值大的往前移动。

但由于 limit 的因素,排序过程中只需要保留到 5 条记录即可,view_count 并不具备索引有序性,所以当第二页数据要展示时,mysql 见到哪一条就拿哪一条,因此,当排序值相同的时候,第一次排序是随意排的,第二次再执行该 sql 的时候,其结果应该和第一次结果一样。

2 解决方法 1. 索引排序字段

如果在字段添加上索引,就直接按照索引的有序性进行读取并分页,从而可以规避遇到的这个问题。

2. 正确理解分页

分页是建立在排序的基础上,进行了数量范围分割。排序是数据库提供的功能,而分页却是衍生出来的应用需求。

在 MySQL 和 Oracle 的官方文档中提供了 limit n 和 rownum n 的方法,但却没有明确的定义分页这个概念。

还有重要的一点,虽然上面的解决方法可以缓解用户的这个问题,但按照用户的理解,依然还有问题:比如,这个表插入比较频繁,用户查询的时候,在 read-committed 的隔离级别下,第一页和第二页仍然会有重合。

所以,分页一直都有这个问题,不同场景对数据分页都没有非常高的准确性要求。

3. 一些常见的数据库排序问题

不加 order by 的时候的排序问题

用户在使用 Oracle 或 MySQL 的时候,发现 MySQL 总是有序的,Oracle 却很混乱,这个主要是因为 Oracle 是堆表,MySQL 是索引聚簇表的原因。所以没有 order by 的时候,数据库并不保证记录返回的顺序性,并且不保证每次返回都一致的。

分页问题 分页重复的问题

如前面所描述的,分页是在数据库提供的排序功能的基础上,衍生出来的应用需求,数据库并不保证分页的重复问题。

NULL 值和空串问题

不同的数据库对于 NULL 值和空串的理解和处理是不一样的,比如 Oracle NULL 和 NULL 值是无法比较的,既不是相等也不是不相等,是未知的。而对于空串,在插入的时候,MySQL 是一个字符串长度为 0 的空串,而 Oracle 则直接进行 NULL 值处理。

上述就是丸趣 TV 小编为大家分享的怎么解决 MySQL 分页时使用 limit+order by 出现数据重复的问题了,如果刚好有类似的疑惑,不妨参照上述分析进行理解。如果想知道更多相关知识,欢迎关注丸趣 TV 行业资讯频道。

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-07-18发表,共计2481字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)