发现展示有问题,找半天才发现是排序用的有问题,加了个id排序才解决

问题描述

在MySQL中我们经常使用limit来进行分页查询,比如使用limit(0,10)标识列出第一页的10条数据,limit(10,10)表示列出第二页。但是,如果此时limit加上order by的时候,可能会出现翻到第二个时候,会出现第一页的数据。

具体如下:

select ORG_CODE,NAME from b_org order by CREATE_TIME desc limit 6,6;

使用上述的SQL查询的时候,很有可能出现和Limit 0,6相同的某条记录。而如果使用如下方式,则不会出现重复情况:

select * from b_org order by CREATE_TIME desc limit 6,6;

但是,由于B_ORG表的字段很多,而实际需求中并不需要这么多,只需要部分字段。为了解决这个情况,所以在Order by后面使用了两个排序条件来解决这个问题。如下:

select * from b_org order by CREATE_TIME desc,ID asc limit 6,6;

按正常的逻辑推理,MySQL的排序默认情况下使用是以主键ID作为排序字段的,也就是说,在create_time相等的情况下,主键ID作为默认的排序条件,不需要们多次一举加ID asc。但是事实就是,MySQL在order by和limit混合使用时,出现了排序混乱的情况。

分析问题

在MySQL 5.6的版本以后,优化器在遇到order by limit的语句时候,会做一个priority queue的优化。

使用priority queue的目的,就是在不能使用索引有序性的时候,如果要排序,并使用了limit n,那么只需要在排序的过程中,保留n条记录即可,这样虽不能解决所有记录都需要排序的开销,但只需要sort buffer少量的内存就可以完成排序。

之所以5.6版本以后出现第二页数据重复的问题,就是因为priority queue使用了堆排序的排序方法,而堆排序是一个不稳定的排序方法,也就是相同的值可能排序出的结果和读出来的数据顺序不一致。

同时,我们再看一下MySQL语句关键字执行顺序依次为 form… where… select… order by… limit…,由于上述priority queue的原因,在完成select之后,所有记录是以堆排序的方法排列的,在进行order by时,仅把view_count值大的往前移动。

但由于limit的因素,排序过程中只需要保留到5条记录即可,view_count并不具备索引有序性,所以当第二页数据要展示时,mysql见到哪一条就拿哪一条,因此,当排序值相同的时候,第一次排序是随意排的,第二次再执行该sql的时候,其结果应该和第一次结果一样。

解决方法

1.增加索引排序字段

如果在字段添加上索引,就直接按照索引的有序性进行读取并分页。

2.正确理解分页

分页是建立在排序的基础上,进行了数量范围分割。排序是数据库提供的功能,而分页却是衍生出来的应用需求。

还有重要的一点,虽然上面的解决方法可以缓解用户的这个问题,但按照用户的理解,依然还有问题:比如,这个表插入比较频繁,用户查询的时候,在read-committed的隔离级别下,第一页和第二页仍然会有重合。

所以,分页一直都有这个问题,不同场景对数据分页都没有非常高的准确性要求。

3.一些常见的数据库排序问题

不加order by的时候的排序问题

用户在使用Oracle或MySQL的时候,发现MySQL总是有序的,Oracle却很混乱,这个主要是因为Oracle是堆表,MySQL是索引聚簇表的原因。

分页重复的问题

分页是在数据库提供的排序功能的基础上,衍生出来的应用需求,数据库并不保证分页的重复问题。

NULL值和空串问题

不同的数据库对于NULL值和空串的理解和处理是不一样的,比如Oracle NULL和NULL值是无法比较的,既不是相等也不是不相等,是未知的。而对于空串,在插入的时候,MySQL是一个字符串长度为0的空串,而Oracle则直接进行NULL值处理。