MySQL分页查询优化

select * from employees limit 10000,10;

以上的sql是我们大多数时候使用的写法


优化一:

当主键连续并且没有空、结果按照主键排序的时候,可以这么写:

select * from employees where id > 90000 limit 5;

当主键连续并且没有空缺查询出的数据等价于

select * from employees limit 90000,5;

并且通过explan 查看执行计划看出:改写后的 SQL 走了索引,而且扫描的行数大大减少,执行效率更高。

#yyds干货盘点# MySQL分页查询优化_分页查询优化




优化二:根据非主键字段排序的分页查询

select * from employees ORDER BY name limit 90000,5;

#yyds干货盘点# MySQL分页查询优化_小表驱动大表_02

查看执行计划发现,没有走name索引,原因是:

扫描整个索引并查找到没索引的行(可能要遍历多个索引树)的成本比扫描全表的成本更高,所以优化器放弃使用索引。


优化方案:

让排序时返回的字段尽可能少,所以可以让排序和分页操作先查出主键,然后根据主键查到对应的记录,SQL

改写如下:

select * from employees e 
inner join (select id from employees order by name limit 90000,5) ed on e.id = ed.id;


#yyds干货盘点# MySQL分页查询优化_小表驱动大表_03

原 SQL 使用的是 filesort 排序,而优化后的 SQL 使用的是索引排序。



优化三:join 关联查询优化

前置条件 :t1表10000行数据 ,t2表100行数据 两个表中都有a b两个字段,其中a字段有索引,b字段没有索引



  • mysql的表关联常见有两种算法
  • Nested-Loop Join 算法
  • Block Nested-Loop Join 算法


  1. 嵌套循环连接 Nested-Loop Join(NLJ) 算法

一次一行循环地从第一张表(称为驱动表)中读取行,在这行数据中取到关联字段,根据关联字段在另一张表(被驱动

表)里取出满足条件的行,然后取出两张表的结果合集。


  • 优化器一般会优先选择小表做驱动表。所以使用 inner join 时,排在前面的表并不一定就是驱动表。
  • 当使用left join时,左表是驱动表,右表是被驱动表,当使用right join时,右表时驱动表,左表是被驱动表,

当使用join时,mysql会选择数据量比较小的表作为驱动表,大表作为被驱动表。


  • 使用了 NLJ算法。一般 join 语句中,如果执行计划 Extra 中未出现 Using join buffer 则表示使用的 join 算

法是 NLJ。

如果被驱动表的关联字段没索引,使用NLJ算法性能会比较低(下面有详细解释),mysql会选择Block Nested-Loop Join

算法。


  1. 基于块的嵌套循环连接 Block Nested-Loop Join(BNL)算法

把驱动表的数据读入到 join_buffer 中,然后扫描被驱动表,把被驱动表每一行取出来跟 join_buffer 中的数据做对比。

#yyds干货盘点# MySQL分页查询优化_分页查询优化_04

Extra 中 的Using join buffer (Block Nested Loop)说明该关联查询使用的是 BNL 算法。


对于关联sql的优化

关联字段加索引,让mysql做join操作时尽量选择NLJ算法

小表驱动大表,写多表连接sql时如果明确知道哪张表是小表可以用straight_join写法固定连接驱动方式,省去

mysql优化器自己判断的时间

straight_join解释:straight_join功能同join类似,但能让左边的表来驱动右边的表,能改表优化器对于联表查询的执

行顺序。

比如:select * from t2 straight_join t1 on t2.a = t1.a; 代表指定mysql选着 t2 表作为驱动表。

straight_join只适用于inner join,并不适用于left join,right join。(因为left join,right join已经代表指

定了表的执行顺序)

尽可能让优化器去判断,因为大部分情况下mysql优化器是比人要聪明的。使用straight_join一定要慎重,因

为部分情况下人为指定的执行顺序并不一定会比优化引擎要靠谱。

对于小表定义的明确

在决定哪个表做驱动表的时候,应该是两个表按照各自的条件过滤,过滤完成之后,计算参与 join 的各个字段的总数据

量,数据量小的那个表,就是“小表”,应该作为驱动表。


in和exsits优化

原则:小表驱动大表,即小的数据集驱动大的数据集

in:当B表的数据集小于A表的数据集时,in优于exists

select * from A where id in (select id from B)

-- 等价于
for(select id from B){
select * from A where A.id = B.id
}

exists:当A表的数据集小于B表的数据集时,exists优于in

  • 将主查询A的数据,放到子查询B中做条件验证,根据验证结果(true或false)来决定主查询的数据是否保留
 select * from A where exists (select 1 from B where B.id = A.id) 
#等价于:
for(select * from A){
select * from B where B.id = A.id
}
#A表与B表的ID字段应建立索引

1、EXISTS (subquery)只返回TRUE或FALSE,因此子查询中的SELECT * 也可以用SELECT 1替换,官方说法是实际执行时会

忽略SELECT清单,因此没有区别

2、EXISTS子查询的实际执行过程可能经过了优化而不是我们理解上的逐条对比

3、EXISTS子查询往往也可以用JOIN来代替,何种最优需要具体问题具体分析


count(*) 查询优化

‐‐ 临时关闭mysql查询缓存,为了查看sql多次执行的真实时间

mysql> set global query_cache_size=0; 
mysql> set global query_cache_type=0;
mysql> EXPLAIN select count(1) from employees;
mysql> EXPLAIN select count(id) from employees;
mysql> EXPLAIN select count(name) from employees;
mysql> EXPLAIN select count(*) from employees;

四个sql的执行计划一样,说明这四个sql执行效率应该差不多

字段有索引:count(*)≈count(1)>count(字段)>count(主键 id) //字段有索引,count(字段)统计走二级索引,二

级索引存储数据比主键索引少,所以count(字段)>count(主键 id)

字段无索引:count(*)≈count(1)>count(主键 id)>count(字段) //字段没有索引count(字段)统计走不了索引,

count(主键 id)还可以走主键索引,所以count(主键 id)>count(字段)

count(1)跟count(字段)执行过程类似,不过count(1)不需要取出字段统计,就用常量1做统计,count(字段)还需要取出

字段,所以理论上count(1)比count(字段)会快一点。

count(*) 是例外,mysql并不会把全部字段取出来,而是专门做了优化,不取值,按行累加,效率很高,所以不需要用

count(列名)或count(常量)来替代 count(*)。

为什么对于count(id),mysql最终选择辅助索引而不是主键聚集索引?因为二级索引相对主键索引存储数据更少,检索

性能应该更高,mysql内部做了点优化(应该是在5.7版本才优化)。


常见优化方法

  • 对于myisam存储引擎的表做不带where条件的count查询性能是很高的,因为myisam存储引擎的表的总行数会被

mysql存储在磁盘上,查询不需要计算

  • 对于innodb存储引擎的表mysql不会存储表的总记录行数,查询count需要实时计算


  • show table status

如果只需要知道大概的行数,可以使用该语句进行优化,效率很高


  • 将总数维护在redis中

插入或删除表数据行的时候同时维护redis里的表总行数key的计数值(用incr或decr命令),但是这种方式可能不准,很难

保证表操作和redis操作的事务一致性

  • 增加数据库计数表

插入或删除表数据行的时候同时维护计数表,让他们在同一个事务里操作