索引


mkdir mysql
tar -xvf mysqlxxxxx.tar -c myql
cd mysql
rpm -ivh   .....rpm
yum install openssl-devel

systemctl start mysqld

gerp 'temporary password' /var/log/mysqld.log

mysql -u root -p
mysql>
show variables like 'validate_password.%'
set global validate_password.policy = 0;
set global validate_pawwword.length = 4;
alter user 'root'@'localhost' identified by '1234'

create user 'root'@'localhost' identified with mysql_native_password by '1234';


索引概述

高效获取数据的有序数据结构。数据库除了存储原始的数据外,还要存储索引这种数据结构。 通过这些数据结构来指向原始的数据,这样就可以在这些数据结构上实现高级查找算法,这种数据结构就是索引。

select * from emp where age > 35;

无索引状况:

1、根据条件逐条查找,直到最后一条记录。【全表扫描,性能极低】

有索引状况:

1、对年龄二叉树【二叉排序树】进行维护。

mysql 创建索引耗时 mysql索引创建规则_数据库

优点:

1、提高数据检索效率,降低数据库IO成本。

2、通过索引对数据排序,降低数据怕徐成本,降低CPU消耗。

缺点:

1、索引也是占用空间的。

2、虽然提高了查询效率,但是要维护索引,降低了表更新的速度。

索引数据结构

mysql 创建索引耗时 mysql索引创建规则_字段_02

mysql 创建索引耗时 mysql索引创建规则_字段_03

二叉树缺点:顺序插入时,一直往左侧插入,形成一个单向链表,查询性能大大降低。数据量较大的情况下,层级较深,检索速度慢。

【红黑树,需要自平衡的二叉树。减少了层级】,但是数量大的情况下,检索也会较慢。

B树:

多路平衡查找树,不止两个子节点。指针比父节点的元素+1。【根据阶数,满阶就向上分裂。p68级有完整演示】

mysql 创建索引耗时 mysql索引创建规则_mysql_04

B+树:

所有的元素都会出现在叶子节点。上边的节点起到了索引的作用,叶子节点是用来存放数据的。

mysql 创建索引耗时 mysql索引创建规则_字段_05

MySQL的B+树索引结构
哈希索引

采用一定的哈希算法,将键值换算成新的hash值,映射到对应的槽位上,然后存储到hash表中。

1、先算出这张表当中,每一行数据的hash值,接下来再拿到name字段的所有值,针对于name字段通过它内部的hash函数去计算每一个name值它应该落在哪一个hash槽位上。

【hash表的槽位上存储:字段属性值+字段属性值所在的行的hash值。

如果产生了哈希冲突,那么则在槽位上存储一个链表来记录新值。

特点:

1、只能用于等值匹配(=,in),不能用户范围查询。【between < > ... 】

2、无法利用索引完成排序操作

3、查询效率较高,通常一次检索就够了,效率通常要高于B+树索引

4、目前只有Memory存储引擎支持hash索引。【但是InnoDB引擎会在指定条件下,自动将B+树索引构建为hash索引】

思考:

为什么InnoDB引擎选了B+树索引,而不是其他的呢?

二叉树:顺序插入,形成了链表,搜索时造成性能下降。

红黑树:本周上也是一棵二叉树,变成了平衡树。

B树:叶子节点和非叶子节点都存放数据,都存放到一页中,但是页的大小是有限的,为16K,这将导致一页当中存储的数据更少,指针跟着减少,只能增加树的高度,导致性能降低。放到B+树中,能存储更多的数据,层数更少,所以性能更优。

B+树:相对于二叉树来说,层级更少,搜索效率更高。【无论如何,都到叶子节点中查找值,搜索效率稳定。并且是双向链表,搜索效率相对高一点,便于范围内搜索和排序】

hash索引:对于hash索引来说,只支持等值匹配。【不支持范围内匹配和排序操作。

索引分类

mysql 创建索引耗时 mysql索引创建规则_字段_06

mysql 创建索引耗时 mysql索引创建规则_字段_07

聚集索引选取规则:

1、如果存在主键,主键索引就是聚集索引

2、如果不存在主键,将使用第一个唯一索引作为聚集索引

3、如果表没有主键,或者是没有合适的唯一索引,则InnoDB会自动生成一个rowid作为隐藏的聚集索引。

select * from emp where ename='pshdhx';

回表查询:

1、先根据二级索引查询到name值的位置,在其叶子节点下有改行的id值

2、根据id值再跑到聚集索引中,然后找到改行的值。

mysql 创建索引耗时 mysql索引创建规则_mysql 创建索引耗时_08

InnoDB的B+树索引有多高

mysql 创建索引耗时 mysql索引创建规则_mysql_09

索引语法


--创建索引
create [unique|fulltext] index index_name on table_name(index_col_name,....);

create index idx_user_name on tb_user(name);


--查看索引 加上\G之后,由原来的一行转为1列,看的清楚,不会错行。
show index from table_name\G;
--删除索引
drop index index_name on table_name;


SQL性能分析

SQL执行频率

【是插入,修改,删除为主,还是查询为主】

查看当前数据库的访问频次:是不是以增删改为主。

show [session|global] status 命令可以提供服务器状态信息
show global status like 'com_ _ _ _ _ _ _'; 7个字符

mysql 创建索引耗时 mysql索引创建规则_字段_10

慢查询日志

慢查询日志默认没有开启,需要在/etc/my.cnf中开启配置

show variables like 'slow_query_log';

mysql 创建索引耗时 mysql索引创建规则_数据库_11

show_query_log=1
long_query_time=2

配置完毕之后,通过以下指令启动MySQL服务器进行测试,

systemctl restart mysqld

查看慢查询日志记录的信息/var/lib/mysql/localhost-slow.log

tail -f localhost-slow.log

只要尾部有内容追加进去,就可以输出出来。

profile详情

show profiles能够在做SQL优化时,帮助我们了解时间都耗费到哪里去了。通过have_profiling参数,能够看到当前MySQL是否支持profile操作。


select @@have_profiling


mysql 创建索引耗时 mysql索引创建规则_mysql_12

默认profiling是关闭的,可以通过set语句在session/global级别开启profiling;


select @@profiling;
set profiling = 1;
show profiles; --查看各个语句的执行情况[时间]
show profile for query query_id;  
--比如第16条语句执行慢,可以看看时间浪费在什么地方
show profile for query 16;
show profile cpu for query 16; --查看每个执行阶段cpu的耗费情况


explain执行==desc执行


explain select * from user where id = 1;
desc select * from user where id = 1;


mysql 创建索引耗时 mysql索引创建规则_主键_13

1、id

select查询的序列号。id相同【联表查询会产生多个id】,执行顺序从上到下。id不同(子查询),值越大,越先执行。

2、select_type

表示select的类型,常见的取值有simple(简单表,不用联表和子查询)、primary(主查询,即外层的查询)、union、subquery(select /where之后 包含的子查询)等。

3、type

表示连接类型。性能由好到差的连接类型为 null、system、const、eq_ref、ref、range、index、all

null:不访问任何表,就是null,在业务系统中不可能出现。

system:访问系统表,才是system

const:访问主键,或者是唯一索引,才是const

ref:当我们使用非唯一性的索引查询时,会出现ref

index:用了索引,但是也会带索引进行扫描,遍历整个索引数

all:全表扫描。

4、possible_key:显示可能应用在这张表上的索引,一个或者多个

5、key:展示实际使用到的索引,如果为null,则没有使用索引

6、key_len:标识索引使用的字节数,该值为索引字段最大可能长度,并非实际长度。

7、rows:执行查询的行数。预估值。

8、filtered:查询返回的行数,占读取总行的百分比。值,自然越大越好。

索引使用

验证索引效率:

1000万条数据,某字段没有索引,以该字段为条件,查询效率很慢。

create index idx_sku_sno on sku(sno);

此条指令执行很慢,因为需要为1000万条数据,创建索引,构造索引二叉树。

最左前缀法则

如果索引了多列【联合索引】,要遵循最左前缀法则。查询从索引的最左列开始,并且不跳过索引中的列。【索引中的最左侧字段得存在,跟放的位置没有关系。

例如:三个字段加上了同一个索引,要想索引生效,必须从左到右,不能跳过字段。只筛选1 、筛选1 2、筛选1 2 3,索引生效。如果只有1和3,那么3的索引是不生效的。3 21 也生效,1存在就生效。

范围查询

联合索引中,出现范围查询> <号时,范围右侧的列索引失效。

如果是>=,那么列索引也生效。

索引列运算

不要在索引列上进行运算操作【包含函数运算操作】,索引将失效。


explain select * from user where substring(phone,10,2) = '15';


这样的操作,索引将会失效,进行全表扫描。

字符串不加引号

虽然字符串不加单引号是能查询出来的,但是索引是不生效的。

模糊查询索引

如果仅仅是尾部模糊查询匹配,索引在不会失效。但是,如果是头部模糊查询匹配,索引失效。

例如:'软件%' 索引生效

'%工程' 索引失效。

or-索引

用or分割开的条件,如果or前的条件中的列有索引,而后边的列中没有索引,那么涉及到的索引都不会被用到。


只有两侧都有索引的时候,所以才会被用到。


数据分布影响

如果MySQL评估使用索引比全表更慢,则不使用索引。

例如:1 2 3 4.。。 都是顺序递增的。 筛选条件是 >=1 ,所以MySQL认为走索引还不如直接走全表扫描效率高呢,故使用explain没用到索引。

【绝大多数数据满足,就不走索引。否则,就走索引】

SQL提示

如果某个字段有多个索引,例如有联合索引和普通索引,MySQL会自动选择一个合适的索引进行查找。

但是我们也可以人为用哪个索引。

use index【建议】 、ignore index 、force index【强制】


explain select * from user use index(idx_user_name) where name = '软件工程';


覆盖索引

尽量使用覆盖索引【查询使用了索引,并且需要返回的列,在该索引中已经全部能够找到】,减少使用select *

Extra:Using where using index 【性能高】不需回表(根据name找主键,根据主键找rowid)。

Extra:Using inedex condition【性能低】查询的时候,使用了索引,但是需要回表查询。

联合索引是属于二级索引的,二级索引当中,叶子节点挂的就是id值,所以查询id不需要回表,但是查询name,需要回表。

id name password status
select id name password form emp where name="pshdhx";

需要在name和password建立联合索引,id就在叶子节点上。不用回表查询

前缀索引

当字段类型为字符串(varchar、text等)时 ,有时候需要索引很长的字符串,这会让索引变得很大,查询时,浪费大量的磁盘IO,影响查询效率。

此时可以将字符串的一部分前缀,建立索引。这样可以大大节约索引空间,从而提高索引效率。

create index idx_tablename_idxName on tableName(column(n));

只需要指定一个n,就可以建立前缀索引。n代表该字段的前几个字符。

回表查询之后,拿出row,再看看该行的值是否与过滤条件的值完全相同。

单列索引&联合索引

1、select id ,phone , name from emp where phone="xxx" and name="xxxxx";

通过explain,可以看到只走了phone的索引。但是查询不到name的值,所以会回表查询。

但是如果使用了联合索引,就不会产生回表查询了,所以建议使用联表索引。

索引设计原则

1、针对于数据量较大,且查询较为频繁的表建立索引。

2、针对于常作为查询条件,where,order by ,group by操作的字段建立索引或联合索引。

3、选择区分度高的字段建立索引,尽量建立唯一索引。区分度越高,索引的使用效率越高。

4、字符串类型字段,建立前缀索引。

5、尽量使用联合索引,减少单列索引。联合索引很多时候可以覆盖索引,避免回表,提高查询效率。

6、控制索引的数量,索引越多,维护索引结构的代价越大,会影响增删改的效率。

7、如果要建立索引的列不能为null值,建议使用非空约束。有利于索引查询。

SQL优化

插入数据

insert 优化

1、执行批量插入insert into emp values(1,'pshdhx'),(2,'pshdhx2')

2、手动提交事务。否则,执行insert之前开启事务,执行之后关闭事务,性能较低。

3、主键顺序插入。顺序插入的性能要高于乱序插入。因为MySQL的组织结构。

大批量数据插入:load指令

<<<<<<< HEAD

mysql 创建索引耗时 mysql索引创建规则_mysql_14

=======

mysql 创建索引耗时 mysql索引创建规则_mysql 创建索引耗时_15

主键优化

数据组织方式:

在InnoDB存储引擎当中,表数据都是根据主键顺序组织存放的,这种存储方式的表称为索引组织表。【index organized table IOT】


就像是二级索引,主键从左到右存放。


列分页:

页可以为空,也可以填充一半,也可以填充100%,固定大小为16K。段固定大小为1M,有64页。每页包含了2-N行数据(如果一行数据大,会行溢出),根据主键排列。

主键顺序插入:

mysql 创建索引耗时 mysql索引创建规则_数据库_16

主键乱序插入:

1号页满,1号页数据分裂,形成3号页,然后分裂的数据和新插入的数据到3号页,页面指针改为1 3 2。

mysql 创建索引耗时 mysql索引创建规则_字段_17

页合并:

当删除一行记录时,实际上记录并没有被物理删除,只是被标记为删除。当标记的数量达到页的50%时,InnoDB会尝试有没有合并页的可能,优化空间使用。

合并页的阈值,可以自己设置,在创建表或者创建索引时指定。

主键设计原则

1、满足业务需求的情况下,尽量降低主键的长度。

在二级索引中挂的是主键, 主键比较长,二级索引占得空间比较大。 在搜索的时候占用较多的磁盘IO。

2、插入数据时,尽量选择顺序插入,选择使用AUTO_INCREMENT自增主键。

3、尽量不要使用UUID做主键或者是其他自然主键,如身份证号码。

4、业务操作时,尽量避免对主键的修改。 修改主键还需要修改索引的结构。

order by优化

1、Using filesort:通过表的索引或者是全表扫描,读取满足条件的数据行,然后在排序缓冲区sort Buffer中完成排序操作,所有不是通过索引直接返回排序结果的排序,都叫file sort排序。

2、Using Index:通过有序索引顺序扫描,直接返回有序数据。不需要额外排序,操作效率高。

优化掉filesort

1、对order by后边的字段建立索引,如果是单字段,建立单字段索引。如果是多字段,建立联合索引。

2、注意:索引默认是asc排序,desc排序时,extra显示需要倒序索引 。一个字段asc 一个字段desc,会显示这种情况。

3、如果我就是想使用desc,可以创建索引时指定。

create index idx_user_age_phone_asc_desc on user(age asc,phone desc);


以上说的这一切,前提是**覆盖索引。**多字段排序时,也遵循最左前缀法则。


show variables like 'sort_buffer_size'; 默认256K

如果需要可以调大一点。

group by优化

explain select profession,count(*) from user group bu profession;

extra:Using temporary:使用到了临时表,效率较低。

如果对profession创建了联合索引(profession_age_status),Extra优化为了 Using index

如果不遵循最左前缀法则,Extra:Using index ; Using temporary

explain select age,count(*) from user where profession = '软件工程' group by age;

虽然group by没有最左前缀法则,但是where里边有,所以Extra还是Using index

limit优化

select * from sku limit 1000000,10;

select * from sku limit 10000000,10; 越往后越耗时。【19秒】

此时,MySQL排序前100000010记录,仅仅返回10000000,到10000010的记录,其他记录丢弃,查询排序 的代价非常大。

select id from sku order by id limit 10000000,10; 先查询10条的id【10秒】

select * from sku where id in (select id from sku order by id limit 10000000,10) ;【语法报错 子查询中不允许有limit】

select s.* from sku , (select id from sku order by id limit 10000000,10) tmp where s.id = tmp.id ;【10秒,比起直接分页查询,提高了近9秒

优化思路:

一般分页查询时,通过创建覆盖索引,能够比较好的提高性能。可以通过通过覆盖索引加子查询形式进行优化。

count优化

MyISAM存储引擎,把一个表的总行数记录到了磁盘上,因此执行count(*)的时候会直接返回总数,效率很高。

InnoDB,它在执行count(*)的时候,需要把数据一行一行地从存储引擎里边读出来,然后计算个数。

优化思路:自己计数。

count(*):InnoDB引擎并不会把数字全部取出来,而是专门做了优化,不取值,服务层直接按照行进行累加。

count(主键):主键不可能是null,遍历整张表,把每行的主键取出来,返回给服务层,服务层进行累加操作。

count(字段):遍历整张表,取字段,还有判断是不是null。看看not null约束。

count(1): InnoDB会遍历整张表,但是不取值。服务层对于返回的每一行,放一个数字1,然后按行进行累加。什么数字都行,不一定是1。

效率:count(字段)<count(主键)<count(1)≈count(*)

所以尽量使用count(*);

update优化

session1: update user set name="pshdhx" where id = 1;[开启事务begin,提交commit]

session2:update user set name = "pshdhx2" where id = 3;[开启事务begin,提交commit]

此时是没有问题的,InnoDB锁住的是行。

但是: 如果存在

update user set name="pshdhx3" where name="pshdhx";[开启事务begin,提交commit]

update user set name = "pshdhx4" where id = 3;[开启事务begin,提交commit]

此时就会出问题,因为name没有索引,行锁升级为表锁

总结:

update时,并发事务时,要根据索引字段进行更新,否则就会锁住表。