索引的出现其实就是为了提高数据查询的效率。

索引的常见数据结构

哈希表

哈希表是一种以键 - 值(key-value)存储数据的结构,我们只要输入待查找的键即 key,就可以找到其对应的值即 Value。哈希的思路很简单,把值放在数组里,用一个哈希函数把 key 换算成一个确定的位置,然后把 value 放在数组的这个位置。

当然多个 key 值经过哈希函数的换算,会出现同一个值的情况。处理这种情况的一种方法是,拉出一个链表。如下示例:

mysql hash分区表创建sql mysql哈希表_mysql hash分区表创建sql


以上图中,当计算出来的Hash值是一致的,所以后续以链表的方式存储。类似于HashMap

Hash结构对于范围查询性能不高,但是其适用于等值查询的场景。比如Memcached 及其他一些 NoSQL 引擎。

有序数组

有序数组在等值查询和范围查询场景中的性能就都非常优秀。

mysql hash分区表创建sql mysql哈希表_主键_02


比如以上数组中的值是有序的,那么要查询某一个值或者查询某一个区间的值,用二分法就可以快速得到,这个时间复杂度是 O(log(N))。

因此有序数组索引只适用于静态存储引擎,其不管是等值查找和范围查找都很优秀,可是有序数组不适合更新删除增加。

搜索树

二叉搜索树的特点是:父节点左子树所有结点的值小于父节点的值,右子树所有结点的值大于父节点的值。

mysql hash分区表创建sql mysql哈希表_mysql_03


二叉搜索树的时间复杂度近似等于二分法 但前提是二叉搜索树近似平衡 二叉搜索树有可能出现极坏的情况,就是变成链表。

二叉树也会畸变成单链表,所以才有了AVL树通过旋转的方式来维持树的平衡,但后来发现大量的旋转实在是性能不好,所以有了红黑树。都是二叉树,只是约束条件不一样。没有最好的方法只有更适合的方法,要维持某一方面的优势需要牺牲另一方面的优势,就看如何选择了。

当然为了维持 O(log(N)) 的查询复杂度,你就需要保持这棵树是平衡二叉树。为了做这个保证,更新的时间复杂度也是 O(log(N))。

N叉树

树可以有二叉,也可以有多叉。多叉树就是每个节点有多个儿子,儿子之间的大小保证从左到右递增。二叉树是搜索效率最高的,但是实际上大多数的数据库存储却并不使用二叉树。其原因是,索引不止存在内存中,还要写到磁盘上。这就是为什么数据库存储使用b+树 而不是二叉树,因为二叉树树高过高,每次查询都需要访问过多节点,即访问数据块过多,而从磁盘随机读取数据块过于耗时。

如果有一棵 100 万节点的平衡二叉树,树高 20。一次查询可能需要访问 20 个数据块。在机械硬盘时代,从磁盘随机读一个数据块需要 10 ms 左右的寻址时间。也就是说,对于一个 100 万行的表,如果使用二叉树来存储,单独访问一个行可能需要 20 个 10 ms 的时间,这个查询可真够慢的。

为了让一个查询尽量少地读磁盘,就必须让查询过程访问尽量少的数据块【MySql默认一个节点的长度为16K,一个整数(bigint)字段索引的长度为 8B,另外每个索引还跟着6B的指向其子树的指针;所以16K/14B ≈ 1170】。那么,我们就不应该使用二叉树,而是要使用“N 叉”树。这里,“N 叉”树中的“N”取决于数据块的大小。

以 InnoDB 的一个整数字段索引为例,这个 N 差不多是 1200。这棵树高是 4 的时候,就可以存 1200 的 3 次方个值,这已经 17 亿了。考虑到树根的数据块总是在内存中的,一个 10 亿行的表上一个整数字段的索引,查找一个值最多只需要访问 3 次磁盘。其实,树的第二层也有很大概率在内存中,那么访问磁盘的平均次数就更少了。

N 叉树由于在读写上的性能优点,以及适配磁盘的访问模式,已经被广泛应用在数据库引擎中了。当然跳表、LSM 树等数据结构也被用于引擎设计中。比如redis中使用的是跳表的数据结构。

所以学习各种数据库,包括nosql,先明白其数据模型是极其重要的,只有先关注它的数据模型,这样才能从理论上分析出这个数据库的适用场景。

InnoDB 的索引模型

在 InnoDB 中,表都是根据主键顺序以索引的形式存放的,这种存储方式的表称为索引组织表。InnoDB 使用了 B+ 树索引模型,所以数据都是存储在 B+ 树中的。

每一个索引在 InnoDB 里面对应一棵 B+ 树。

假设,我们有一个主键列为 ID 的表,表中有字段 k,并且在 k 上有索引。

mysql> create table T(
id int primary key, 
k int not null, 
name varchar(16),
index (k))engine=InnoDB;

表中 R1~R5 的 (ID,k) 值分别为 (100,1)、(200,2)、(300,3)、(500,5) 和 (600,6),两棵树的示例示意图如下。

mysql hash分区表创建sql mysql哈希表_数据结构_04


从图中不难看出,根据叶子节点的内容,索引类型分为主键索引和非主键索引。

主键索引的叶子存该行的数据,非主键索引的叶子结点保存的是主键索引的引用。

主键索引(聚簇索引)

主键索引的叶子节点存的是整行数据。在 InnoDB 里,主键索引也被称为聚簇索引(clustered index)。
主键索引: key:主键的值,value:整行数据

非主键索引(二级索引)

非主键索引的叶子节点内容是主键的值。在 InnoDB 里,非主键索引也被称为二级索引(secondary index)。
普通列索引: key:索引列的值, value:主键的值。

主键索引VS普通索引

  • 如果语句是 select * from T where ID=500,即主键查询方式,则只需要搜索 ID 这棵 B+ 树;
  • 如果语句是 select * from T where k=5,即普通索引查询方式,则需要先搜索 k 索引树,得到 ID 的值为 500,再到 ID 索引树搜索一次。这个过程称为回表。
    因此,基于非主键索引的查询需要多扫描一棵索引树。因此,我们在应用中应该尽量使用主键查询。

索引维护

B+ 树为了维护索引有序性,在插入新值的时候需要做必要的维护

mysql hash分区表创建sql mysql哈希表_mysql hash分区表创建sql_05


比如插入400,就需要逻辑上挪动后面的数据,空出位置。

如果R5 所在的数据页已经满了,根据 B+ 树的算法,这时候需要申请一个新的数据页,然后挪动部分数据过去。【页分裂】,此时性能必然会收到影响

除了性能外,页分裂操作还影响数据页的利用率。原本放在一个页的数据,现在分到两个页中,整体空间利用率降低大约 50%。【自增主键防止页分裂,逻辑删除并非物理删除防止页合并】

当相邻两个页由于删除了数据,利用率很低之后,会将数据页做合并。合并的过程,可以认为是分裂过程的逆过程。

主键场景[针对页分裂]

1、自增主键是指自增列上定义的主键,在建表语句中一般是这么定义的: NOT NULL PRIMARY KEY AUTO_INCREMENT。此时插入新记录的时候可以不指定 ID 的值,系统会获取当前 ID 最大值加 1 作为下一条记录的 ID 值。
自增主键的插入数据模式,正符合了我们前面提到的递增插入的场景。每次插入一条新记录,都是追加操作,都不涉及到挪动其他记录,也不会触发叶子节点的分裂。

2、用业务逻辑的字段做主键,则往往不容易保证有序插入,这样写数据成本相对较高。
而从存储空间的角度来看。假设你的表中确实有一个唯一字段,比如字符串类型的身份证号,那应该用身份证号做主键,由于每个非主键索引的叶子节点上都是主键的值。如果用身份证号做主键,那么每个二级索引的叶子节点占用约 20 个字节,而如果用整型做主键,则只要 4 个字节,如果是长整型(bigint)则是 8 个字节。

显然,主键长度越小,普通索引的叶子节点就越小,普通索引占用的空间也就越小。

所以,从性能和存储空间方面考量,自增主键往往是更合理的选择。

3、业务字段作主键

  • 只有一个索引;
  • 该索引必须是唯一索引。
  • KV场景
    由于没有其他索引,所以也就不用考虑其他索引的叶子节点大小的问题。这时候由于没有其他索引,所以也就不用考虑其他索引的叶子节点大小的问题。

重建索引

alter table T drop index k;
alter table T add index(k);

VS

alter table T drop primary key;
alter table T add primary key(id);

索引可能因为删除,或者页分裂等原因,导致数据页有空洞,重建索引的过程会创建一个新的索引,把数据按顺序插入,这样页面的利用率最高,也就是索引更紧凑、更省空间。

对于以上语句:
1、重建索引是合理的,重建完可以节省空间
2、重建主键的话,不论是删除主键还是创建主键,都会将整个表重建。所以我们可以通过alter table T engine=InnoDB 来处理,因为这个语句在innobDB里会触发mysql重建该表,并进行碎片处理。