一、MySQL基本架构
从该图可以看出,MySQL 主要分为 Server 层和存储引擎层:
Server 层中包含连接器,查询缓存,分析器,优化器,执行器,涵盖 MySQL 的大多数核心服务功能,以及所有的内置函数(如日期、时间、数学和加密函数等),所有跨存储引擎的功能(存储过程、触发器、视图等)都在这一层实现。
存储引擎层主要负责最终数据的存储和提取,其架构模式是插件式的,支持 InnoDB、MyISAM、Memory等多个存储引擎。现在最常用的存储引擎是 InnoDB,它从 MySQL 5.5.5 版本开始成为了默认存储引擎。
二、SELECT 语句的执行过程
SELECT 语句的执行过程为:连接、查询缓存、词法分析,语法分析,语义分析,构造执行树,生成执行计划、执行器执行计划,下面开始梳理一次完整的查询流程:
连接器
连接器负责与客户端建立连接,获取权限,维持和管理连接
连接命令: >mysql -uroot -p123456 -h127.0.0.1 -P3306 -A
其中 mysql 是自带的一个客户端连接工具
连接的基本流程: 认证用户名+密码 -> 权限列表中查询拥有的权限
后续的权限判断,都依赖于此时读到的权限.因此在修改权限之后要想生效需要重新登录
连接建立后,无其他动作,则此连接将处于空闲状态.
查看命令: >show processlist
Command列若显示为Sleep,则表示空闲
若连接后无任何动作,连接器会自动断开
控制参数: wait_timeout, 默认8小时
针对非交互式连接
例: jdbc的方式
控制参数: interactive_timeout, 默认8小时
针对交互式连接(交互式连接:即在mysql_real_connect()函数中使用了CLIENT_INTERACTIVE选项)
例:终端的连接方式
长连接&短连接
建议使用长连接,减少资源建立时的开销,因为建立连接的过程比较复杂(开空间,验证密码,查权限...)
但是如果都使用长连接,则可能会导致MySQL占用内存增长过快而出现内存溢出
原因是MySQL在执行过程中临时使用的内存是管理在连接对象里面的.这些资源是要到连接断开时才会释放的.
长期积累会导致内存溢出,被系统强行kill掉,现象就是MySQL异常重启
解决:
定期断开长连接.使用一段时间/程序判断执行过一个占用内存极大的查询过后断开连接,之后在重连
MySQL5.7之后,可在每次执行一个较大的操作后,执行mysql_reset_connection来重新初始化连接资源.此过程不需要重连和重新做权限验证.会将连接恢复到刚刚创建完成时的状态.
查询缓存
执行过的查询会被 MySQL 以 key-value 的形式缓存起来. key 是查询语句, value 是查询结果
实际使用时不建议开启此功能.原因是 MySQL 在执行 update 时会将整个表的所有缓存都失效
定制化配置:
query_cache_type=DEMAND, 默认的 SQL 都不使用查询缓存.
显示指定使用缓存:
select SQL_CACHE * from tb_xxx where id=xxx;
MySQL8.0以上版本已将此功能废弃
分析器
解析SQL语句
词法分析: 解析输入的语句的每个单词,将 select 识别为查询语句,from 之后的字符串识别为表等
从 information schema 里面获得表的结构信息
语法分析: 基于词法分析的结果,语法分析器会判断是否满足 MySQL 语法规则
优化器
经过分析器之后, MySQL 即知道具体需要做什么操作,但是在具体操作之前要先经过优化器
优化:
表中若存在多个索引时,选择该使用哪个索引
多表关联时,决定各表的连接顺序
执行器
具体该执行的操作.
执行之前要先判断对表的操作是否具备权限.如果没有会返回权限错误的提示
如果存在查询缓存,会在查询缓存返回结果时来做权限验证,查询会在优化器之前调用 precheck 验证权限
具备权限之后,即打开表开始执行.打开表时会根据表的引擎定义来选择具体的引擎,并调用其接口来执行
执行过程(无索引,InnoDB):
调用 InnoDB 引擎取此表的第一行数据,判断 Where 条件是否满足,满足则将此行存在结果集中, 不满足则跳过
调用 InnoDB 引擎取下一行数据,重复上述逻辑,直到最后一行
执行器将所有满足条件的行作为结果集返回给客户端
问题:
对表的权限验证为何是在执行器阶段来执行?
SQL语句要操作的表不只是SQL字面上那些,例如触发器,得在执行器阶段(过程中)才能确定。优化器等其他阶段是无能为力的
存储引擎
负责数据的存储和提取
总结
1、客户端与服务端连接,连接器来负责建立连接
cmd: mysql -uroot -p123456 -h127.0.0.1 -P3306 -A
过程:
验证用户名+密码
从权限列表中查询所拥有的权限
2、判断是否命中查询缓存,检查当前是否开启了查询缓存(query_cache_type)
如果开启了查询缓存,则用当前 sql 作为 key 去缓存中查询,如果存在,则直接返回结果
3、分析SQL: 分析器工作,分析SQL,先做词法分析
识别出关键字如 select,insert, from 后的表, where 后的查询条件等
4、语法分析,基于词法分析的结果,来识别当前的SQL是否满足语法规定,比如关键字的使用先后顺序等
5、优化SQL执行,优化器工作,优化SQL的执行
如:选择要使用的索引
如:连表时选择的连接顺序
6、执行SQL,执行器工作,执行SQL语句
判断对此表是否具有查询权限
权限具备,则打开表开始执行
根据表的引擎定义,选择具体的引擎,去调引擎的接口执行查询
查询到的数据放入内存中,放入结果集里.
查询完毕后,将结果集返回给客户端
三、UPDATE 语句执行过程
UPDATE 语句执行过程总体上和 SELECT 语句是差不多的,分为:连接、查询缓存、词法分析,语法分析,语义分析,构造执行树,生成执行计划、执行器执行计划。但是有两个过程是完全不一样的:
第一个是查询缓存阶段,SELECT 语句是去缓存查有没有相同 SELECT 语句,并将其结果取出返回给客户端,而 UPDATE 语句是去清空该表的查询缓存。
第二个是执行器阶段,SELECT 语句是将磁盘上的数据取出,而 UPDATE 语句是先查到这些数据,然后进行更新并写入磁盘。
其他包括连接、词法分析、语法分析、生成执行计划等过程都是一样的。
更新流程涉及到两个重要的日志模块,binlog(归档日志) 和 redo log(重做日志)
binlog
binlog 记录了对 MySQL 数据库执行更改的所有操作,但是不包括 SELECT 和 SHOW 这类操作,因为这类操作对数据本身并没有修改。若操作本身并没有导致数据库发生变化,那么该操作也会写入二进制日志。MySQL 的主从赋值就是依靠 binlog。
redo log
redo log又称重做日志文件,用于记录事务操作的变化,记录的是数据修改之后的值,不管事务是否提交都会记录下来。在实例和介质失败(media failure)时,redo log文件就能派上用场,如数据库掉电,InnoDB存储引擎会使用 redo log 恢复到掉电前的时刻,以此来保证数据的完整性。
binlog 和 redo log 的区别
redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 层实现的,所有引擎都可以使用。
redo log 是物理日志,记录的是 “在某个数据页上做了什么修改”。binlog 是逻辑日志,记录的是这个语句的原始逻辑,比如“给 ID=2 这一行的 c 字段加 1 ”。
redo log 是循环写的,空间固定会用完。binlog 是可以追加写入的,“追加写”是指 binlog 文件写到一定大小后会切换到下一个,并不会覆盖以前的日志。
通过以上对 binlog 和 redo log 的描述,我们再来看看 UPDATE 语句的执行过程:
例如
mysql> update T set c=100 where ID=2;
流程
执行器先调用引擎接口取 ID=2 这一行
如果 ID 是主键,引擎直接用树搜索找到这一行。
如果 ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器
否则,需要先从磁盘读入内存,然后再返回。
执行器拿到引擎给的行数据
把这个值改为 100,得到新的一行数据,再调用引擎接口写入这行新数据。
引擎将这行新数据更新到内存中
同时将这个更新操作记录到 redo log 里面,此时 redo log 处于 prepare 状态。
然后告知执行器执行完成了,随时可以提交事务。
执行器生成这个操作的 binlog,并把 binlog 写入磁盘。
执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状态,更新完成。
redo 两阶段提交
根据上面的介绍,可以发现 redo log 的写入拆成了两个步骤:prepare 和 commit,这就是"两阶段提交"。binlog是 MySQL 内部实现二阶段提交的协调者,它为每个事务分配一个事务 ID。
原因
由于 redo log 和 binlog 是两个独立的逻辑,如果不用两阶段提交,要么就是先写完 redo log 再写 binlog,或者采用反过来的顺序,会导致数据的不一致出现。
简单说,redo log 和 binlog 都可以用于表示事务的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致。
一阶段
开启事务,redo log 和 undo log 已经记录了对应的日志,此时事务状态为 prepare
二阶段
binlog 完成 write 和 fsync后,成功,事务一定提交了,否则事务回滚 发送 commit,清除 undo 信息,刷 redo,设置事务状态为 completed。
举例
账本记上 卖一瓶可乐(redo log为 prepare状态),然后收钱放入钱箱(bin log记录)然后回过头在账本上打个勾(redo log置为commit)表示一笔交易结束。
如果收钱时交易被打断,回过头来整理此次交易,发现只有记账没有收钱,则交易失败,删掉账本上的记录(回滚)。
如果收了钱后被终止,然后回过头发现账本有记录(prepare)而且钱箱有本次收入(bin log),则继续完善账本(commit),本次交易有效。