文章目录

  • 01 | 基础架构:一条SQL查询语句是如何执行的?
  • 02 | 日志系统:一条SQL更新语句是如何执行的?
  • 参考


01 | 基础架构:一条SQL查询语句是如何执行的?

SQL 语句在 MySQL的各个功能模块中的执行过程

SqlAlchemy 根据id更新记录 查询并更新sql_SqlAlchemy 根据id更新记录


Server 层包括连接器、查询缓存、分析器、优化器、执行器等,涵盖 MySQL 的大多数核心服务功能,以及所有的内置函数(如日期、时间、数学和加密函数等),所有跨存储引擎的功能都在这一层实现,比如存储过程、触发器、视图等。

而存储引擎层负责数据的存储和提取。其架构模式是插件式的,支持 InnoDB、
MyISAM、Memory 等多个存储引擎。现在最常用的存储引擎是 InnoDB,它从 MySQL5.5.5 版本开始成为了默认存储引擎。

SqlAlchemy 根据id更新记录 查询并更新sql_数据库_02

其中的Command 列显示为“Sleep”的这一行,就表示现在系统里面有一个空闲连接

客户端如果太长时间没动静,连接器就会自动将它断开。这个时间是由参数 wait_timeout 控制的,默认值是 8 小时

SqlAlchemy 根据id更新记录 查询并更新sql_MySQL_03


相关命令:

-- 是客户端 非交互式的连接时间,单位秒
SHOW VARIABLES LIKE 'wait_timeout%';
-- 是客户端 交互式的连接时间,单位秒
SHOW VARIABLES LIKE 'interactive_timeout%';

执行器流程

SqlAlchemy 根据id更新记录 查询并更新sql_sql_04


SqlAlchemy 根据id更新记录 查询并更新sql_MySQL_05


mysql慢日志

-- 查看是否开启慢查询日志功能
SHOW VARIABLES LIKE 'slow_query%';

# 开启 MySQL 慢查询日志功能
SET GLOBAL slow_query_log=ON;
# 设置慢sql的时间,执行时间超过 1 秒的 SQL 语句将被记录到日志中
SET GLOBAL long_query_time=1;

02 | 日志系统:一条SQL更新语句是如何执行的?

在一个表上有更新的时候,跟这个表有关的查询缓存会失效,所以这条语句就会把表 T 上所有缓存结果都清空。这也就是我们一般不建议使用查询缓存的原因

与查询流程不一样的是,更新流程还涉及两个重要的日志模块:redo log(重做日志)和 binlog(归档日志)

MySQL 里经常说到的 WAL 技术,WAL 的全称是 Write-Ahead Logging,它的关键点就是先写日志,再写磁盘,也就是先写粉板,等不忙的时候再写账本

当有一条记录需要更新的时候,InnoDB 引擎就会先把记录写到 redo log(粉板)里面,并更新内存,这个时候更新就算完成了。同时,InnoDB 引擎会在适当的时候,将这个操作记录更新到磁盘里面,而这个更新往往是在系统比较空闲的时候做,这就像打烊以后掌柜做的事.

InnoDB 的 redo log 是固定大小的,比如可以配置为一组 4 个文件,每个文件的大小是 1GB,那么这块“粉板”总共就可以记录 4GB 的操作。从头开始写,写到末尾就又回到开头循环写

SqlAlchemy 根据id更新记录 查询并更新sql_sql_06


write pos 是当前记录的位置,一边写一边后移,写到第 3 号文件末尾后就回到 0 号文件开头。checkpoint 是当前要擦除的位置,也是往后推移并且循环的,擦除记录前要把记录更新到数据文件.

write pos 和 checkpoint 之间的是“粉板”上还空着的部分,可以用来记录新的操作。如果 write pos 追上 checkpoint,表示“粉板”满了,这时候不能再执行新的更新,得停下来先擦掉一些记录,把 checkpoint 推进一下.

有了 redo log,InnoDB 就可以保证即使数据库发生异常重启,之前提交的记录都不会丢
失,这个能力称为crash-safe.

MySQL 整体来看,其实就有两块:一块是 Server 层,它主要做的是MySQL 功能层面的事情;还有一块是引擎层,负责存储相关的具体事宜.

redo log 是 InnoDB 引擎特有的日志,而 Server 层也有自己的日志,称为binlog(归档日志)

这两种日志有以下三点不同

  1. redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 层实现的,所有引擎
    都可以使用。
  2. redo log 是物理日志,记录的是“在某个数据页上做了什么修改”;binlog 是逻辑日
    志,记录的是这个语句的原始逻辑,比如“给 ID=2 这一行的 c 字段加 1 ”。
  3. redo log 是循环写的,空间固定会用完;binlog 是可以追加写入的。“追加写”是指
    binlog 文件写到一定大小后会切换到下一个,并不会覆盖以前的日志

sql更新流程

  1. 执行器先找引擎取 ID=2 这一行。ID 是主键,引擎直接用树搜索找到这一行。如果
    ID=2 这一行所在的数据页本来就在内存中,就直接返回给执行器;否则,需要先从磁
    盘读入内存,然后再返回。
  2. 执行器拿到引擎给的行数据,把这个值加上 1,比如原来是 N,现在就是 N+1,得到
    新的一行数据,再调用引擎接口写入这行新数据。
  3. 引擎将这行新数据更新到内存中,同时将这个更新操作记录到 redo log 里面,此时
    redo log 处于 prepare 状态。然后告知执行器执行完成了,随时可以提交事务。
  4. 执行器生成这个操作的 binlog,并把 binlog 写入磁盘。
  5. 执行器调用引擎的提交事务接口,引擎把刚刚写入的 redo log 改成提交(commit)状
    态,更新完成。

update 语句的执行流程图,图中浅色框表示是在 InnoDB 内部执行的,深色框表示是在执行器中执行的

SqlAlchemy 根据id更新记录 查询并更新sql_mysql_07

redo log 的写入拆成了两个步骤:prepare 和 commit,这就是"两阶段提交"

binlog 会记录所有的逻辑操作,并且是采用“追加写”的形式。如果你的 DBA 承诺说半个月内可以恢复,那么备份系统中一定会保存最近半个月的所有binlog,同时系统会定期做整库备份。这里的“定期”取决于系统的重要性,可以是一天一备,也可以是一周一备

简单说,redo log 和 binlog 都可以用于表示事务的提交状态,而两阶段提交就是让这两个状态保持逻辑上的一致

sync_binlog 这个参数设置成 1 的时候,表示每次事务的 binlog 都持久化到磁盘。这个参数我也建议你设置成 1,这样可以保证 MySQL 异常重启之后 binlog 不丢失.

sync_binlog 这个参数设置成 1 的时候,表示每次事务的 binlog 都持久化到磁盘。这个参数我也建议你设置成 1,这样可以保证 MySQL 异常重启之后 binlog 不丢失.

总结

  1. Redo log不是记录数据页“更新之后的状态”,而是记录这个页 “做了什么改动”
  2. Binlog有两种模式,statement 格式的话是记sql语句, row格式会记录行的内容,记两条,更
    新前和更新后都有