文章目录
- 1. binlog
- 1）基本介绍
- 2）binlog日志格式
- 3）binlog使用场景
- 4）binlog刷盘时机
- 2. redo log
- 1）为什么需要redo log
- 2）redo log基本概念
- 3）落盘时机
- 4）redo log记录形式
- 3. redo log和binlog的区别
- 4. undo log
- 5. 错误日志
- 6. 通用查询日志
- 7. 慢查询日志
MySQL有几个不同的日志文件，可以帮助你找出mysqld内部发生的事情：
日志文件 | 记入文件中的信息类型 |
错误日志 | 记录启动、运行或停止mysqld时出现的问题。 |
查询日志 | 记录建立的客户端连接和执行的语句。 |
更新日志 | 记录更改数据的语句。不赞成使用该日志。 |
二进制日志 | 记录所有更改数据的语句。还用于复制。 |
慢日志 | 记录所有执行时间超过long_query_time秒的所有查询或不使用索引的查询。 |
1. binlog
1）基本介绍
binlog记录所有数据库表结构变更（例如 create、alter table）以及表数据修改（insert、update、delete），以二进制的形式保存在磁盘中，还包括每条语句执行的时间和消耗的资源。binlog是 mysql的逻辑日志，并且由 Server 层进行记录，使用任何存储引擎的 mysql 数据库都会记录binlog日志。binlog是通过追加的方式进行写入的，可以通过max_binlog_size 参数设置每个binlog文件的大小，当文件大小达到给定值之后，会生成新的文件来保存日志。- 关于binlog文件
- 文件名：如果未给出file_name值， 默认名为-bin后面所跟的主机名。如果给出了文件名，但没有包含路径，则文件被写入数据目录。（如果你在日志名中提供了扩展名(例如，–log-bin=file_name.extension)，则扩展名被悄悄除掉并忽略。）
- 数字扩展名：mysqld在每个二进制日志名后面添加一个数字扩展名。每次你启动服务器或刷新日志时该数字则增加。如果当前的日志大小达到max_binlog_size，还会自动创建新的二进制日志。如果你正使用大的事务，二进制日志还会超过max_binlog_size：事务全写入一个二进制日志中，绝对不要写入不同的二进制日志中。
- 日志索引文件：为了能够知道还使用了哪个不同的二进制日志文件，mysqld还创建一个二进制日志索引文件，包含所有使用的二进制日志文件的文件名。默认情况下与二进制日志文件的文件名相同，扩展名为’.index’。你可以用–log-bin-index[=file_name]选项更改二进制日志索引文件的文件名。当mysqld在运行时，不应手动编辑该文件；如果这样做将会使mysqld变得混乱。
也可以用RESET MASTER语句删除所有二进制日志文件，或用PURGE MASTER LOGS只删除部分二进制文件
2）binlog日志格式
binlog 日志有三种格式，分别为 STATMENT 、 ROW 和 MIXED。
在 MySQL 5.7.7 之前，默认的格式是 STATEMENT ， MySQL 5.7.7 之后，默认值是 ROW。日志格式通过 binlog-format 指定。
STATMENT：基于SQL 语句的复制，只会记录可能引起数据变更的 sql 语句 。( statement-based replication, SBR )
- 优点：不需要记录每一行的变化，减少了 binlog 日志量，节约了 IO , 从而提高了性能；
- 缺点：在某些情况下会导致主从数据不一致，比如执行sysdate() 、 slepp() 等 。
ROW：基于行的复制，在该模式下，binlog 会记录每次操作的源数据与修改后的目标数据 。(row-based replication, RBR )
- 优点：可以绝对精准的还原，从而保证了数据的安全与可靠，并且复制和数据恢复过程可以是并发进行的；
- 缺点：会产生大量的日志使得日志文件很大，尤其是
alter table的时候会让日志暴涨。
MIXED：基于STATMENT和ROW两种模式的混合复制，对于绝大部分操作，都使用 STATEMENT 来进行 binlog 的记录，只有以下操作使用 ROW 来实现：表的存储引擎为 NDB，使用了uuid() 等不确定函数，使用了 insert delay 语句，使用了临时表。。(mixed-based replication, MBR )
3）binlog使用场景
- 主从复制 ：在 Master 端开启
binlog，然后将binlog发送到各个 Slave 端， Slave端重放binlog` 从而达到主从数据一致。 - 数据恢复 ：二进制日志的主要目的是在恢复使能够最大可能地更新数据库，因为二进制日志包含备份后进行的所有更新。。
4）binlog刷盘时机
- 对于 InnoDB存储引擎而言，只有在事务提交时才会记录
binlog，此时记录还在内存中，那么binlog是什么时候刷到磁盘中的呢？ - mysql 通过
sync_binlog参数控制binlog的刷盘时机，取值范围是0-N：
- 0：不去强制要求，由系统自行判断何时写入磁盘；
- 1：每次
commit的时候都要将 binlog 写入磁盘； - N：每N个事务，才会将
binlog写入磁盘。
- 从上面可以看出，
sync_binlog最安全的是设置是1，这也是MySQL 5.7.7之后版本的默认值。但是设置一个大一些的值可以提升数据库性能，因此实际情况下也可以将值适当调大，牺牲一定的一致性来获取更好的性能。 - 开启binlog；执行binlog
- 当用**–log-bin[=file_name]**选项启动时，mysqld写入包含所有更新数据的SQL命令的日志文件。
执行：mysqlbinlog hostname-bin.[0-9]* | mysqlPS : 逻辑日志：可以简单理解为记录的就是sql语句 。
物理日志：mysql 数据最终是保存在数据页中的，物理日志记录的就是数据页变更 。
2. redo log
1）为什么需要redo log
我们都知道，事务的四大特性里面有一个是 持久性 ，具体来说就是只要事务提交成功，那么对数据库做的修改就被永久保存下来了，不可能因为任何原因再回到原来的状态 。
那么 mysql是如何保证一致性的呢？
最简单的做法是在每次事务提交的时候，将该事务涉及修改的数据页全部刷新到磁盘中。但是这么做会有严重的性能问题，主要体现在两个方面：
- 因为
Innodb是以页为单位进行磁盘交互的，而一个事务很可能只修改一个数据页里面的几个字节，这个时候将完整的数据页刷到磁盘的话，太浪费资源了！ - 一个事务可能涉及修改多个数据页，并且这些数据页在物理上并不连续，使用随机IO写入性能太差！
因此 mysql 设计了 redo log ， 具体来说就是只记录事务对数据页做了哪些修改，这样就能完美地解决性能问题了(相对而言文件更小并且是顺序IO)。
2）redo log基本概念
redo log 包括两部分：一个是内存中的日志缓冲( redo log buffer)，另一个是磁盘上的日志文件( redo logfile)。
mysql 每执行一条 DML 语句，先将记录写入 redo log buffer，后续某个时间点再一次性将多个操作记录写到 redo log file。这种 先写日志，再写磁盘 的技术就是 MySQL里经常说到的 WAL(Write-Ahead Logging) 技术。
在计算机操作系统中，用户空间( user space)下的缓冲区数据一般情况下是无法直接写入磁盘的，中间必须经过操作系统内核空间( kernel space )缓冲区( OS Buffer )。因此， redo log buffer写入 redo logfile 实际上是先写入OS Buffer，然后再通过系统调用 fsync()将其刷到 redo log file中。
3）落盘时机
mysql 支持三种将 redo log buffer写入 redo log file的时机，可以通过 innodb_flush_log_at_trx_commit 参数配置
参数值 | 含义 |
0（延迟写） | 事务提交时不会将redo log buffer中日志下入到OS buffer，而是每秒一次写入OS buffer并调用fsync()写入到redo log file中。也就是说设置为0时，每秒刷新写入磁盘中。当系统崩溃时，会丢失1秒钟的数据。 |
1（实时写， 实时刷） | 事务每次提交都会将redo log buffer中的日志写入OS buffer并调用fsync()刷到redo log file中。这种方式即使使系统崩溃也不会丢失任何数据，但是因为每次提交都写入磁盘，IO性能差。 |
2（实时写，延迟刷） | 每次提交都仅写入到OS buffer，然后使每秒调用fsync()将OS buffer中的日志写入到redo log file。 |
图源：https://mp.weixin.qq.com/s/P2GId7JXM_n2EnUY74RsPg
4）redo log记录形式
-
redo log实现上采用了大小固定，循环写入的方式，当写到结尾时，会回到开头循环写日志。
- innodb中，既有
redo log需要刷盘，还有数据页也需要刷盘，redo log存在的意义主要就是降低对数据页刷盘的要求 。 write pos表示 redo log当前记录的 LSN(逻辑序列号)位置，check point表示 数据页更改记录 刷盘后对应 redo log所处的 LSN(逻辑序列号)位置。
-
write pos到check point之间的部分是 redo log空着的部分，用于记录新的记录； -
check point到write pos之间是redo log待落盘的数据页更改记录。 - 当
write pos追上check point时，会先推动check point向前移动，空出位置再记录新的日志。
- 启动
innodb的时候，不管上次是正常关闭还是异常关闭，总是会进行恢复操作。因为redo log记录的是数据页的物理变化，因此恢复的时候速度比逻辑日志(如binlog)要快很多。 - 重启
innodb时，首先会检查磁盘中数据页的LSN，如果数据页的LSN 小于日志中的 LSN ，则会从 checkpoint开始恢复。 - 还有一种情况，在宕机前正处于
checkpoint的刷盘过程，且数据页的刷盘进度超过了日志页的刷盘进度，此时会出现数据页中记录的LSN大于日志中的LSN，这时超出日志进度的部分将不会重做，因为这本身就表示已经做过的事情，无需再重做。
3. redo log和binlog的区别
binlog | redo log | |
文件大小 | 可以通过max_binlog_size设置每个binlog文件的大小 | 大小固定 |
实现方式 | 是Server层实现的，所有引擎都可以使用binlig日志 | 是InnoDB引擎层实现的，并不是所有引擎都有 |
记录方式 | binlog通过追加的方式记录，当文件大小大于给定值后，后续的日志会记录到新的文件上 | 采用循环写的方式记录，当写到结尾时，会回到开头循环写日志 |
使用场景 | 适用于主从复制、数据恢复 | 适用于崩溃恢复 |
由 binlog 和 redo log 的区别可知：binlog 日志只用于归档，只依靠 binlog 是没有 crash-safe 能力的。
但只有 redo log 也不行，因为 redo log 是 InnoDB特有的，且日志上的记录落盘后会被覆盖掉。因此需要 binlog和 redo log二者同时记录，才能保证当数据库发生宕机重启时，数据不会丢失。
4. undo log
- 数据库事务四大特性中有一个是 原子性 ，具体来说就是 原子性是指对数据库的一系列操作，要么全部成功，要么全部失败，不可能出现部分成功的情况。
- 实际上， 原子性 底层就是通过
undo log实现的。undo log主要记录了数据的逻辑变化，比如一条 INSERT语句，对应一条DELETE的 undo log，对于每个 UPDATE语句，对应一条相反的 UPDATE 的 undo log，这样在发生错误时，就能回滚到事务之前的数据状态。 - 同时，
undo log也是MVCC(多版本并发控制)实现的关键。
5. 错误日志
错误日志文件包含了当mysqld启动和停止时，以及服务器在运行过程中发生任何严重错误时的相关信息。
如果mysqld莫名其妙地死掉并且mysqld_safe需要重新启动它，mysqld_safe在错误日志中写入一条restarted mysqld消息。如果mysqld注意到需要自动检查或着修复一个表，则错误日志中写入一条消息。
6. 通用查询日志
如果你想要知道mysqld内部发生了什么，你应该用–log[=file_name]或-l [file_name]选项启动它。如果没有给定file_name的值， 默认名是host_name.log**。所有连接和语句被记录到日志文件。当你怀疑在客户端发生了错误并想确切地知道该客户端发送给mysqld的语句时，该日志可能非常有用。**
mysqld按照它接收的顺序记录语句到查询日志。这可能与执行的顺序不同。这与更新日志和二进制日志不同，通用查询日志在查询执行后，但是任何一个锁释放之前记录日志。(查询日志还包含所有语句，而二进制日志不包含只查询数据的语句）。
7. 慢查询日志
语句执行完并且所有锁释放后记入慢查询日志。记录顺序可以与执行顺序不相同。
慢查询日志可以用来找到执行时间长的查询，可以用于优化。但是，检查又长又慢的查询日志会很困难。要想容易些，你可以使用mysqldumpslow命令获得日志中显示的查询摘要来处理慢查询日志。
在MySQL 5.1的慢查询日志中，不使用索引的慢查询同使用索引的查询一样记录。要想防止不使用索引的慢查询记入慢查询日志，使用–log-short-format选项。
用查询缓存处理的查询不加到慢查询日志中，因为表有零行或一行而不能从索引中受益的查询也不写入慢查询日志。
