AOF(Append Of File)


什么是AOF?

      以日志的形式来记录每个写操作(增量保存),将Redis执行过的所有写指令记录下来(读操作不记录), 只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作。


AOF持久化流程

1. 客户端的请求写命令会被 append 追加到 AOF 缓冲区内;

2. AOF 缓冲区根据 AOF 持久化策略 [always,everysec,no] 将操作 sync 同步到磁盘的 AOF 文件中;

3. AOF 文件大小超过重写策略或手动重写时,会对 AOF 文件 rewrite 重写,压缩 AOF 文件容量;

4. Redis 服务重启时,会重新 load 加载 AOF 文件中的写操作达到数据恢复的目的。


开启AOF

AOF默认是不开启的状态,需要去配置文件中修改成 yes

app.config 配置redis 连接串 redis appendonly no_子进程


AOF默认的存储文件名称

AOF默认的存储路径与RDB一致,在启动目录下。

app.config 配置redis 连接串 redis appendonly no_数据_02


当RDB与AOF同时开启的状态,系统会默认读取AOF文件

AOF 启动、异常修复、正常恢复

* 启动

AOF 的备份机制和性能虽然和 RDB 不同,但是备份和恢复的操作同 RDB 一样,都是拷贝备份文件,需要恢复时再拷贝到 Redis 工作目录下,启动系统即加载。


* 正常恢复

* 修改默认的 appendonly no,改为 yes。 * 将有数据的 aof 文件复制一份保存到对应目录 (查看目录:config get dir)。 * 恢复:重启 redis 然后重新加载。


* 异常修复

* 修改默认的 appendonly no,改为 yes。 * 将有数据的 aof 文件复制一份保存到对应目录 (查看目录:config get dir)。如遇到 AOF 文件损坏,通过 /usr/local/bin/ redis-check-aof–fix appendonly.aof 进行恢复。 * 恢复:重启 redis 然后重新加载。 * 备份被写坏的 AOF 文件。


AOF 同步频率设置

* appendfsync always:始终同步,每次 Redis 的写入都会立刻记入日志;性能较差但数据完整性比较好。

* appendfsync everysec:每秒同步,每秒记入日志一次,如果宕机,本秒的数据可能丢失。

* appendfsync no:redis 不主动进行同步,把同步时机交给操作系统。


Rewrite 压缩

Rewrite 压缩是什么

AOF 采用文件追加方式,文件会越来越大为避免出现此种情况,新增了重写机制,当 AOF 文件的大小超过所设定的阈值时,Redis 就会启动 AOF 文件的内容压缩,只保留可以恢复数据的最小指令集,可以使用命令 bgrewriteaof。


重写原理,如何实现重写

AOF 文件持续增长而过大时,会 fork 出一条新进程来将文件重写 (也是先写临时文件最后再 rename),redis4.0 版本后的重写,是指把 rdb 的快照,以二进制的形式附在新的 aof 头部,作为已有的历史数据,替换掉原来的流水账操作。

no-appendfsync-on-rewrite:

如果 no-appendfsync-on-rewrite=yes ,不写入 aof 文件只写入缓存,用户请求不会阻塞,但是在这段时间如果宕机会丢失这段时间的缓存数据。(降低数据安全性,提高性能)

如果 no-appendfsync-on-rewrite=no,还是会把数据往磁盘里刷,但是遇到重写操作,可能会发生阻塞。(数据安全,但是性能降低)


触发机制,何时重写

       Redis 会记录上次重写时的 AOF 大小,默认配置是当 AOF 文件大小是上次 rewrite 后大小的一倍且文件大于 64M 时触发。       重写虽然可以节约大量磁盘空间,减少恢复时间。但是每次重写还是有一定的负担的,因此设定 Redis 要满足一定条件才会进行重写。

auto-aof-rewrite-percentage:设置重写的基准值,文件达到 100% 时开始重写(文件是原来重写后文件的 2 倍时触发)。

auto-aof-rewrite-min-size:设置重写的基准值,最小文件 64MB。达到这个值开始重写。

系统载入时或者上次重写完毕时,Redis 会记录此时 AOF 大小,设为 base_size,

如果 Redis 的 AOF 当前大小 >= base_size +base_size*100% (默认) 且当前大小 >=64mb (默认) 的情况下,Redis 会对 AOF 进行重写。

例如:文件达到 70MB 开始重写,降到 50MB,下次什么时候开始重写?100MB


重写流程

1. bgrewriteaof 触发重写,判断是否当前有 bgsave 或 bgrewriteaof 在运行,如果有,则等待该命令结束后再继续执行;

2. 主进程 fork 出子进程执行后台重写操作,保证主进程不会阻塞;

3. 该操作会将执行fork那一刻Redis的数据快照全部重写到一个名为temp-rewriteaof-bg-pid.aof的临时文件中,由于重写操作为子进程后台执行,主进程在AOF重写期间依然可以正常响应用户命令。

4. 为了让子进程最终也能获取重写期间主进程产生的增量变化,主进程除了会将执行的写命令写入aof_buf缓冲区,还会写一份到aof_rewrite_buf重写缓冲区中进行缓存,保证原 AOF 文件完整以及新 AOF 文件生成期间的新的数据修改动作不会丢失;

5. 在子进程重写的后期阶段,主进程会将aof_rewrite_buf中累积的数据使用pipe发送给子进程,子进程会将这些数据追加到临时AOF文件中

6.当主进程承接了较大的写入流量时,aof_rewrite_buf中可能会堆积非常多的数据,导致在重写期间子进程无法将aof_rewrite_buf中的数据全部消费完。此时,aof_rewrite_buf剩余的数据将在重写结束时由主进程进行处理。

当子进程完成重写操作并退出后,主进程会将重写期间aof_rewrite_buf中未消费完的数据追加到临时AOF文件中。

,当一切准备就绪时,Redis会使用rename 操作将临时AOF文件原子的重命名,此时原来的AOF文件会被覆盖。

app.config 配置redis 连接串 redis appendonly no_Redis_03


AOF的优势

备份机制更稳健,丢失数据概率更低。

可读的日志文本,通过操作 AOF 稳健,可以处理误操作。

AOF的劣势

比起 RDB 占用更多的磁盘空间。(记录的不只是数据,还有操作)

恢复备份速度要慢。(记录的内容多,恢复的速度慢)

每次读写都同步的话,有一定的性能压力。

存在个别 Bug,造成恢复不能。