复制

  在Redis中,用户可以通过执行SLAVEOF命令或者设置slaveof选项,让一个服务器去复制另一个服务器,我们称呼被复制的服务器为主服务器,而对主服务器进行复制的服务器则被称为从服务器。

旧版复制功能的实现

  Redis的复制功能分为同步和命令传播两个操作:

  • 同步操作作用于将从服务器的数据库状态更新至主服务器当前所处的数据库状态;
  • 命令传播操作则作用于在主服务器的数据库状态被修改,导致主从服务器的数据库状态出现不一致时,让主从服务器的数据库重新回到一致状态。

同步

  当客户端向从服务器发送SLAVEOF命令,要求从服务器复制主服务器时,从服务器首先需要执行同步操作,也就是将从服务器的数据库状态更新至主服务器的数据库状态,从服务器对主服务器的同步操作需要通过向主服务器发送SYNC命令来完成,具体的操作步骤为:

  • 从服务器向主服务器发送SYNC命令
  • 收到命令的主服务器执行BGSAVE命令,在后台生成RDB文件,同时使用一个缓冲区记录从现在开始的所有写命令
  • 当主服务器的RDB文件生成之后,主服务器会将RDB文件发送给从服务器,从服务器接收并载入这个RDB文件,将自己的数据库状态更新至主服务器的数据库状态
  • 主服务器将记录在缓冲区中的所有写命令发送给从服务器,从服务器执行命令将自己的数据库状态更新至主服务器数据库当前的状态

命令传播

  当同步操作完成之后,主从服务器的数据库状态将达到一致,但是当主服务器执行客户端发送的写命令时,主从服务器的数据库状态就可能不再保持一致。
  为了让主从服务器的状态再次回到一致状态,主服务器需要对从服务器执行命令传播操作:主服务器会将自己执行的写命令,也就是造成主从服务器不一致的写命令发送给从服务器执行,当从服务器执行了相同的写命令之后,主从服务器将再次回到一致状态。

旧版复制功能的缺陷

  在Redis中,从服务器对主服务器的复制可以分为以下两种情况:

  • 初次复制:从服务器以前没有复制过任何主服务器,或者从服务器当前要复制的主服务器和上一次复制的主服务器不同;
  • 断线后重复制:处于命令传播阶段的主从服务器因为网络的原因从而中断了复制,但从服务器通过自动重连重新连接上了主服务器,并继续复制主服务器。

  对于初次复制来说,旧版复制功能能够很好地完成任务,但对于断线后重复制来说,旧版复制功能虽然也能让主从服务器重新回到一致状态,但效率却非常低。对于断线后重复制来说,会重新执行同步操作,也就是从服务器向主服务器发送命令,然后主服务器生成RDB文件来实现两者之间的数据库状态的同步。

新版复制功能的实现

  因为SYNC命令是一个非常耗费资源的操作,所以在新版的复制功能实现中,通过PSYNC命令代替了SYNC命令来执行复制时的同步操作。PSYNC命令具有完整重同步和部分重同步两种模式:

  • 完整重同步用于处理初次复制情况:完整重同步的执行步骤和SYNC命令的执行步骤基本一样,他们都是通过让主服务器生成并发送RDB文件,以及向从服务器发送保存在缓存区里面的写命令来实现同步。
  • 部分重同步:用于处理断线后重复制的情况:当从服务器在断线后重新连接主服务器时,如果条件允许,主服务器可以将主从服务器连接断开期间执行的写命令发送给从服务器,从服务器只要接收并执行这些写命令,就可以将数据库更新至主服务器当前所处的状态。

部分重同步的实现

  部分重同步功能由一下三个部分构成:

  • 主服务器的复制偏移量和从服务器的复制偏移量;
  • 主服务器的复制积压缓冲区;
  • 服务器的运行ID

复制偏移量

  执行复制的双方——主从服务器都会维护一个复制偏移量:

  • 主服务器每次向从服务器传播N个字节的数据时,就将自己的复制偏移量的值加上N;
  • 从服务器每次收到主服务器传播来的N个字节数据时,就将自己的复制偏移量的值加上N

  通过对比主从服务器的复制偏移量,程序可以知道主从服务器是否处于一致状态:

  • 如果主从服务器处于一致状态,那么主从服务器两者的偏移量总是相同的;
  • 如果主从服务器两者的偏移量并不相同,那么说明主从服务器并未处于一致状态

复制积压缓冲区

  复制积压缓冲区是由主服务器维护的一个固定长度(fixed-size)先进先出(FIFO)队列,默认大小为1MB。

  • 固定长度队列和普通队列的区别:固定长度队列的入队元素的数量大于队列长度时,最先入队的元素会被弹出,而新元素将会被放入队列。

  当主服务器进行命令传播时,他不仅会将写命令发送给所有从服务器,还会将写命令入队到复制积压缓冲区里面

redis主从复制时间 redis主从复制如何实现_服务器


  因此,在复制积压缓冲区中会保存着最近传播的写命令,并且复制积压缓冲区会为队列中的每个字节记录着响应的复制偏移量

redis主从复制时间 redis主从复制如何实现_redis主从复制时间_02


  当从服务器重新连上主服务器时,从服务器会通过PSYNC命令将自己的复制偏移量offset发送给主服务器,主服务器通过这个复制偏移量来决定对从服务器执行何种同步操作:

  • 如果offset偏移量之后的数据(也就是offset+1开始的数据)任然存在于复制积压缓冲区里面,那么主服务器将对从服务器执行部分重同步操作
  • 相反,如果offset偏移量之后的数据已经不存在于复制积压缓冲区,那么主服务器将会对从服务器执行完整重同步操作。

服务器运行ID

  除了复制偏移量和复制积压缓冲区之外,实现部分重同步还需要用到服务器运行ID:

  • 每个服务器,不论是主服务器还是从服务器,都会有自己的运行ID;
  • 运行ID在服务器启动时自动生成,由40个随机的十六进制字符组成;

  当从服务器对主服务器进行初次复制时,主服务器会将自己的运行ID传送给从服务器,而从服务器则会将这个运行ID保存起来。当从服务器断线并重新连上一个主服务器时,从服务器会向当前连接的主服务器发送之前保存的运行ID:

  • 如果从服务器保存的运行ID和当前连接的主服务器的运行ID相同,那么说明从服务器断线之前复制的就是当前连接的这个主服务器,主服务器可以继续尝试执行部分重同步操作。
  • 相反地,如果从服务器保存的运行ID和当前连接的主服务器的运行ID并不相同,那么说明从服务器断线之前复制的主服务器并不是当前连接的这个主服务器,主服务器将对从服务器执行完整重同步操作。

PSYNC命令的实现

  PSYNC命令的调用方法有两种:

  • 如果从服务器以前没有复制过任何主服务器,或者之前执行过SLAVEOF no one命令,那么从服务器在开始一次新的复制时将会向主服务器发送PSYNC ? -1命令,主动请求主服务器进行完整重同步(因为这时不可能执行部分重同步)
  • 相反地,如果从服务器已经复制过某个主服务器,那么从服务器在开始一次新的复制时将向主服务器发送 PSYNC < runid > < offset > 命令:其中runid是上一次复制的主服务器的运行ID,而offset则是从服务器当前的复制偏移量,接收到这个命令的主服务器将会通过这两个参数来判断应该对从服务器执行哪种同步操作

redis主从复制时间 redis主从复制如何实现_redis_03


根据情况,接收到PSYNC命令的主服务器会向从服务器返回以下三种回复中的一种:

  • 如果主服务器返回 +FULLRESYNC < runid > < offset > 回复,表示主服务器将会与从服务器执行完整重同步操作:其中runid是这个主服务器的运行ID,从服务器会将这个ID保存起来,在下一次发送PSYNC命令时使用;而offset则是主服务器当前的复制偏移量,从服务器会将这个值作为自己的初始化偏移量;
  • 如果主服务器返回 +CONTINUE回复,那么表示主服务器将与从服务器执行部分重同步操作,从服务器只要等着主服务器将自己缺少的那部分数据发送过来就可以了;
  • 如果主服务器返回 —ERR回复,那么表示主服务器的版本低于Redis 2.8,它识别不了PSYNC命令,从服务器将向主服务器发送SYNC命令,并与主服务器执行完整重同步操作。

redis主从复制时间 redis主从复制如何实现_偏移量_04

复制的实现

步骤1:设置主服务器的地址和端口

SLAVEOF <master_ip> <master_port>

  从服务器首先要做的是将客户端给定的主服务器IP和端口保存到服务器状态的masterhost属性和masterport属性里面,SLAVEOF命令是一个异步命令,在完成masterhost属性masterport属性的设置工作之后,从服务器将向发送SLAVEOF命令的客户端返回OK,表示复制指令已经被接收,而实际的复制工作将在OK返回之后才真正的开始执行。
步骤2:建立套接字连接
  在SLAVEOF命令执行之后,从服务器将根据命令所设置的IP地址和端口,创建连向主服务器的套接字连接,如果从服务器创建的套接字能够成功连接到主服务器,那么从服务器将为这个套接字关联一个专门用于处理复制工作的文件事件处理器,这个处理器将负责执行后续的复制工作。而主服务器在接受从服务器的套接字连接之后,将为该套接字创建相应的客户端状态,并将从服务器看做是一个连接到主服务器的客户端来对待,这时从服务器将同时具有服务器和客户端两个身份。
步骤3:发送PING命令
  从服务器成为主服务器的客户端之后,做的第一件事就是向主服务器发送一个PING命令,这个命令具有两个作用:

  • 虽然主从服务器成功建立起了套接字连接,但双方并未使用该套接字进行过任何通信,通过发送PING命令可以检查套接字的读写状态是否正常;
  • 因为复制工作接下来的几个步骤都必须在主服务器可以正常处理命令请求的状态下才能进行,通过发送PING命令可以检查主服务器能否正常处理命令请求

  从服务器在发送PING命令之后将遇到以下三种情况的其中一种:

  • 如果主服务器向从服务器返回了一个命令回复,但从服务器不能在规定的时限内读取出命令回复的内容,那么表示主从服务器之间的网络连接状态不佳,不能继续执行复制工作的后续步骤。当出现这种情况时,从服务器断开并重新创建连向主服务器的套接字
  • 如果主服务器向从服务器返回一个错误,那么表示主服务器暂时没有办法处理从服务器的命令请求,不能继续执行复制工作的后续步骤。当出现这种情况时,从服务器断开并重新创建连向主服务器的套接字。
  • 如果从服务器读取到“PONG”回复,那么表示主从服务器之间的网络连接状态正常,并且主服务器可以正常处理从服务器发送的命令请求,在这种情况下,从服务器可以继续执行复制工作的下个步骤。

步骤4:身份验证
  从服务器收到主服务器返回的“PONG”回复之后,下一步要做的就是决定是否进行身份验证:

  • 如果从服务器设置了masterauth选项,则进行身份验证
  • 如果从服务器没有设置masterauth选项,那么不进行身份验证

  在需要进行身份验证的情况下,从服务器将向主服务器发送一条AUTH命令,命令的参数为从服务器masterauth选项的值。从服务器在身份验证阶段可能遇到的情况分为以下几种:

  • 如果主服务器没有设置requirepass选项,并且从服务器也没有设置masterauth选项,那么主服务器将继续执行从服务器发送的命令,复制工作继续进行。
  • 如果从服务器通过AUTH命令发送的密码和主服务器requirepass选项设置的密码相同,那么主服务器将继续执行从服务器发送的命令,复制工作可以继续进行。于此相反,如果主从服务器设置的密码不相同,那么主服务器将返回一个invalid password错误。
  • 如果主服务器设置了requirepass选项,但从服务器却没有设置masterauth选项,那么主服务器将会返回一个NOAUTH选项。另一方面,如果主服务器没有设置requirepass选项,但从服务器却设置了masterauth选项,那么主服务器将返回一个 no password is set 错误

  所有错误情况都会令从服务器终止目前的复制工作,并从创建套接字开始重新执行复制,知道身份验证通过,或者从服务器放弃执行复制为止。

redis主从复制时间 redis主从复制如何实现_服务器_05


步骤5:发送端口信息

  在身份验证步骤之后,从服务器将执行命令REPLCONF listening-port ,向主服务器发送从服务器的监听端口号。主服务器在接收到这个命令之后,会将端口号记录在从服务器所对应的客户端状态的 slave_listening_port属性中,这个属性目前唯一的作用就是在主服务器执行 INFO replication 命令时打印出从服务器的端口号。

步骤6 :同步
  在这一步,从服务器将向主服务器发送PSYNC命令,执行同步操作,并将自己的数据库更新至主服务器数据库当前所处的状态。在同步操作之前,只有从服务器是主服务器的客户端,但是在执行同步操作之后,主服务器也会成为从服务器的客户端:

  • 如果PSYNC命令执行的是完整重同步操作,那么主服务器需要成为从服务器的客户端,才能将保存在缓存区里面的写命令发送给从服务器执行。
  • 如果PSYNC命令执行的是部分重同步操作,那么主服务器需要成为从服务器的客户单,才能向从服务器发送保存在复制积压缓冲区里面的写命令。

redis主从复制时间 redis主从复制如何实现_偏移量_06


  正因为主服务器成为了从服务器的客户端,所以主服务器才可以通过发送写命令来改变从服务器的数据库状态,不仅同步操作需要用到这一点,这也是主服务器对从服务器执行命令传播操作的基础。

步骤7:命令传播

  当完成了同步之后,主从服务器就会进入到命令传播阶段,这时主服务器只要一直将自己执行的写命令发送给从服务器,而从服务器只要一直接收并执行主服务器发来的写命令,就可以保证主从服务器一直保持一致了。

心跳检测

  在命令传播阶段,从服务器默认会每秒一次的频率,向主服务器发送命令: REPLCONF ACK < replication_offset > , 其中 replication_offset 是指从服务器当前的复制偏移量。发送的作用主要有三个:

  • 检测主从服务器的网络连接状态
  • 辅助实现 min-slaves选项
  • 检测命令丢失

检测主从服务器的网络连接状态

  主从服务器可以通过发送和接收 REPLCONF ACK 命令来检查两者之间的网络连接是否正常:如果主服务器超过一秒钟没有收到从服务器发来的 REPLCONF ACK 命令,那么主服务器就知道主从服务器之间的连接出现问题了。

redis主从复制时间 redis主从复制如何实现_redis_07

辅助实现min-slaves配置选项

  Redis的 min-slaves-to-write 和 min-slaves-max-lag 两个选项可以防止主服务器在不安全的情况下执行写命令。

redis主从复制时间 redis主从复制如何实现_redis_08


  如图,当从服务器的数量少于3个,或者三个从服务器的延迟(lag)值都大于或等于10,主服务器拒绝执行写命令。

检测命令丢失

  如果因为网络故障,主服务器传播给从服务器的写命令在半路丢失,那么当从服务器向主服务器发送 REPLCONF ACK 命令时,主服务器将发觉从服务器当前的复制偏移量少于自己的复制偏移量,然后主服务器就会根据从服务器提交的复制偏移量,在复制积压缓冲区里找到从服务器缺少的数据,将这些数据重新发送给从服务器。