目录

一.了解主从复制/哨兵/集群

主从复制:

哨兵:

集群:

二.redis主从复制

1.详解redis主从复制

2.主从复制的作用

3.主从复制流程

4.部署Redis 主从复制

 安装Redis

 修改Redis 配置文件

 验证主从效果

三.哨兵模式

1.哨兵的功能

2.哨兵模式的作用

3.哨兵结构的组成

4..哨兵模式的原理

5.部署哨兵模式

修改Redis哨兵模式的配置文件(所有节点操作)

 启动哨兵模式

 查看哨兵信息

 故障模拟

四.集群模式

1.集群模式概念

2.集群的作用

3.Redis集群的数据分片

4.Redis集群的主从复制模型

5.Redis集群部署

开启群集功能(每台服务器都开)

 测试群集


一.了解主从复制/哨兵/集群

主从复制:

主从复制是高可用Redis的基础,哨兵和集群都是在主从复制基础上实现高可用的。主从复制主要实现了数据的多机备份,以及对于读操作的负载均衡和简单的故障恢复。缺陷:故障恢复无法自动化;写操作无法负载均衡;存储能力受到单机的限制

哨兵:

在主从复制的基础上,哨兵实现了自动化的故障恢复。缺陷:写操作无法负载均衡;存储能力受到单机的限制;哨兵无法对从节点进行自动故障转移,在读写分离场景下,从节点故障会导致读服务不可用,需要对从节点做额外的监控、切换操作

集群:

通过集群,Redis解决了写操作无法负载均衡,以及存储能力受到单机限制的问题,实现了较为完善的高可用方案

二.redis主从复制

1.详解redis主从复制

主从复制,是指将一台 Redis 服务器的数据,复制到其他的 Redis 服务器。前者称为主节点(Master),后者称为从节点(Slave);数据的复制是单向的,只能由主节点到从节点

默认情况下,每台 Redis 服务器都是主节点;且一个主节点可以有多个从节点 (或没有从节点),但一个从节点只能有一个主节点

2.主从复制的作用

① 数据冗余主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式
② 故障恢复当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余
③ 负载均衡在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务 (即写 Redis 数据时应用连接主节点,读 Redis 数据时应用连接从节点),分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量
④ 高可用基石除了上述作用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础

3.主从复制流程

① 若启动一个Slave机器进程,则它会向Master机器发送一个“sync command" 命令,请求同步连接
② 无论是第一次连接还是重新连接,Master机器 都会启动一个后台进程,将数据快照保存到数据文件中(执行rdb操作) ,同时 Master 还会记录修改数据的所有命令并缓存在数据文件中
③ 后台进程完成缓存操作之后,Master 机器就会向 Slave 机器发送数据文件,Slave 端机器将数据文件保存到硬盘上,然后将其加载到内存中,接着 Master 机器就会将修改数据的所有操作一并发送给 Slave 端机器。若 Slave 出现故障导致宕机,则恢复正常后会自动重新连接
④ Master机器收到 Slave 端机器的连接后,将其完整的数据文件发送给 Slave 端机器,如果 Mater 同时收到多个 Slave 发来的同步请求,则 Master 会在后台启动一个进程以保存数据文件,然后将其发送给所有的 Slave 端机器,确保所有的 Slave 端机器都正常

4.部署Redis 主从复制

环境准备

master节点

192.168.111.175

Redis

slave1节点

192.168.111.176

Redis

slave2节点

192.168.111.177

Redis

关闭防火墙

redis主从新增哨兵 redis主从哨兵集群部署_数据库

 安装Redis

先安装编译工具

redis主从新增哨兵 redis主从哨兵集群部署_redis_02

 将redis-5.0.7.tar.gz的压缩包上传到/opt中

tar zxvf redis-5.0.7.tar.gz -C /opt/
cd /opt/redis-5.0.7/
make
make PREFIX=/usr/local/redis install
cd /opt/redis-5.0.7/utils
./install_server.sh
......
Please select the redis executable path [/usr/loca1/bin/redis-server]  /usr/local/redis/bin/redis-server

redis主从新增哨兵 redis主从哨兵集群部署_数据库_03

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_04

 然后编译安装

redis主从新增哨兵 redis主从哨兵集群部署_Redis_05

redis主从新增哨兵 redis主从哨兵集群部署_linux_06

 

redis主从新增哨兵 redis主从哨兵集群部署_linux_07

 把redis的可执行程序文件放入路径环境变量的目录中便于系统识别

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_08

 修改Redis 配置文件

Master节点操作

vim /etc/redis/6379.conf
bind 0.0.0.0          #70行,注释掉bind项,或修改为0.0.0.0,默认监听所有网卡
daemonize yes         #137行,开启守护进程
logfile /var/log/redis_6379.log    #172行,指定日志文件目录
dir /var/lib/redis/6379            #264行,指定工作目录
appendonly yes       #700行,开启AOF持久化功能

/etc/init.d/redis_6379 restart

redis主从新增哨兵 redis主从哨兵集群部署_redis_09

 

redis主从新增哨兵 redis主从哨兵集群部署_Redis_10

redis主从新增哨兵 redis主从哨兵集群部署_linux_11

 

redis主从新增哨兵 redis主从哨兵集群部署_redis_12

 

redis主从新增哨兵 redis主从哨兵集群部署_数据库_13

 

redis主从新增哨兵 redis主从哨兵集群部署_Redis_14

Slave节点操作(slave1与slave2同样设置)

vim /etc/redis/6379.conf
bind 0.0.0.0         #70行,修改监听地址为0.0.0.0
daemonize yes        #137行,开启守护进程
logfile /var/log/redis_6379.log     #172行,指定日志文件目录
dir /var/lib/redis/6379             #264行,指定工作目录
replicaof 192.168.200.10 6379        #287行,取消注释并指定要同步的Master节点IP和端口
appendonly yes       #700行,开启AOF持久化功能

/etc/init.d/redis_6379 restart

redis主从新增哨兵 redis主从哨兵集群部署_数据库_15

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_16

redis主从新增哨兵 redis主从哨兵集群部署_linux_17

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_18

redis主从新增哨兵 redis主从哨兵集群部署_数据库_19

 

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_20

 

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_21

 验证主从效果

在Master节点上看日志

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_22

 在Master节点上验证从节点

redis主从新增哨兵 redis主从哨兵集群部署_linux_23

三.哨兵模式

1.哨兵的功能

在主从复制的基础上,哨兵引入了主节点的自动故障转移

2.哨兵模式的作用

• 监控:哨兵会不断地检查主节点和从节点是否运作正常

• 自动故障转移:当主节点不能正常工作时,哨兵会开始自动故障转移操作,它会将失效主节点的其中一个从节点升级为新的主节点,并让其他从节点改为复制新的主节点

• 通知(提醒):哨兵可以将故障转移的结果发送给客户端

3.哨兵结构的组成

哨兵结构由两部分组成,哨兵节点和数据节点

• 哨兵节点 哨兵系统由一个或多个哨兵节点组成,哨兵节点是特殊的 redis 节点,不存储数据

• 数据节点 主节点和从节点都是数据节点

4..哨兵模式的原理

哨兵(sentinel) 是一个分布式系统,用于对主从结构中的每台服务器进行监控,当出现故障时通过投票机制选择新的Master,并将所有Slave 连接到新的Master。所以整个运行哨兵的集群的数量不得少于3个节点

哨兵的启动依赖于主从模式,所以须把主从模式安装好的情况下再去做哨兵模式,所有节点上都需要部署哨兵模式,哨兵模式会监控所有的Redis 工作节点是否正常,当Master 出现问题的时候,因为其他节点与主节点失去联系,因此会投票,投票过半就认为这个 Master 的确出现问题,然后会通知哨兵间,然后从Slaves中选取一个作为新的 Master

需要特别注意的是,客观下线是主节点才有的概念;如果从节点和哨兵节点发生故障,被哨兵主观下线后,不会再有后续的客观下线和故障转移操作

5.部署哨兵模式

redis主从新增哨兵 redis主从哨兵集群部署_redis_24

环境准备(基于上面的主从模式做的)

master节点

192.168.111.175

Redis

slave1节点

192.168.111.176

Redis

slave2节点

192.168.111.177

Redis

修改Redis哨兵模式的配置文件(所有节点操作)

vim /opt/redis-5.0.7/sentinel.conf
protected-mode no     #17行,关闭保护模式
port 26379            #21行,Redis哨兵默认的监听端口
daemonize yes         #26行,指定sentinel为后台启动
logfile "/var/log/sentinel.log"     #36行,指定日志存放路径
dir "/var/lib/redis/6379"           #65行,指定数据库存放路径
sentinel monitor mymaster 192.168.200.10 6379 2        #84行, 修改
指定该哨兵节点监控192.168.200.10:6379这个主节点,该主节点的名称是mymaster,最后的2的含义与主节点的故障判定有关:至少需要2个哨兵节点同意,才能判定主节点故障并进行故障转移
sentinel down-after-milliseconds mymaster 30000   #113行,判定服务器down掉的时间周期,默认30000毫秒(30秒)
sentinel failover-timeout mymaster 180000        #146行,故障节点的最大超时时间为180000 (180秒 )

redis主从新增哨兵 redis主从哨兵集群部署_数据库_25

 

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_26

redis主从新增哨兵 redis主从哨兵集群部署_Redis_27

redis主从新增哨兵 redis主从哨兵集群部署_redis_28

redis主从新增哨兵 redis主从哨兵集群部署_数据库_29

为了快速修改salve节点配置文件,这里使用SCP传输

scp /opt/redis-5.0.7/sentinel.conf 192.168.111.176:/opt/redis-5.0.7/

scp /opt/redis-5.0.7/sentinel.conf 192.168.111.177:/opt/redis-5.0.7/

redis主从新增哨兵 redis主从哨兵集群部署_linux_30

 启动哨兵模式

注意:先启master,再启slave

cd /opt/redis-5.0.7/
redis-sentinel sentinel.conf &

redis主从新增哨兵 redis主从哨兵集群部署_linux_31

 查看哨兵信息

redis-cli -p 26379 info Sentinel

redis主从新增哨兵 redis主从哨兵集群部署_redis_32

 故障模拟

查看redis-server进程号(在Master 上进行)

ps -ef | grep redis

redis主从新增哨兵 redis主从哨兵集群部署_数据库_33

 杀死 Master 节点上redis-server的进程号

redis主从新增哨兵 redis主从哨兵集群部署_Redis_34

 验证结果,查看master是转换至从服务器

查看日志
tail -f /var/log/sentinel.log

在Slave1上查看是否转换成功
redis-cli -p 26379 INFO Sentinel

redis主从新增哨兵 redis主从哨兵集群部署_Redis_35

redis主从新增哨兵 redis主从哨兵集群部署_Redis_36

四.集群模式

1.集群模式概念

• 集群,即 Redis Cluster, 是Redis 3. 0开始引入的分布式存储方案
• 集群由多个节点(Node) 组成,Redis 的数据分布在这些节点中。集群中的节点分为主节点和从节点;只有主节点负责读写请求和集群信息的维护;从节点只进行主节点数据和状态信息的复制
• 集群中的节点分为主节点和从节点:主节点负责读写请求和集群信息的维护;从节点只进行主节点数据和状态信息的复制

2.集群的作用

可以归纳为两点

① 数据分区

数据分区(或称数据分片) 是集群最核心的功能
集群将数据分散到多个节点,一方面突破了Redis单机内存大小的限制,存储容量大大增加;另一方面每个主节点都可以对外提供读服务和写服务,大大提高了集群的响应能力。Redis单机内存大小受限问题,在介绍持久化和主从复制时都有提及;例如,如果单机内存太大,bgsave和bgrewriteaof的fork操作可能导致主进程阻塞,主从环境下主机切换时可能导致从节点长时间无法提供服务,全量复制阶段主节点的复制缓冲区可能溢出

② 高可用

集群支持主从复制和主节点的自动故障转移(与哨兵类似) ;当任一节点发生故障时,集群仍然可以对外提供服务

3.Redis集群的数据分片

Redis集群引入了哈希槽的概念
• Redis集群有 16384 个哈希槽( 编号0-16383)
• 集群的每个节点负责一部分哈希槽
• 每个Key 通过 CRC16 校验后对16384取余来决定放置哪个哈希槽,通过这个值,去找到对应的插槽所对应的节点,然后直接自动跳转到这个对应的节点上进行存取操作

以3个节点组成的集群为例:

节点A 包含0到5460号哈希槽

节点B 包含5461到10922号哈希槽

节点C 包含10923到16383号哈希槽

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_37

4.Redis集群的主从复制模型

集群中具有A、B、C三个节点,如果节点B失败了,整个集群就会因缺少5461-10922这个范围的槽而不可以用。

为每个节点添加一个从节点A1、B1、C1整个集群便有三个Master节点和三个slave节点组成,在节点B失败后,集群选举B1位为主节点继续服务。当B和B1都失败后,集群将不可用

5.Redis集群部署

redis的集群一般需要6个节点, 3主3从。

redis主从新增哨兵 redis主从哨兵集群部署_redis_38

环境准备

192.168.111.171

Redis

192.168.111.173

Redis

192.168.111.175

Redis

192.168.111.176

Redis

192.168.111.177

Redis

192.168.111.178

Redis

开启群集功能(每台服务器都开)

vim redis.conf
#bind 127.0.0.1         #69行,注释掉bind项,默认监听所有网卡
protected-mode no       #88行,修改,关闭保护模式
daemonize yes           #136行,开启守护进程,以独立进程启动
appendonly yes          #699行,修改,开启AOF持久化
cluster-enabled yes     #832行,取消注释,开启群集功能
cluster-config-file nodes-6001.conf    #840行,取消注释,群集名称文件设置
cluster-node-timeout 15000             #846行,取消注释群集超时时间设置

redis主从新增哨兵 redis主从哨兵集群部署_数据库_39

redis主从新增哨兵 redis主从哨兵集群部署_redis主从新增哨兵_40

redis主从新增哨兵 redis主从哨兵集群部署_linux_41

redis主从新增哨兵 redis主从哨兵集群部署_linux_42

redis主从新增哨兵 redis主从哨兵集群部署_Redis_43

redis主从新增哨兵 redis主从哨兵集群部署_linux_44

 

redis主从新增哨兵 redis主从哨兵集群部署_linux_45

 为了方便,使用SCP将配置文件传输到其他服务器

scp /etc/redis/6379.conf 192.168.111.173:/etc/redis/
scp /etc/redis/6379.conf 192.168.111.175:/etc/redis/
scp /etc/redis/6379.conf 192.168.111.176:/etc/redis/
scp /etc/redis/6379.conf 192.168.111.177:/etc/redis/
scp /etc/redis/6379.conf 192.168.111.178:/etc/redis/

redis主从新增哨兵 redis主从哨兵集群部署_linux_46

 启动集群

只需要在一台服务器输入即可

redis-cli --cluster create 192.168.111.171:6379 192.168.111.173:6379 192.168.111.175:6379 192.168.111.176:6379 192.168.111.177:6379 192.168.111.178:6379 --cluster-replicas 1

六个实例分为三组,每组一主一从,前面的做主节点,后面的做从节点。下面交互的时候需要输入yes 才可以创建。
-replicas 1       #表示每个主节点有1个从节点。

redis主从新增哨兵 redis主从哨兵集群部署_数据库_47

 测试群集

redis-cli -p 6379 -c              #加-c参数,节点之间就可以互相跳转

cluster slots     #查看节点的哈希槽编号范围

redis主从新增哨兵 redis主从哨兵集群部署_redis_48