1.概述

在前面的文章中介绍过了redis的主从和哨兵两种集群方案,redis从3.0版本开始引入了redis-cluster(集群)。

从主从-哨兵-集群可以看到redis的不断完善;主从复制是最简单的节点同步方案无法主从自动故障转移。

哨兵可以同时管理多个主从同步方案同时也可以处理主从自动故障转移,通过配置多个哨兵节点可以解决单点网络故障问题,

但是单个节点的性能压力问题无法解决。集群解决了前面两个方案的所有问题。

(1)Redis-Cluster采用无中心结构

每个节点都和其它节点通过互ping保持连接,每个节点保存整个集群的状态信息,可以通过连接任意节点读取或者写入数据

(甚至是没有数据的空节点)。

(2)只有当集群中的大多数节点同时fail整个集群才fail 一般情况下是集群当中超过一半以上的节点fail的时候,集群才会fail

(3)整个集群有16384个slot

当需要在 Redis 集群中放置一个key-value 时,根据 CRC16(key) mod 16384的值,决定将一个key放到哪个桶中。

读取一个key时也是相同的算法。

(4)当主节点fail时从节点会升级为主节点 fail的主节点online之后自动变成了从节点

go操作redis集群 redis集群get_Redis


Redis集群中内置了 16384 个哈希槽,当需要在 Redis 集群中放置一个 key-value 时,redis 先对key 使用 crc16 算法算出一个结果,

然后把结果对 16384 求余数,这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽,

redis 会根据节点数量大致均等的将哈希槽映射到不同的节点。

2.什么是哈希槽?

Redis 集群没有使用一致性hash, 而是引入了哈希槽的概念。
Redis 集群有16384个哈希槽,每个key通过CRC16校验后对16384取模来决定放置哪个槽.集群的每个节点负责一部分hash槽。
这种结构很容易添加或者删除节点,并且无论是添加删除或者修改某一个节点,都不会造成集群不可用的状态。 使用哈希槽的好处就在于可以方便的添加或移除节点。当需要增加节点时,只需要把其他节点的某些哈希槽挪到新节点就可以了;当需要移除节点时,只需要把移除节点上的哈希槽挪到其他节点就行了; =在这一点上,我们以后新增或移除节点的时候不用先停掉所有的 redis 服务。=

3.其他知识

集群:是一个提供多个Redis(分布式)节点间共享数据的程序集

集群部署:Redis 集群的键空间被分割为 16384 hash个槽(slot), 集群的最大节点数量也是 16384 个

关系:cluster>node>slot>key

go操作redis集群 redis集群get_高可用_02


分片 Redis Cluster在设计中没有使用一致性哈希(Consistency Hashing),而是使用数据分片引入哈希槽(hash slot)来实现;

一个 Redis Cluster包含16384(0~16383)个哈希槽,存储在Redis Cluster中的所有键都会被映射到这些slot中,

集群中的每个键都属于这16384个哈希槽中的一个,集群使用公式slot=CRC16(key)/16384来计算key属于哪个槽,

其中CRC16(key)语句用于计算key的CRC16 校验和。

按照槽来进行分片,通过为每个节点指派不同数量的槽,可以控制不同节点负责的数据量和请求数

go操作redis集群 redis集群get_高可用_03

当前集群有3个节点,槽默认是平均分的:

节点 A (6381)包含 0 到 5499号哈希槽.

节点 B (6382)包含5500 到 10999 号哈希槽.

节点 C (6383)包含11000 到 16383号哈希槽.

这种结构很容易添加或者删除节点. 比如如果我想新添加个节点D, 我需要从节点 A, B, C中得部分槽到D上.

如果我想移除节点A,需要将A中得槽移到B和C节点上,然后将没有任何槽的A节点从集群中移除即可.

由于从一个节点将哈希槽移动到另一个节点并不会停止服务,

所以无论添加删除或者改变某个节点的哈希槽的数量都不会造成集群不可用的状态.

数据迁移 数据迁移可以理解为slot(槽)和key的迁移,这个功能很重要,极大地方便了集群做线性扩展,以及实现平滑的扩容或缩容。

现在要将Master A节点中编号为1、2、3的slot迁移到Master B节点中,

在slot迁移的中间状态下,slot 1、2、3在Master A节点的状态表现为MIGRATING(迁移),

在Master B节点的状态表现为IMPORTING(入口)

go操作redis集群 redis集群get_go操作redis集群_04


此时并不刷新node的映射关系

IMPORTING状态

被迁移slot 在目标Master B节点中出现的一种状态,

准备迁移slot从Mater A到Master B的时候,被迁移slot的状态首先变为IMPORTING状态。键空间迁移 键空间迁移是指当满足了slot迁移前提的情况下,通过相关命令将slot 1、2、3中的键空间从Master A节点转移到Master B节点。

此时刷新node的映射关系。

go操作redis集群 redis集群get_go操作redis集群_05


复制&高可用:

集群的节点内置了复制和高可用特性。

特点:

1、节点自动发现

2、slave->master 选举,集群容错

3、Hot resharding:在线分片

4、基于配置(nodes-port.conf)的集群管理

5、客户端与redis节点直连、不需要中间proxy层.

6、所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.

4.高可用redis cluster集群的具体实现过程如下:

(1)在server1(master)上面进行设置

首先在 server1 机器上 /usr/local/目录下创建 redis_cluster 目录;

在 redis_cluster 目录下,创建名为7001、7002、7003、7004、7005、7006的目录

进入7001目录,编写redis.conf文件

go操作redis集群 redis集群get_Redis_06


编辑7001的配置文件

go操作redis集群 redis集群get_高可用_07


重启服务

go操作redis集群 redis集群get_高可用_08


再次查看7001的运行情况

go操作redis集群 redis集群get_redis_09


同理配置其他5个节点,并且开启服务

go操作redis集群 redis集群get_go操作redis集群_10


go操作redis集群 redis集群get_go操作redis集群_11


go操作redis集群 redis集群get_go操作redis集群_12

(3)在server1上创建redis-cluster集群

go操作redis集群 redis集群get_redis_13


go操作redis集群 redis集群get_Redis_14


go操作redis集群 redis集群get_redis_15


(4)接下来测试集群的高可用登陆节点2(master节点之一),shutdown

go操作redis集群 redis集群get_高可用_16


其他5个节点依然可以正常查看数据

go操作redis集群 redis集群get_go操作redis集群_17


go操作redis集群 redis集群get_redis_18


查看集群的状况,发现server2的slave节点server4自动变为新的master了

go操作redis集群 redis集群get_Redis_19


然后将server4也down掉

再次查看发现只有两个master了

go操作redis集群 redis集群get_redis_20

go操作redis集群 redis集群get_redis_21


go操作redis集群 redis集群get_高可用_22


go操作redis集群 redis集群get_高可用_23


go操作redis集群 redis集群get_go操作redis集群_24


注意:当集群当中的一半以上的master都down掉以后,集群也会down掉了