redis高可用主从复制

redis高可用主从复制

1、Redis 简介

1.1、Redis 是一个开源（BSD许可）的，内存中的数据结构存储系统，它可以用作高性能的key-value数据库、缓存和消息中间件。

1.2、Redis 与其他 key - value 缓存产品有以下几个特点：

  1)Redis性能极高能读的速度是110000次/s,写的速度是81000次/s

  2)Redis支持多种类型的数据结构，如字符串（strings）,散列（hashes）,列表（lists）,集合（sets）,有序集合（sorted sets）与范围查询，bitmaps,hyperloglogs和地理空间（geospatial）索引半径查询。

  3)Redis支持数据的持久化，可以将内存中的数据保持在磁盘中，重启的时候可以再次加载进行使用。内置了复制（replication），LUA脚本（Lua scripting），LRU驱动事件（LRU eviction）,事务（transactions）和不同级别的 磁盘持久化（persistence）， 并通过 Redis哨兵（Sentinel）和自动 分区（Cluster）提供高可用性（high availability）

  4)Redis支持数据的备份，即master-slave模式的数据备份。

1.3、Redis与其他key-value存储有什么不同？

     Redis有着更为复杂的数据结构并且提供对他们的原子性操作，这是一个不同于其他数据库的进化路径。Redis的数据类型都是基于基本数据结构的同时对程序员透明，无需进行额外的抽象。

     Redis运行在内存中但是可以持久化到磁盘，所以在对不同数据集进行高速读写时需要权衡内存，应为数据量不能大于硬件内存。在内存数据库方面的另一个优点是， 相比在磁盘上相同的复杂的数据结构，在内存中操作起来非常简单，这样Redis可以做很多内部复杂性很强的事情。 同时，在磁盘格式方面他们是紧凑的以追加的方式产生的，因为他们并不需要进行随机访问。

2、Redis常用命令

2.1、连接操作命令

quit：关闭连接（connection）

2.2、持久化

save：将数据同步保存到磁盘

bgsave：将数据异步保存到磁盘

shundown：将数据同步保存到磁盘，然后关闭服务

2.3、对value操作的命令

exists(key)：确认一个key是否存在

del(key)：删除一个key

type(key)：返回值的类型

keys(pattern)：返回满足给定pattern的所有key

dbsize：返回当前数据库中key的数目

expire：设定一个key的活动时间（s）

flushdb：删除当前选择数据库中的所有key

flushall：删除所有数据库中的所有key

2.4、String

set(key, value)：给数据库中名称为key的string赋予值value

get(key)：返回数据库中名称为key的string的value

setnx(key, value)：添加string，名称为key，值为value

mset(key N, value N)：批量设置多个string的值

2.5、List

rpush(key, value)：在名称为key的list尾添加一个值为value的元素

lpush(key, value)：在名称为key的list头添加一个值为value的 元素

llen(key)：返回名称为key的list的长度

lrange(key, start, end)：返回名称为key的list中start至end之间的元素

lrem(key, count, value)：删除count个key的list中值为value的元素

2.6、Set集合

sadd(key, member)：向名称为key的set中添加元素member

srem(key, member) ：删除名称为key的set中的元素member

2.7、Hash散列

hset(key, field, value)：向名称为key的hash中添加元素field

hget(key, field)：返回名称为key的hash中field对应的value

hmget(key, (fields))：返回名称为key的hash中field对应的value

hmset(key, (fields))：向名称为key的hash中添加元素field

hincrby(key, field, integer)：将名称为key的hash中field的value增加integer

hexists(key, field)：名称为key的hash中是否存在键为field的域

hdel(key, field)：删除名称为key的hash中键为field的域

hlen(key)：返回名称为key的hash中元素个数

hkeys(key)：返回名称为key的hash中所有键

hvals(key)：返回名称为key的hash中所有键对应的value

3、redis-cli 参数选项

Usage: redis-cli [OPTIONS] [cmd [arg [arg ...]]]

-h Server hostname (default: 127.0.0.1)

-p Server port (default: 6379)

-s Server socket (overrides hostname and port)

-a Password to use when connecting to the server

-r Execute specified command N times

-n Database number

-x Read last argument from STDIN

-d Multi-bulk delimiter in for raw formatting (default: \n)

-c Enable cluster mode (follow -ASK and -MOVED redirections)

--help Output this help and exit

--version Output version and exit

4、redis配置文件简解

##################################基础配置部分###########################################

# 当配置中需要配置内存大小时，可以使用 1k, 5GB, 4M 等类似的格式，其转换方式如下(不区分大小写)

# 1k => 1000 bytes

# 1kb => 1024 bytes

# 1m => 1000000 bytes

# 1mb => 1024*1024 bytes

# 1g => 1000000000 bytes

# 1gb => 1024*1024*1024 bytes

# 内存配置大小写是一样的.比如 1gb 1Gb 1GB 1gB

# daemonize no 默认情况下，redis不是在后台运行的，如果需要在后台运行，把该项的值更改为yes

daemonize yes

# 当运行多个redis服务时，需要指定不同的pid文件和端口

pidfile /var/run/redis.pid

# 指定redis运行的端口，默认是6379

port 6379

# 指定redis只接收来自于该IP地址的请求，如果不进行设置，那么将处理所有请求，

# 在生产环境中最好设置该项

# bind 127.0.0.1

# Specify the path for the unix socket that will be used to listen for

# incoming connections. There is no default, so Redis will not listen

# on a unix socket when not specified.

# unixsocket /tmp/redis.sock

# unixsocketperm 755

# 设置客户端连接时的超时时间，单位为秒。当客户端在这段时间内没有发出任何指令，那么关闭该连接

# 0是关闭此设置

timeout 0

# 指定日志记录级别

# Redis总共支持四个级别：debug、verbose、notice、warning，默认为verbose

# debug 记录很多信息，用于开发和测试

# varbose 有用的信息，不像debug会记录那么多

# notice 普通的verbose，常用于生产环境

# warning 只有非常重要或者严重的信息会记录到日志

loglevel debug

# 配置log文件地址

# 默认值为stdout，标准输出，若后台模式会输出到/dev/null

logfile /var/log/redis/redis.log

# 可用数据库数

# 默认值为16，默认数据库为0，数据库范围在0-（database-1）之间

databases 16

################################ 快照  #################################

# 保存数据到磁盘，格式如下:

#   save <seconds> <changes>

#   指出在多长时间内，有多少次更新操作，就将数据同步到数据文件rdb。

#   相当于条件触发抓取快照，这个可以多个条件配合   

#   比如默认配置文件中的设置，就设置了三个条件

#

#   save 900 1  900秒内至少有1个key被改变

#   save 300 10  300秒内至少有300个key被改变

#   save 60 10000  60秒内至少有10000个key被改变

save 900 1

save 300 10

save 60 10000

# 存储至本地数据库时（持久化到rdb文件）是否压缩数据，默认为yes

rdbcompression yes

# 本地持久化数据库文件名，默认值为dump.rdb

dbfilename dump.rdb

# 工作目录

# 数据库镜像备份的文件放置的路径。

# 这里的路径跟文件名要分开配置是因为redis在进行备份时，先会将当前数据库的状态写入到一个临时文件中，等备份完成时，

# 再把该该临时文件替换为上面所指定的文件，而这里的临时文件和上面所配置的备份文件都会放在这个指定的路径当中。

# AOF文件也会存放在这个目录下面

# 注意这里必须制定一个目录而不是文件

dir ./

################################# 复制 ##############################################

# 主从复制. 设置该数据库为其他数据库的从数据库. 

# 设置当本机为slav服务时，设置master服务的IP地址及端口，在Redis启动时，它会自动从master进行数据同步

# slaveof <masterip> <masterport>

# 当master服务设置了密码保护时(用requirepass制定的密码)

# slav服务连接master的密码

# masterauth <master-password>

# 当从库同主机失去连接或者复制正在进行，从机库有两种运行方式：

# 1) 如果slave-serve-stale-data设置为yes(默认设置)，从库会继续相应客户端的请求

# 2) 如果slave-serve-stale-data是指为no，出去INFO和SLAVOF命令之外的任何请求都会返回一个

#    错误"SYNC with master in progress"

slave-serve-stale-data yes

# 从库会按照一个时间间隔向主库发送PINGs.可以通过repl-ping-slave-period设置这个时间间隔，默认是10秒

# repl-ping-slave-period 10

# repl-timeout 设置主库批量数据传输时间或者ping回复时间间隔，默认值是60秒

# 一定要确保repl-timeout大于repl-ping-slave-period

# repl-timeout 60   

################################## 安全选项 ##########################################

# 设置客户端连接后进行任何其他指定前需要使用的密码。

# 警告：因为redis速度相当快，所以在一台比较好的服务器下，一个外部的用户可以在一秒钟进行150K次的密码尝试，这意味着你需要指定非常非常强大的密码来防止暴力破解

# requirepass foobared

 

# 命令重命名.

# 在一个共享环境下可以重命名相对危险的命令。比如把CONFIG重名为一个不容易猜测的字符。

# 举例:

# rename-command CONFIG b840fc02d524045429941cc15f59e41cb7be6c52

# 如果想删除一个命令，直接把它重命名为一个空字符""即可，如下：

# rename-command CONFIG ""

################################### 约束 #############################################

# 设置同一时间最大客户端连接数，默认无限制，Redis可以同时打开的客户端连接数为Redis进程可以打开的最大文件描述符数，

# 如果设置 maxclients 0，表示不作限制。

# 当客户端连接数到达限制时，Redis会关闭新的连接并向客户端返回max number of clients reached错误信息

# maxclients 128

 

# 指定Redis最大内存限制，Redis在启动时会把数据加载到内存中，达到最大内存后，Redis会先尝试清除已到期或即将到期的Key

# Redis同时也会移除空的list对象

# 当此方法处理后，仍然到达最大内存设置，将无法再进行写入操作，但仍然可以进行读取操作

# 注意：Redis新的vm机制，会把Key存放内存，Value会存放在swap区

# maxmemory的设置比较适合于把redis当作于类似memcached的缓存来使用，而不适合当做一个真实的DB。

# 当把Redis当做一个真实的数据库使用的时候，内存使用将是一个很大的开销

# maxmemory <bytes>

 

# 当内存达到最大值的时候Redis会选择删除哪些数据？有五种方式可供选择

# volatile-lru -> 利用LRU算法移除设置过过期时间的key (LRU:最近使用 Least Recently Used )

# allkeys-lru -> 利用LRU算法移除任何key

# volatile-random -> 移除设置过过期时间的随机key

# allkeys->random -> remove a random key, any key

# volatile-ttl -> 移除即将过期的key(minor TTL)

# noeviction -> 不移除任何可以，只是返回一个写错误

# 注意：对于上面的策略，如果没有合适的key可以移除，当写的时候Redis会返回一个错误

# 写命令包括: set setnx setex append

#incr decr rpush lpush rpushx lpushx linsert lset rpoplpush sadd

#sinter sinterstore sunion sunionstore sdiff sdiffstore zadd zincrby

#zunionstore zinterstore hset hsetnx hmset hincrby incrby decrby

#getset mset msetnx exec sort

# 默认是:volatile-lru

#

# maxmemory-policy volatile-lru

 

# LRU 和 minimal TTL 算法都不是精准的算法，但是相对精确的算法(为了节省内存)，随意你可以选择样本大小进行检测。

# Redis默认的灰选择3个样本进行检测，你可以通过maxmemory-samples进行设置

# maxmemory-samples 3

############################## 高级选项：AOF ###########################################

# 默认情况下，redis会在后台异步的把数据库镜像备份到磁盘，但是该备份是非常耗时的，而且备份也不能很频繁，如果发生诸如拉闸限电、拔插头等状况，那么将造成比较大范围的数据丢失。

# 所以redis提供了另外一种更加高效的数据库备份及灾难恢复方式。

# 开启append only模式之后，redis会把所接收到的每一次写操作请求都追加到appendonly.aof文件中，当redis重新启动时，会从该文件恢复出之前的状态。

# 但是这样会造成appendonly.aof文件过大，所以redis还支持了BGREWRITEAOF指令，对appendonly.aof 进行重新整理。

# 你可以同时开启asynchronous dumps 和 AOF

 

appendonly no

 

# AOF文件名称 (默认: "appendonly.aof")

# appendfilename appendonly.aof

 

 

# Redis支持三种同步AOF文件的策略:

# no: 不进行同步，系统去操作 . Faster.

# always: always表示每次有写操作都进行同步. Slow, Safest.

# everysec: 表示对写操作进行累积，每秒同步一次. Compromise.

# 默认是"everysec"，按照速度和安全折中这是最好的。

# 如果想让Redis能更高效的运行，你也可以设置为"no"，让操作系统决定什么时候去执行

# 或者相反想让数据更安全你也可以设置为"always"

# 如果不确定就用 "everysec".

 

# appendfsync always

appendfsync everysec

# appendfsync no

# AOF策略设置为always或者everysec时，后台处理进程(后台保存或者AOF日志重写)会执行大量的I/O操作

# 在某些Linux配置中会阻止过长的fsync()请求。注意现在没有任何修复，即使fsync在另外一个线程进行处理

#

# 为了减缓这个问题，可以设置下面这个参数no-appendfsync-on-rewrite

#

# This means that while another child is saving the durability of Redis is

# the same as "appendfsync none", that in pratical terms means that it is

# possible to lost up to 30 seconds of log in the worst scenario (with the

# default Linux settings).

# If you have latency problems turn this to "yes". Otherwise leave it as

# "no" that is the safest pick from the point of view of durability.

no-appendfsync-on-rewrite no

# Automatic rewrite of the append only file.

# AOF 自动重写

# 当AOF文件增长到一定大小的时候Redis能够调用 BGREWRITEAOF 对日志文件进行重写 

# 

# 它是这样工作的：Redis会记住上次进行些日志后文件的大小(如果从开机以来还没进行过重写，那日子大小在开机的时候确定)

#

# 基础大小会同现在的大小进行比较。如果现在的大小比基础大小大制定的百分比，重写功能将启动

# 同时需要指定一个最小大小用于AOF重写，这个用于阻止即使文件很小但是增长幅度很大也去重写AOF文件的情况

# 设置 percentage 为0就关闭这个特性

auto-aof-rewrite-percentage 100

auto-aof-rewrite-min-size 64mb 

##################################高级选项： SLOW LOG ###################################

# Redis Slow Log 记录超过特定执行时间的命令。执行时间不包括I/O计算比如连接客户端，返回结果等，只是命令执行时间

# 

# 可以通过两个参数设置slow log：一个是告诉Redis执行超过多少时间被记录的参数slowlog-log-slower-than(微妙)，

# 另一个是slow log 的长度。当一个新命令被记录的时候最早的命令将被从队列中移除

 

# 下面的时间以微妙微单位，因此1000000代表一分钟。

# 注意制定一个负数将关闭慢日志，而设置为0将强制每个命令都会记录

slowlog-log-slower-than 10000

 

# 对日志长度没有限制，只是要注意它会消耗内存

# 可以通过 SLOWLOG RESET 回收被慢日志消耗的内存

slowlog-max-len 1024

############################### 高级配置：ADVANCED CONFIG ###############################

# 当hash中包含超过指定元素个数并且最大的元素没有超过临界时，

# hash将以一种特殊的编码方式（大大减少内存使用）来存储，这里可以设置这两个临界值

# Redis Hash对应Value内部实际就是一个HashMap，实际这里会有2种不同实现，

# 这个Hash的成员比较少时Redis为了节省内存会采用类似一维数组的方式来紧凑存储，而不会采用真正的HashMap结构，对应的value redisObject的encoding为zipmap,

# 当成员数量增大时会自动转成真正的HashMap,此时encoding为ht。

hash-max-zipmap-entries 512

hash-max-zipmap-value 64

 

# list数据类型多少节点以下会采用去指针的紧凑存储格式。

# list数据类型节点值大小小于多少字节会采用紧凑存储格式。

list-max-ziplist-entries 512

list-max-ziplist-value 64

 

# set数据类型内部数据如果全部是数值型，且包含多少节点以下会采用紧凑格式存储。

set-max-intset-entries 512

 

# zsort数据类型多少节点以下会采用去指针的紧凑存储格式。

# zsort数据类型节点值大小小于多少字节会采用紧凑存储格式。

zset-max-ziplist-entries 128

zset-max-ziplist-value 64

 

# Redis将在每100毫秒时使用1毫秒的CPU时间来对redis的hash表进行重新hash，可以降低内存的使用

# 当你的使用场景中，有非常严格的实时性需要，不能够接受Redis时不时的对请求有2毫秒的延迟的话，把这项配置为no。

# 如果没有这么严格的实时性要求，可以设置为yes，以便能够尽可能快的释放内存

activerehashing yes

################################## INCLUDES ########################################

 

# 指定包含其它的配置文件，可以在同一主机上多个Redis实例之间使用同一份配置文件，而同时各个实例又拥有自己的特定配置文件

# include /path/to/local.conf

# include /path/to/other.conf

5、主从复制架构实践

环境：

   Centos 6.7

   redis  3.0.7 RPM包

   说明：复制模型:一主两从，单台机器(ip:192.168.1.101)启动3个redis进程，监听3不同端口(6379为主服务器，从服务器为6380、6381)

   对应配置文件为/etc/redis/redis.conf,/etc/redis/redis.conf.2,/etc/redis/redis.conf.3

   对应磁盘存储目录分别为/redis/db1、/redis/db2、/redis/db3

5.1、下载安装redis包，版本为：redis-3.0.7-2.e16.remi.x86_64.rpm，并测试启动redis服务是否正常,本地连接测试

5.2、复制配置文件/etc/redis/redis.conf，并重命名为/etc/redis/redis.conf.2,/etc/redis/redis.conf.3，创建/redis/db1、/redis/db2、/redis/db3目录文件，并修改db1，db2，db3目录属主和属组，

5.3、修改主服务器/etc/redis/redis.conf配置文件，bind为0.0.0.0，数据保存目录/redis/db1，启用daemonize后台运行，其他默认即可

5.4、修改从服务器/etc/redis/redis.conf.2配置文件，bind为0.0.0.0，监听端口为6380，数据保存目录/redis/db2，启用daemonize后台运行，pidfile 为/var/run/redis2/.pid,日志保存路径为 logfile ，/var/log/redis/redis2.log,其他默认

5.5、修改从服务器/etc/redis/redis.conf.3配置文件，bind为0.0.0.0，监听端口为6381，数据保存目录/redis/db3，启用daemonize后台运行，pidfile 为/var/run/redis3/.pid,日志保存路径为 logfile ，/var/log/redis/redis3.log,其他默认

5.6、启动redis服务，注意启动时指定相应的配置文件，并查看监听端口是否正常

5.7、指定6379端口为主redis服务器，从服务器为6380、6381加入到主redis服务器集群中，

    歩骤：登录从服务器redis-cli -h x.x.x.x -p 6380 ；

        加入到6379主服务器中，并设置当前为从服务器 slaveof x.x.x.x 6379；

        从服务器6381也跟上面类似命令，添加完成后，可以使用info replication 查看架构状态信息，如参数为slave_repl_offset:1,即为成功添加。

5.8、测试：在主redis服务器上，新增kv，OS nginx ，检查从服务器是否同步正常

6、redis sentinel工具管理监控redis运行状态

6.1、Redis Sentinel功能

   Redis Sentinel是一套用于管理Redis实例的分布式系统，主要完成3项任务：

   1) Monitoring：持续监控Redis master或slave实例的运行情况是否符合预期

   2) Notification：若被监控的Redis实例运行异常，sentinel会通过API通知外界（人或程序）

   3) Automation failover：若master实例故障，sentinel会重新选主并启动自动故障切换：选择slave-priority最小的那个slave实例并将其提升为master，同时修改其它slave的配置，使其master配置项指向新的master，当old master恢复重启后，会自动降级为new master的slave。最后，根据配置，Redis Sentinel还会将新的master地址通知给当前正在访问Redis的应用程序。

6.2、配置文件/etc/redis/redis-sentinel.conf简解

   主要有6个配置项，按Redis集群的实际部署情况进行配置即可，示例如下： 

   port 26329  

   sentinel monitor mymaster 192.168.1.101 6379 1 

   sentinel down-after-milliseconds mymaster 60000  

   sentinel failover-timeout mymaster 180000  

   sentinel parallel-syncs mymaster  

   sentinel notification-script <master-name> <script-path>  

   其中：

      port: 指定sentinel的侦听端口

      monitor: 指定sentinel要monitor的redis实例，包括一个redis实例的别名（alias）及redis实例的ip+port，该行最后的数字1表示至少1个setinel实例同时检测到redis server异常时，才将redis server的状态判决为real fail。

      down-after-milliseconds: 指定sentinel监控到redis实例持续异常多长时间后，会判决其状态为down。若实际业务需要sentinel尽快判决出redis实例异常，则该值可适当配小。

      failover-timeout: 若sentinel在该配置值内未能完成failover操作（即故障时master/slave自动切换），则认为本次failover失败。

      parallel-syncs: 指定failover过程中，同时被sentinel reconfigure的最大slave实例数。由于reconfigure过程中，对应的slave会中断响应客户端请求，故为避免所有的slave同时不可用，该值需适当配小。

      notification-script: 指定sentinel检测到master-name指向的实例异常时，调用的报警脚本。该配置项可选，但线上系统建议配置。

6.3、对上面的主从架构模型进行监控管理，

  1)、修改/etc/redis/redis-sentinel.conf配置文件

     修改为sentinel monitor mymaster 192.168.1.101 6379 1

  2）、启动redis-sentinel服务器，查看端口是否正常。连接sentinel，info命令，可查看redis当前集群信息，运行状态

6.4、模拟主redis服务器故障，是否正常自动迁移至其他从服务器，并且从服务器自动提升为主服务器

  1)、kill 主redis进程

  2）、连接sentinel，info命令验证查看集群是否切换至其他从服务器，注意：如原6379主redis恢复正常，这时只能成为从redis，无法自动成为主redis。