1集群结构说明

集群中有三个主节点,三个从节点,一共六个结点。因此要构建六个redis的docker容器。在宿主机中将这六个独立的redis结点关联成一个redis集群。需要用到官方提供的ruby脚本。

2构建redis基础镜像

本文选择版本为redis-3.0.7,如果需要其他版本,直接修改wget后面地址中的版本号即可。

代码清单2-1 下载&编译redis源码包 

# mkdir –p /usr/docker_root/redis_cluster
# cd /usr/docker_root/redis_cluster
# wget http://download.redis.io/releases/redis-3.0.7.tar.gz
# tar zxvf redis-3.0.7.tar.gz
# cd redis-3.0.7
# make

 

PS: 如果你连 # 也复制了,那你还是别看了……

我们已经在宿主机编译好了redis源码,在src路径下有我们需要的可执行文件:redis-cli,redis-server和redis-trib.rb。redis-trib.rb是redis官方提供的ruby脚本,用来构建redis集群

修改redis.conf。在redis-3.0.7的根路径下有redis的配置文件redis.conf。将其移动到上一级路径/usr/docker_root/redis_cluster/ 下。

依据代码清单2-2,修改redis.conf文件中的对应参数值。

代码清单2-2 需要修改的配置参数

1 daemonize no
2 port 6379
3 logfile "/var/log/redis/redis-server.log"
4 appendonly yes
5 cluster-enabled yes
6 cluster-config-file nodes.conf
7 cluster-node-timeout 5000
8 bind 0.0.0.0

 

  

daemonize : 是否后台运行,将其设为no,表示前台运行。

port :redis服务监听的端口。

logfile : 指定日志文件路径。

appendonly : 是否开启appendonlylog,开启的话每次写操作会记一条log,这会提高数据抗风险能力,但影响效率。

cluster-node-timeout : 集群结点超时限制。

docker进去redis容器 看信息 docker进入redis客户端_ruby

 

docker进去redis容器 看信息 docker进入redis客户端_docker_02

docker进去redis容器 看信息 docker进入redis客户端_ruby_03

由于需要在内网其他服务器上连接redis服务器(192.168.1.110),本想直接在redis配置文件中加上目标的IP地址:
bind 192.168.1.166
就可以了,实际上不正确。
redis bind表示的是指定本机可以接受连接的网卡地址,比如redis服务器上有一个公网IP(114.114.114.114),一个内网IP(192.168.1.110),如果该redis服务器需要被本机以外的服务器访问(比如说内网的服务器),
此时需要在redis 配置文件中配置:
bind 192.168.1.110
意思是该redis使用该IP来接受外部的连接(注意:bind的意思不是绑定外部服务器的IP,而是绑定本机可以接受访问的IP)。
然而我这要配置后使用116依然连接不上,经多次排查发现我是使用
./redis-server &
来启动redis的,启动时没有指定配置文件。(即使修改了redis安装目录下的配置文件也不生效)
所以指定配置文件路径的方式来启动:
./redis-server /usr/local/redis/redis.conf &
如果到这步还不能生效,可以在配置文件中将redis保护模式关闭,但记得使用密码来保证安全性(使用复杂密码)。
protected-mode no
requirepass a1s2W3l4%G

redis bind连不上的坑

 

下面构建redis基础镜像。以Dockerfile方式构建。

代码清单2-3 创建redis基础镜像的Dockerfile

# pwd
/usr/docker_root/redis_cluster
# vim Dockerfile

我们来看看Dockerfile的内容,如代码清单2-4所示。

FROM ubuntu:14.04
ADD redis-3.0.7.tar.gz /
RUN mkdir -p /redis
ADD redis.conf /redis/
  
RUN apt-get -yqq  update
RUN apt-get install -y gcc make
  
WORKDIR /redis-3.0.7
RUN make
RUN mv /redis-3.0.7/src/redis-server /redis/
  
WORKDIR /
RUN rm -rf /redis-3.0.7
  
RUN apt-get remove --purge -y gcc make
  
VOLUME ["/var/log/redis/"]
  
EXPOSE 6379

 

docker进去redis容器 看信息 docker进入redis客户端_docker_02

docker进去redis容器 看信息 docker进入redis客户端_ruby_03

1 将本地的redis源码包复制到镜像的根路径下,ADD命令会在复制过后自动解包。被复制的对象必须处于Dockerfile同一路径,且ADD后面必须使用相对路径。
 2 将我们修改后的配置文件也复制到镜像内。
 3 为编译源码包,需要安装gcc和make,安装之前先更新apt-get。更新和安装时间较长。
 4 编译源码包。当然编译也需要一段时间。
 5 编译后,容器中只需要可执行文件redis-server,所以将该文件移到/redis/路径下。现在redis-server 和redis.conf都在/redis/下。
 6 将redis-3.0.7路径整个删除。
 7 gcc和make也可以卸载掉。
 8 指定数据卷,通过这个数据卷可以查看redis运行的日志文件。
 9 公开redis默认端口6379。
10 因为不会执行这个镜像,所有没有包含ENTRYPOINT和CMD指令。我们基于这个镜像构建别的镜像。

做了哪些事

 

现在我们构建redis基础镜像

代码清单2-5 构建redis基础镜像

# docker build -t redis:3.0.7 .

构建过程与网络带宽有关,十分钟左右,构建完成。成功构建镜像之后,运行docker images,可以看到构建后的镜像

 

docker进去redis容器 看信息 docker进入redis客户端_docker_06

3构建redis结点镜像

我们继续构建redis结点镜像,这个镜像将会用于生成提供redis服务的docker容器。

代码清单3-1 创建redis结点镜像的Dockerfile

 

# mkdir redis_node
# cd redis_node

 # pwd
  /usr/docker_root/redis_cluster/redis_node

# vim Dockerfile

Dockerfile如代码清单3-2所示。

FROM redis:3.0.7
ENTRYPOINT ["/redis/redis-server", "/redis/redis.conf"]

构建redis结点镜像。

代码清单3-3 构建redis结点镜像

# docker build -t redis-cluster:3.0.7 .

查看redis结点镜像redis-cluster:3.0.7

docker进去redis容器 看信息 docker进入redis客户端_ruby_07

4创建redis结点容器

依次创建六个redis结点容器,如代码清单4-1所示。

代码清单4-1 创建redis结点

# docker run -d --name redis01 -p 30001:6379 redis-cluster:3.0.7
# docker run -d --name redis02 redis-cluster:3.0.7
# docker run -d --name redis03 redis-cluster:3.0.7
# docker run -d --name redis04 redis-cluster:3.0.7
# docker run -d --name redis05 redis-cluster:3.0.7
# docker run -d --name redis06 redis-cluster:3.0.7

第一个容器做了端口映射,是专门留给客户端访问的,这样客户端就可以通过宿主机的30001端口访问redis集群了。

查看各容器IP地址

代码清单4-2 查看redis结点IP

# docker inspect redis01 redis02 redis03 redis04 redis05 redis06 | grep \"IPAddress\"| grep 172

docker进去redis容器 看信息 docker进入redis客户端_docker进去redis容器 看信息_08

5搭建redis集群

前文已经提到,要构建集群需要使用官方提供的ruby脚本,也就是redis-3.0.7/src/redis-trib.rb,因此需要先安装ruby的环境。

一般需要安装ruby1.9的版本,可以自己下载安装。

代码清单5-1 安装ruby环境

# yum install ruby

# yum install rubygems

以下为源码包安装方式,如已经yum安装过,可直接略过

手动安装步骤:

tar -xzf ruby-1.9.3-p194.tar.gz解压安装包

./configure --prefix=/usr/local/ruby

 

由于redhat新版本(redhat5.4不报错,开发环境会报错)默认openssl的配置变更取消了对EC_xx的支持,make 会出错,

此时需要修改ext/openssl/ossl_pkey_ec.c代码,修改的内容如下

修改762行开始处:

if (id == s_GFp_simple) {
method = EC_GFp_simple_method();
            } else if (id == s_GFp_mont) {
method = EC_GFp_mont_method();
            } else if (id == s_GFp_nist) {
method = EC_GFp_nist_method();
#if !defined (OPENSSL_NO_EC2M)
            } else if (id == s_GF2m_simple) {
method = EC_GF2m_simple_method();
#endif
修改817行开始处:
if (id == s_GFp) {
new_curve = EC_GROUP_new_curve_GFp;
#if !defined (OPENSSL_NO_EC2M)
            } else if (id == s_GF2m) {
new_curve = EC_GROUP_new_curve_GF2m;
#endif
            } else {
ossl_raise(rb_eArgError, "unknown symbol, must be :GFp or :GF2m");
            }

修改完成后执行如下命令

make

make install

安装完成后设置PATH路径,把安装的ruby放在系统PATH前面,

避免调用操作系统自带的ruby  (开发环境REDHAT自带为1.8版本,而1.8版本不能用于redis集群的部署,至少用1.9以上)   ,

修改~/.bash_profile

#PATH=$PATH:$HOME/bin—原来的配置

PATH=/usr/local/ruby/bin:$PATH:$HOME/bin—修改后的配置

修改后保存,并执行 source ~/.bash_profile生效

执行ruby -v 查看ruby版本

docker进去redis容器 看信息 docker进入redis客户端_ruby_09

运行redis-trib.rb脚本还需要安装redis的ruby包。

# gem install redis --version 3.0.7

由于源的原因,可能下载失败,那就手动下载下来安装

download地址:http://rubygems.org/gems/redis/versions/3.0.7

代码清单5-3 手动下载&安装redis的ruby包

# wget https://rubygems.org/downloads/redis-3.0.7.gem --no-check-certificate

# gem install -l redis-3.0.7.gem

docker进去redis容器 看信息 docker进入redis客户端_docker_10

一切准备就绪,开始搭建redis集群吧!参照代码清单5-4,但是你还是要修改一下IP地址,你的容器地址应该不可能和我的一毛一样吧。

代码清单5-4 搭建redis集群

# cd /usr/docker_root/redis_cluster/redis-3.0.7/src/
[root@localhost src]# ./redis-trib.rb create --replicas 1 172.17.0.2:6379 \
172.17.0.3:6379 \
172.17.0.4:6379 \
172.17.0.5:6379 \
172.17.0.6:6379 \
172.17.0.7:6379

执行结果代码代码清单5-5所示

代码清单5-5 搭建redis集群输出结果

docker进去redis容器 看信息 docker进入redis客户端_docker_02

docker进去redis容器 看信息 docker进入redis客户端_ruby_03

>>> Creating cluster
>>> Performing hash slots allocation on 6 nodes...
Using 3 masters:
172.17.0.2:6379
172.17.0.3:6379
172.17.0.4:6379
Adding replica 172.17.0.5:6379 to 172.17.0.2:6379
Adding replica 172.17.0.6:6379 to 172.17.0.3:6379
Adding replica 172.17.0.7:6379 to 172.17.0.4:6379
M: 88f67ae03cd9f9856895ae432b17b5bae9e278f4 172.17.0.2:6379
   slots:0-5460 (5461 slots) master
M: fd25d673a7dd9044c269c56a3967b12fcd228225 172.17.0.3:6379
   slots:5461-10922 (5462 slots) master
M: f1b54c64af4bfa39271540928e513372f76d0b5f 172.17.0.4:6379
   slots:10923-16383 (5461 slots) master
S: 1b17ff2b22d033bd013e902a436e4694ca73d1e1 172.17.0.5:6379
   replicates 88f67ae03cd9f9856895ae432b17b5bae9e278f4
S: 779725a1ae038c214c09ad532a250431e7e69793 172.17.0.6:6379
   replicates fd25d673a7dd9044c269c56a3967b12fcd228225
S: 2a60bef969f9191701d4de2a109d14170fd76b37 172.17.0.7:6379
   replicates f1b54c64af4bfa39271540928e513372f76d0b5f
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join..
>>> Performing Cluster Check (using node 172.17.0.2:6379)
M: 88f67ae03cd9f9856895ae432b17b5bae9e278f4 172.17.0.2:6379
   slots:0-5460 (5461 slots) master
M: fd25d673a7dd9044c269c56a3967b12fcd228225 172.17.0.3:6379
   slots:5461-10922 (5462 slots) master
M: f1b54c64af4bfa39271540928e513372f76d0b5f 172.17.0.4:6379
   slots:10923-16383 (5461 slots) master
M: 1b17ff2b22d033bd013e902a436e4694ca73d1e1 172.17.0.5:6379
   slots: (0 slots) master
   replicates 88f67ae03cd9f9856895ae432b17b5bae9e278f4
M: 779725a1ae038c214c09ad532a250431e7e69793 172.17.0.6:6379
   slots: (0 slots) master
   replicates fd25d673a7dd9044c269c56a3967b12fcd228225
M: 2a60bef969f9191701d4de2a109d14170fd76b37 172.17.0.7:6379
   slots: (0 slots) master
   replicates f1b54c64af4bfa39271540928e513372f76d0b5f
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

View Code

使用redis-cli连接redis集群,注意有–c

代码清单5-6 连接redis集群

# ./redis-cli -p 30001 –c

127.0.0.1:30001> info

下面显示集群的相关信息

docker进去redis容器 看信息 docker进入redis客户端_docker_02

docker进去redis容器 看信息 docker进入redis客户端_ruby_03

# Server
redis_version:3.0.7
redis_git_sha1:00000000
redis_git_dirty:0
 (省略一部分……)
# CPU
used_cpu_sys:2.21
used_cpu_user:1.63
used_cpu_sys_children:0.00
used_cpu_user_children:0.00
  
# Cluster
cluster_enabled:1<br>
# Keyspace
127.0.0.1:30001>

View Code

做个set操作试试,见图5-1.

再试试get操作。

 

docker进去redis容器 看信息 docker进入redis客户端_ruby_15

docker进去redis容器 看信息 docker进入redis客户端_ruby_16

大功告成!祝贺!!!