keepalived基础概念

   Keepalived是一个基于VRRP协议来实现的WEB服务高可用方案,可以利用其来避免单点故障。一个WEB服务至少会有2台服务器运行Keepalived,一台为主服务器(MASTER),一台为备份服务器(BACKUP),但是对外表现为一个虚拟IP,主服务器会发送特定的消息给备份服务器,当备份服务器收不到这个消息的时候,即主服务器宕机的时候,备份服务器就会接管虚拟IP,继续提供服务,从而保证了高可用性。



   keepalived最初的诞生就是为ipvs提供高可用性的,它可以自己调用ipvs来生成规则,并且可以自动实现把用户设定好的ip地址转移动别的节点上去的,还可以实现后端服务器的健康状态检测,说白了就是对vrrp的实现而已,那vrrp是什么呢:它叫虚拟冗余路由协议;vrrp可以把两个网关虚拟成一个网关来使用,当一个网关不可以用了,另一个会取而代之,keepalived其实就是linux操作系统上实现vrrp的,keepalived就是这样来实现vip地址转移的,也是实现的地址的高可用性;



   在VRRP协议中,有两组重要的概念:VRRP路由器和虚拟路由器,主控路由器和备份路由器。 VRRP路由器是指运行VRRP的路由器,是物理实体,虚拟路由器是指VRRP协议创建的,是逻辑概念。一组VRRP路由器协同工作,共同构成一台虚拟路由器。该虚拟路由器对外表现为一个具有唯一固定IP地址和MAC地址的逻辑路由器。处于同一个VRRP组中的路由器具有两种互斥的角色:主控路由器和备份路由器,一个VRRP组中有且只有一台处于主控角色的路由器,可以有一个或者多个处于备份角色的路由器。VRRP协议使用选择策略从路由器组中选出一台作为主控,负责ARP相应和转发IP数据包,组中的其它路由器作为备份的角色处于待命状态。当由于某种原因主控路由器发生故障时,备份路由器能在几秒钟的时延后升级为主路由器。由于此切换非常迅速而且不用改变IP地址和MAC地址,故对终端使用者系统是透明的。



keepalived的核心组成:

   1、vrrp(Virtual Redundancy Router Protocol)的实现,虚拟冗余路由协议,它可以把两个或多个网关虚拟成一个网关来使用,就是在两个或多个路由之前用一种协议,让两个或多个路由通过选举不决定哪个是活动的路由,当活动的不再提供服务了,另一个将取而代之.

   2、virtual server虚拟服务器

   3、vrrp_script



keepalived配置文件分为三段:

   第一段:Global configuration全局配置段;

       Global definitions    全局定义;

       Static route    静态路由;



   第二段:VRRP configuration配置段;

       VRRP synchronization groups同步组,假如在一个节点上配置两个IP要把VIP同时转移出去,也就是说这两个VIP要同步工作,定义成一个组,而后当也一个资源来转移;

       VRRP instances实例,定义虚拟路由器的;要实现虚拟路由转移时要转移IP地址;



   第三段:LVS configuration配置段;

       virtual server groups,虚拟路由服务器组,把多个路由定义在一起同时使用;

       virtual servers虚拟服务器,一般都是单独定义的;


环境准备:


CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_服务器


ansible server:192.168.8.40

node2.chinasoft.com:192.168.8.39

node4.chinasoft.com:192.168.8.42



在ansible服务器中定义keepalived组

# vim /etc/ansible/hosts

[keepalived]

node2.chinasoft.com

node4.chinasoft.com



在两个节点node2和node4上安装nginx软件:

# ansible keepalived -m yum -a "name=nginx state=present"



编辑默认主页,将Welcome信息改为各自节点的hostname:

# vim /usr/share/nginx/html/index.html



keepalived的实现过程:


第一步:安装配置keepalived程序

# ansible keepalived -m yum -a "name=keepalived state=present"


# cd /etc/keepalived/
# vim keepalived.conf
! Configuration File for keepalived
global_defs { #全局定义
notification_email { #定义邮件通知
root@localhost #定义收件人,一行一个,有多少个就可以写多少行
}
notification_email_from keepalivedadmin@localhost #以什么人的身份发邮件,就是发件人
smtp_server 127.0.0.1 #指定发邮件的服务器
smtp_connect_timeout 30 #连接邮件服务器超时时长
router_id LVS_DEVEL #路由ID
}
vrrp_script chk_mantaince_down { #手动定义检测机制
#判断/etc/keepalived/这个路径下是否存在down文件,如果存在即退出为1,否则退出为0
script "[[ -f /etc/keepalived/down ]] && exit 1 || exit 0"
interval 1 #每隔多久发送一次检测信息,单位为秒
weight -6 #如果上面的判断有down文件即权后重-6,只要减后的权重大于master的就可以
}
vrrp_instance VI_1 { #定义vrrp实例
state MASTER #定义该节点为主节点,一个节点定义了master,另一台或其实的就要定义成backup;
interface eth0 #通告经过哪个接口进行
virtual_router_id 88#虚拟路由ID号,不能大于255的
priority 100 #定义初始优先级,定义主的优先级要高于BACKUP的
advert_int 1 #通告几个
authentication { #定义认证
auth_type PASS #定义认证机制,pass是明文认证
auth_pass 1111 #认证密码
}
virtual_ipaddress { #虚拟地址,VIP地址
192.168.8.77 #可以定义得很详细,<IPADDR>/<MASK> brd <IPADDR> dev <STRING> scope <SCOPE> label <LABEL>,可以用man keepalived.conf查看相关的详细说明的;
}
track_script { #在vrrp实现中要追踪到上面定义的检测脚本
chk_haproxy
chk_mantaince_down #调用上面定义好的检测
}
# 调用编写好的通知脚本
notify_master "/etc/keepalived/notify.sh master"
notify_backup "/etc/keepalived/notify.sh backup"
notify_fault "/etc/keepalived/notify.sh fault"
}




将配置文件发送一份到node4中,并修改vrrp_instance VI_1 部分的

state 为BACKUP

priority 优先级为 99

# scp keepalived.conf node4.chinasoft.com:/etc/keepalived/


vrrp_instance VI_1 { #定义vrrp实例
state BACKUP #定义该节点为主节点,一个节点定义了master,另一台或其实的就要定义成backup;
interface eth0 #通告经过哪个接口进行
virtual_router_id 88#虚拟路由ID号,不能大于255的
priority 99 #定义初始优先级,定义主的优先级要高于BACKUP的
advert_int 1 #通告几个


CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_配置文件_02


重启keepalived服务

# ansible keepalived -a "service keepalived restart"

可以看到VIP虚拟地址被node2MASTER获取,在node2的/etc/keepalived目录下创建文件down,可以看到虚拟IP就转移到了node4上

将node2中的down文件删除可以看到VIP又回到了node2MASTER中,访问http://192.168.8.77虚拟IP可以看到nginx服务在node2上

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_nginx_03

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_ip地址_04

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_服务器_05

第二步:编写通告脚本

node2和node4都需要编写,当某一节点发生VIP地址转移时就会发邮件通知管理员,在/etc/keepalived/目录下创建一个脚本文件,然后再在脚本文件中调用这个脚本就可以了,上面配置文件中已经有调用脚本内容了:

# vim /etc/keepalived/notify.sh


#!/bin/bash
# Author:Tanxw.com <tan_xw@hotmail.com>
# Description: An example of notify script
#
vip=192.168.8.77 # 定义VIP地址
contact='root@localhost' # 这定义收件人
# 获取当前主机的IP地址
currentIP=`ifconfig eth0 | awk '/inet addr/{print $2}' | awk -F: '{print $2}'`
notify() { # 定义通告方法
# 定义一个发件的主体内容
mailbody="`date '+%F %H:%M:%S'`: vrrp transition, `hostname`($currentIP) changed to be $1"
# 定义发件的主题
mailsubject="$currentIP to be $1: $vip floating"
# 用mail命令把邮件发送出去
echo $mailbody | mail -s "$mailsubject" $contact
}
case "$1" in # 判断传进来的三个参数是什么,调用notify方法
master)
notify master
exit 0;;
backup)
notify backup
exit 0;;
fault)
notify fault
exit 0;;
*)
echo "Usage: `basename $0` {master|backup|fault}"
exit 1;;
esac



第三步:配置LVS的集群服务

把下面代码加入到各节点的/etc/keepalived/keepalived.conf配置文件中即可,默认的配置文件中也有示例:


virtual_server 192.168.8.77 80 {   # 定义一个虚拟服务 VIP PORT
delay_loop 6 # 大概延迟几个周期再去做服务检测的
lb_algo rr # 定义调度方法
lb_kind DR # LVS的模型,NET也可以
nat_mask 255.255.255.0 # 掩码
persistence_timeout 0 # 持久时间
protocol TCP # 协议,默认也是TCP
real_server 192.168.8.39 80 { # 定义真正的real_server ip port
weight 1 # 定义权重
HTTP_GET { # 请求方法
url { # 声明检测哪个URL
path /
status_code 200
}
connect_timeout 3 # 连接超时时间
nb_get_retry 3 # 至少尝试几次
delay_before_retry 3# 在每次尝试时要等上几秒钟
}
}
real_server 192.168.8.42 80 { # 定义真正的real_server ip port
weight 1 # 定义权重
HTTP_GET { # 请求方法
url { # 声明检测哪个URL
path /
status_code 200
}
connect_timeout 3 # 连接超时时间
nb_get_retry 3 # 至少尝试几次
delay_before_retry 3# 在每次尝试时要等上几秒钟
}
}
}




在各节点上安装ipvsadm工具

# ansible keepalived -m yum -a "name=ipvsadm state=present"

通过ipvsadm命令可以看到集群节点已经启动了

即使没安装有ipvsadm,只要配置有keepalived的lvs,启动服务后就会自动生成LVS规则,但是如果没安装有ipvsadm就查看不了规则了


# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
[root@node2 keepalived]# ipvsadm -L -n
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 192.168.8.77:80 rr
-> 192.168.8.39:80 Local 1 0 0
-> 192.168.8.42:80 Route 1 0 0
[root@node2 keepalived]# ip addr
1: lo: <LOOPBACK,UP,LOWER_UP> mtu 16436 qdisc noqueue state UNKNOWN
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 scope host lo
inet6 ::1/128 scope host
valid_lft forever preferred_lft forever
2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc pfifo_fast state UP qlen 1000
link/ether 00:0c:29:55:2e:82 brd ff:ff:ff:ff:ff:ff
inet 192.168.8.39/24 brd 192.168.8.255 scope global eth0
inet 192.168.8.77/32 scope global eth0
inet6 fe80::20c:29ff:fe55:2e82/64 scope link
valid_lft forever preferred_lft forever


CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_服务器_06

第四步:两个节点都配置有MASTER/BACKUP

定义两个实例,一个定义为MASTER,另一个定义为BACKUP就可以了,分别配置不同的VIP,node2上配置了MASTER的VIP为192.168.8.77,BACKUP的VIP为192.168.8.78;node4为上配置了MASTER的VIP为192.168.8.78,BACKUP的VIP为192.168.8.77。


# 这段代码在node2的节点上加,同样加为vrrp实例就可以了

vrrp_instance VI_2 {

    state BACKUP

    interface eth0

    virtual_router_id 33

    priority 99

    advert_int 1

    authentication {

        auth_type PASS

        auth_pass 1111

    }

    virtual_ipaddress {

        192.168.8.78

    }

    track_script {

        chk_mantaince_down

#       chk_nginx

    }

    notify_master "/etc/keepalived/notify.sh master"

    notify_backup "/etc/keepalived/notify.sh backup"

    notify_fault "/etc/keepalived/notify.sh fault"

}

# 下面这段代码加到node4节点的配置文件上就可以了,就是需要改一个master和权重

vrrp_instance VI_2 {

    state MASTER

    interface eth0

    virtual_router_id 33

    priority 100

    advert_int 1

    authentication {

        auth_type PASS

        auth_pass 1111

    }

    virtual_ipaddress {

        192.168.8.78

    }

    track_script {

        chk_mantaince_down

#       chk_nginx

    }

    notify_master "/etc/keepalived/notify.sh master"

    notify_backup "/etc/keepalived/notify.sh backup"

    notify_fault "/etc/keepalived/notify.sh fault"

}



再次重启keepalived服务

# ansible keepalived -a "service keepalived restart"


CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_配置文件_07

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_ip地址_08

CentOS6.5环境使用keepalived实现nginx服务的高可用性及配置详解_配置文件_09

结束:

   keepalived的vrrp的大概实现出来了,不管是LVS还是高可用VIP地址的自动转移,还是服务的高用,都需要认真的配置好,更有需要写好很多的脚本,服务才会更高效,更高可用。