①什么是负载均衡高可用。

         nginx作为负载均衡器,所有请求都到了nginx,可见nginx处于非常重点的位置,如果nginx服务器宕机后端web服务将无法提供服务,影响严重。       为了屏蔽负载均衡服务器的宕机,需要建立一个或多个备份机。主服务器和备份机上都运行高可用(High Availability)监控程序,通过传送诸如“I am alive”这样的信息来监控对方的运行状况。当备份机不能在一定的时间内收到这样的信息时,它就接管主服务器的服务IP并继续提供负载均衡服务;当备份管理器又从主管理器收到“I am alive”这样的信息时,它就释放服务IP地址,这样的主服务器就开始再次提供负载均衡服务。

②keepalived+nginx实现主备。

什么是keepalived?

keepalived是集群管理中保证集群高可用的一个服务软件,用来防止单点故障。 Keepalived的作用是检测web服务器的状态,如果有一台web服务器死机,或工作出现故障,Keepalived将检测到,并将有故障的web服务器从系统中剔除,当web服务器工作正常后Keepalived自动将web服务器加入到服务器群中,这些工作全部自动完成,不需要人工干涉,需要人工做的只是修复故障的web服务器。

keepalived工作原理:

         keepalived是以VRRP协议为实现基础的,VRRP全称Virtual Router Redundancy Protocol,即虚拟路由冗余协议。

         虚拟路由冗余协议,可以认为是实现路由器高可用的协议,即将N台提供相同功能的路由器组成一个路由器组,这个组里面有一个master和多个backup,master上面有一个对外提供服务的vip(VIP = Virtual IP Address,虚拟IP地址,该路由器所在局域网内其他机器的默认路由为该vip),master会发组播,当backup收不到VRRP包时就认为master宕掉了,这时就需要根据VRRP的优先级来选举一个backup当master。这样的话就可以保证路由器的高可用了。

         keepalived主要有三个模块,分别是core、check和VRRP。core模块为keepalived的核心,负责主进程的启动、维护以及全局配置文件的加载和解析。check负责健康检查,包括常见的各种检查方式。VRRP模块是来实现VRRP协议的。

 

keepalived+nginx实现主备过程?

  1. 初始状态

 

 

nginx 两台服务器做负载均衡 两台nginx高可用_Nginx负载均衡高可用

2.主机宕机

nginx 两台服务器做负载均衡 两台nginx高可用_服务器_02

3.主机恢复

 

nginx 两台服务器做负载均衡 两台nginx高可用_nginx 两台服务器做负载均衡_03

③安装keepalived。

分别在主备nginx节点上安装keepalived。

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_04

上传以上文件。

先将以上文件放在D盘根目录

nginx 两台服务器做负载均衡 两台nginx高可用_Nginx负载均衡高可用_05


nginx 两台服务器做负载均衡 两台nginx高可用_服务器_06

连接Nginx01节点,然后 cd ~

然后Alt+P

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_07

nginx 两台服务器做负载均衡 两台nginx高可用_服务器_08

 

nginx 两台服务器做负载均衡 两台nginx高可用_Nginx负载均衡高可用_09

复制该文件到/usr/local目录下。将keepalived-1.2.15.tar.gz上传到服务器/usr/local/下。

cp keepalived-1.2.15.tar.gz /usr/local/keepalived-1.2.15.tar.gz
 

安装环境

su - root

yum -y install kernel-devel*

yum -y install openssl-*

yum -y install popt-devel

yum -y install lrzsz

yum -y install openssh-clients

yum -y install libnl libnl-devel popt

解压keepalived-1.2.15.tar.gz

cd /usr/local

tar -zxvf keepalived-1.2.15.tar.gz

nginx 两台服务器做负载均衡 两台nginx高可用_服务器_10

 

再ll

nginx 两台服务器做负载均衡 两台nginx高可用_服务器_11

cd keepalived-1.2.15

再ll

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_12

 

在keepalived-1.2.15文件夹内执行配置命令

./configure --prefix=/usr/local/keepalived

nginx 两台服务器做负载均衡 两台nginx高可用_服务器_13

 看下图,生成文件Makefile,即可编译,安装。

nginx 两台服务器做负载均衡 两台nginx高可用_服务器_14

编译

make

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_15

安装

make install

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_16

至此安装成功

拷贝执行文件

nginx 两台服务器做负载均衡 两台nginx高可用_nginx 两台服务器做负载均衡_17

 /usr/local/keepalived/sbin/目录下的执行文件keepalived拷贝到目录/usr/sbin文件夹下

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_18

cp /usr/local/keepalived/sbin/keepalived /usr/sbin/

将init.d文件拷贝到etc下,加入开机启动项

cp /usr/local/keepalived/etc/rc.d/init.d/keepalived /etc/init.d/keepalived

然后用cd检查一下。文件是否到了该到的地方。

将keepalived文件拷贝到etc下,加入网卡配置

cp /usr/local/keepalived/etc/sysconfig/keepalived /etc/sysconfig/

创建keepalived文件夹

mkdir -p /etc/keepalived

将keepalived配置文件拷贝到etc下

cp /usr/local/keepalived/etc/keepalived/keepalived.conf /etc/keepalived/keepalived.conf

添加可执行权限

chmod +x /etc/init.d/keepalived

加入开机启动:

chkconfig --add keepalived       #添加时必须保证/etc/init.d/keepalived存在

chkconfig keepalived on

添加完可查询系统服务是否存在:chkconfig --list

nginx 两台服务器做负载均衡 两台nginx高可用_服务器_19

④启动keepalived。

启动:service keepalived start

停止:service keepalived stop

重启:service keepalived restart

⑤配置日志文件。

1.将keepalived日志输出到local0:

vi /etc/sysconfig/keepalived

KEEPALIVED_OPTIONS="-D -d -S 0"

 

2.在/etc/rsyslog.conf里添加:

local0.*  /var/log/keepalived.log

nginx 两台服务器做负载均衡 两台nginx高可用_Nginx负载均衡高可用_20

3.重新启动keepalived和rsyslog服务:

service rsyslog restart

service keepalived restart

⑥打开防火墙的通讯地址。

iptables -A INPUT -d 224.0.0.18 -j ACCEPT

/etc/rc.d/init.d/iptables save

这上面是两句话。分别执行。

⑦主Nginx上配置keepalived配置文件。

修改主nginx下/etc/keepalived/keepalived.conf文件

vi /etc/keepalived/keepalived.conf

复制出错,需要手动输入。

⑧在主nginx上需要编写nginx进程检测脚本(check_nginx.sh),判断nginx进程是否存在,如果nginx不存在就将keepalived进程杀掉,check_nginx.sh内容如下:

在主机Windows系统新建文本文件,修改后缀名txt为sh,并复制一下内容。然后上传文件check_nginx.sh

但用了以上方法,发现不能自动执行脚本check_nginx.sh,所以我们用touch 文件名,在指定位置创建文件,再复制内容。

#!/bin/bash
# 如果进程中没有nginx则将keepalived进程kill掉
A=`ps -C nginx --no-header |wc -l`      ## 查看是否有 nginx进程 把值赋给变量A 
if [ $A -eq 0 ];then                    ## 如果没有进程值得为 零
       service keepalived stop          ## 则结束 keepalived 进程
fi

完后,用cd命令检查一下。

脚本测试:

将nginx停止

cd /usr/local/nginx/sbin

./nginx -s quit

将keepalived启动

启动:service keepalived start

停止:service keepalived stop

重启:service keepalived restart

执行脚本:sh /etc/keepalived/check_nginx.sh

nginx 两台服务器做负载均衡 两台nginx高可用_nginx 两台服务器做负载均衡_21

 

 

从执行可以看出自动将keepalived进程kill掉了。

⑨修改keepalived.conf。

修改主nginx的/etc/keepalived/keepalived.conf文件,添加脚本定义检测:

#全局配置
global_defs {
   notification_email {  #指定keepalived在发生切换时需要发送email到的对象,一行一个
     XXX@XXX.com
   }
   notification_email_from miaoruntu@itcast.cn  #指定发件人
   #smtp_server XXX.smtp.com                             #指定smtp服务器地址
   #smtp_connect_timeout 30                               #指定smtp连接超时时间
   router_id LVS_DEVEL                                    #运行keepalived机器的一个标识
}
vrrp_script check_nginx {
    script "/etc/keepalived/check_nginx.sh"         ##监控脚本
    interval 2                                      ##时间间隔,2秒
    weight 2                                        ##权重
}
vrrp_instance VI_1 {
    state MASTER           #标示状态为MASTER 备份机为BACKUP
    interface eth1         #设置实例绑定的网卡
    virtual_router_id 51   #同一实例下virtual_router_id必须相同
    priority 100           #MASTER权重要高于BACKUP 比如BACKUP为99
    advert_int 1           #MASTER与BACKUP负载均衡器之间同步检查的时间间隔,单位是秒
    authentication {       #设置认证
        auth_type PASS     #主从服务器验证方式
        auth_pass 8888
    }
   track_script {
        check_nginx        #监控脚本
   }
    virtual_ipaddress {    #设置vip
        192.168.101.100       #可以多个虚拟IP,换行即可
    }
 
}

 

修改后重启keepalived

service keepalived restart

⑩备nginx修改备nginx下/etc/keepalived/keepalived.conf文件

配置备nginx时需要注意:需要修改state为BACKUP , priority比MASTER低,virtual_router_id和master的值一致,且网卡要和节点网卡一致。

! Configuration File for keepalived

 

#全局配置
global_defs {
   notification_email {  #指定keepalived在发生切换时需要发送email到的对象,一行一个
    XXX@XXX.com
   }
   notification_email_from XXX@XXX.com                                     #指定发件人
   #smtp_server XXX.smtp.com                             #指定smtp服务器地址
   #smtp_connect_timeout 30                               #指定smtp连接超时时间
   router_id LVS_DEVEL                                    #运行keepalived机器的一个标识
}
 
vrrp_instance VI_1 {
    state BACKUP           #标示状态为MASTER 备份机为BACKUP
    interface eth0         #设置实例绑定的网卡
    virtual_router_id 51   #同一实例下virtual_router_id必须相同
    priority 99            #MASTER权重要高于BACKUP 比如BACKUP为99 
    advert_int 1           #MASTER与BACKUP负载均衡器之间同步检查的时间间隔,单位是秒
    authentication {       #设置认证
        auth_type PASS     #主从服务器验证方式
        auth_pass 8888
    }
    virtual_ipaddress {    #设置vip
        192.168.101.100       #可以多个虚拟IP,换行即可
    }
}

⑪修改keepalived.conf。

修改备nginx的/etc/keepalived/keepalived.conf文件,添加脚本定义检测:复制出错,看

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_22

复制word文档里面的内容,避免复制出错。 

 

 

 

#全局配置
global_defs {
   notification_email {  #指定keepalived在发生切换时需要发送email到的对象,一行一个
     XXX@XXX.com
   }
   notification_email_from miaoruntu@itcast.cn  #指定发件人
   #smtp_server XXX.smtp.com                             #指定smtp服务器地址
   #smtp_connect_timeout 30                               #指定smtp连接超时时间
   router_id LVS_DEVEL                                    #运行keepalived机器的一个标识
}
vrrp_script check_nginx {
    script "/etc/keepalived/check_nginx.sh"         ##监控脚本
    interval 2                                      ##时间间隔,2秒
    weight 2                                        ##权重
}
vrrp_instance VI_1 {
    state   BACKUP     #标示状态为MASTER 备份机为BACKUP
    interface eth2         #设置实例绑定的网卡
    virtual_router_id 51   #同一实例下virtual_router_id必须相同
    priority  99           #MASTER权重要高于BACKUP 比如BACKUP为99
    advert_int 1           #MASTER与BACKUP负载均衡器之间同步检查的时间间隔,单位是秒
    authentication {       #设置认证
        auth_type PASS     #主从服务器验证方式
        auth_pass 8888
    }
   track_script {
        check_nginx        #监控脚本
   }
    virtual_ipaddress {    #设置vip
        192.168.101.100       #可以多个虚拟IP,换行即可
    }
 
}

修改后重启keepalived

service keepalived restart

⑫测试。发现check_nginx.sh并没有自动执行。

 vi /etc/keepalived/check_nginx.sh

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_23

 

然后按Esc键,输入:set ff

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_24

使用:set ff 查看nginx_check.sh脚本格式,发现当前脚本格式是dos。

nginx 两台服务器做负载均衡 两台nginx高可用_Nginx负载均衡高可用_25


使用:set fileformat=unix修改脚本格式,再查看脚本格式为:unix

nginx 两台服务器做负载均衡 两台nginx高可用_nginx 两台服务器做负载均衡_26

 

然后:wq

发现还是没有自动执行:

日志提示:WARNING - script '/etc/keepalived/check_nginx.sh' is not executable for uid:gid 0:0 - disabling.

   原因:backup上keepalived监控脚本没有执行权限

chmod +x /etc/keepalived/check_nginx.sh

初始状态:主和备节点的Nginx和keepalived都在运行。

查看主nginx的eth1设置:查看备Nginx的eth2。

vip绑定在主nginx的eth1上。

nginx 两台服务器做负载均衡 两台nginx高可用_nginx_27

 

 

没有绑在备Nginx上。

 

nginx 两台服务器做负载均衡 两台nginx高可用_Nginx负载均衡高可用_28

ip a 可以查看绑定情况

停止Nginx,模拟主机宕机。

./nginx -s quit
 

nginx 两台服务器做负载均衡 两台nginx高可用_服务器_29

备份机的eth2网卡绑定虚拟ip

nginx 两台服务器做负载均衡 两台nginx高可用_Nginx负载均衡高可用_30

主机恢复。则主机指定网卡绑定虚拟ip地址。

 

其他几台备Nginx机器也这样配置。