一、负载均衡集群介绍
负载均衡集群:简单地说就是让多台服务器均衡地去承载压力。
实现负载均衡的开源软件有:LVS,keepalived,haproxy,nginx等
其中相对于(网络OSI七层模型),LVS属于四层,Nginx属于七层,haproxy既可以认为四层,也可以认为是七层。
keepalived的负载均衡功能其实就是lvs
lvs这种4层的负载均衡是可以分发出80外的其他端口通信的,比如Mysql,而七层nginx仅仅支持http.https,mail,haproxy也支持mysql这种。
相比较来说,LVS这种4层的更稳定,能承受更多的情趣,而Nginx这种7层的更加灵活,能实现更多的个性化需求。
二、LVS介绍
LVS由国人章文嵩开发,流行度不亚于httpd,基于TCP/IP做的路由和转发,稳定性和效率很高
LVS有三种常见的模式:NAT,DR,IP Tunnel
LVS架构中有一个核心角色叫做分发器(Load Balancer),它用来分发用户的请求,还有诸多处理用户请求的服务器(RealServer,简称rs)
LVS的NAT模式:
这种模式借助iptables的nat表来实现,用户的请求到分发器后,通过预设的iptables规则,把请求的数据包转发到后端的rs上去。
rs需要设定网关为分发器的内网ip,用户请求的数据包和返回的用户的数据包全部经过分发器,所以分发器成为瓶颈。
优点:在NAT模式中,只需要分发器有公网Ip,分发器和rs之间可以用内网通信,所以比较节省公网ip资源
缺点:分发器成为瓶颈,请求量不能太大。规模保持在10台左右。
LVS IP Tunnel模式
我们可以想象分发器和每个rs之间建立了一个虚拟通道。这种模式,需要有一个公共的IP配置在分发器和所有rs上,我们把它叫做vip,
原理是客户端请求的目标IP为vip,分发器接收到请求数据包后,会对数据包做一个交工,会把目标IP由vip更改为rs的IP,这样数据包就到了rs上。
rs接受数据包后,会还原原始数据包,这样目标IP为vip,因为所有的rs上配置了这样一个vip,所以它会认为是它自己。
LVS DR模式
这种模式也需要一个公共的ip配置在分发器和所有rs上,也就是vip,
和IP Tunnel不同的是,它会把所有的MAC地址修改为rs的MAC,
rs接收数据包后,会还原原始数据包,这样目标IP为vip,因为所有rs上配置了这个vip,所以它会认识是它自己。
三、LVS调度算法
常用的4种
轮询:Round-Robin rr (任务均衡的分发到rs上)
加权轮询:Weight Round-Robin wrr (带权重的轮询,例如一个rs的配置好,你可以将它权重设置高一点)
最小连接:Least-Connection lc (把新的任务发送到请求数少的rs上)
加权最小连接:Weight Least-Connection wlc (带权重的最小连接)
不常用的4种
基于局部性的最小连接:Locality-Based Least Connections lblc
带复制的基于局部性最小链接:Locality-Based Least Connections with Replication lblcr
目标地址散列调度:Destination Hashing dh
源地址散列调度:Source Hashing sh
四、NAT模式搭建
准备工作:
三台机器
分发器,也叫调度器(dir)
内网:192.168.52.100 外网:192.168.211.100 (vmware仅主机模式)
rs1:
内网:192.168.52.101 网关GATEWAY:192.168.52.100 (将网关设置成分发器的内网)
[root@zhuji ~]# route -n
Kernel IP routing table
Destination Gateway Genmask Flags Metric Ref Use Iface
0.0.0.0 192.168.52.100 0.0.0.0 UG 100 0 0 ens33
192.168.52.0 0.0.0.0 255.255.255.0 U 100 0 0 ens33
rs2:
外网:192.168.52.102 网关GATEWAY:192.168.52.100 (将网关设置成分发器的内网)
[root@zhuji ~]# route -n
Kernel IP routing table
Destination Gateway Genmask Flags Metric Ref Use Iface
0.0.0.0 192.168.52.100 0.0.0.0 UG 100 0 0 ens33
192.168.52.0 0.0.0.0 255.255.255.0 U 100 0 0 ens33
三台机器关闭防火墙:
[root@lty ~]# systemctl stop firewalld
[root@lty ~]# systemctl disable firewalld
三台机器使用centos6中iptables的规则:
[root@lty ~]# yum install iptable-service -y
[root@zhuji ~]# systemctl start iptables
[root@zhuji ~]# iptables -F
[root@zhuji ~]# service iptables save
[root@zhuji ~]# systemctl enable iptables
三台机器关闭selinux:
[root@lty ~]# setenforce 0
配置:
在dir上安装ipvsadm (这个工具是实现lvs的重要工具,只用在分发器上安装)
[root@congji ~]# yum install ipvsadm -y
在dir上编辑脚本,在ipvsadm上最好用脚本去执行命令,方便简洁:
[root@congji ~]# vim /usr/local/sbin/lvs.nat.sh
#! /bin/bash
# director 服务器上开启路由转发功能
echo 1 > /proc/sys/net/ipv4/ip_forward
# 关闭icmp的重定向
echo 0 > /proc/sys/net/ipv4/conf/all/send_redirects
echo 0 > /proc/sys/net/ipv4/conf/default/send_redirects
# 注意区分网卡名字,阿铭的两个网卡分别为ens33和ens37
echo 0 > /proc/sys/net/ipv4/conf/ens33/send_redirects
echo 0 > /proc/sys/net/ipv4/conf/ens37/send_redirects
# director 设置nat防火墙
iptables -t nat -F
iptables -t nat -X
#同网段的内网可以上网
iptables -t nat -A POSTROUTING -s 192.168.52.0/24 -j MASQUERADE
# director设置ipvsadm
IPVSADM='/usr/sbin/ipvsadm'
$IPVSADM -C
$IPVSADM -A -t 192.168.221.100:80 -s rr
$IPVSADM -a -t 192.168.221.100:80 -r 192.168.52.101:80 -m -w 1
$IPVSADM -a -t 192.168.221.100:80 -r 192.168.52.102:80 -m -w 1
[root@congji ~]# sh !$
sh /usr/local/sbin/lvs.nat.sh
测试:两台机子上都要安装Nginx/
dir用Yum安装nginx,修改主页:
[root@congji ~]# vim /usr/share/nginx/html/index.html
dir,dir,dir
rs1用源码包安装nginx,修改主页:
[root@zhuji ~]# vim /data/wwwroot/default/index.html
rs1,rs1,rs1
rs2用yum 安装,修改主页:
[root@lty ~]# vim /usr/share/nginx/html/index.html
rs2,rs2,rs2
curl测试:
[root@congji ~]# curl 192.168.221.100
rs2,rs2,rs2
[root@congji ~]# curl 192.168.221.100
rs1,rs1,rs1
[root@congji ~]# curl 192.168.221.100
rs2,rs2,rs2
[root@congji ~]# curl 192.168.221.100
rs1,rs1,rs1
[root@congji ~]# curl 192.168.221.100
rs2,rs2,rs2
[root@congji ~]# curl 192.168.221.100
rs1,rs1,rs1