部署LVS-DR群集

直接路由模式 (VS-DR)

原理

首先负载均衡器接收到客户的请求数据包时,根据调度算法决定将请求发送给哪个后端的真实服务器(RS)。然后负载均衡器就把客户端发送的请求数据包的目标MAC地址改成后端真实服务器的MAC地址(R-MAC)。真实服务器响应完请求后,查看默认路由,把响应后的数据包直接发送给客户端,不需要经过负载均衡器。

优点

负载均衡器只负责将请求包分发给后端节点服务器,而RS将应答包直接发给用户。所以,减少了负载均衡器的大量数据流动,负载均衡器不再是系统的瓶颈,也能处理很巨大的请求量。

缺点

需要负载均衡器与真实服务器RS都有一块网卡连接到同一物理网段上,必须在同一个局域网环境。

DR模式LVS负载均衡群集

数据包流向分析

(1) 客户端发送请求到 Director Server (负载均衡器),请求的数据报文 (源 IP 是 CIP,目标 IP 是 VIP)到达内核空间。
(2) Director Server 和Real Server 在同一个网络中,数据通过二层数据链路层来传输。
(3) 内核空间判断数据包的目标IP是本机VIP,此时IPVS(IP虚拟服务器)比对数据包请求的服务是否是集群服务,是集群服务就重新封装数据包。修改源 MAC 地址为 Director Server 的 MAC 地址,修改目标 MAC地址为 Real Server 的 MAC 地址,源 IP 地址与目标IP 地址没有改变,然后将数据包发送给 Real Server。
(4) 到达 Real Server 的请求报文的 MAC 地址是自身的 MAC 地址,就接收此报文。数据包重新封装报文(源 IP 地址为 VIP,目标IP 为 CIP),将响应报文通过 lo 接口传送给物理网卡然后向外发出。
(5) Real Server 直接将响应报文传送到客户端。

DR 模式的特点

(1) Director Server 和 Real Server 必须在同一个物理网络中。
(2) Real Server 可以使用私有地址,也可以使用公网地址。如果使用公网地址,可以通过互联网对 RIP 进行直接访问。
(3) Director Server作为群集的访问入口,但不作为网关使用。
(4) 所有的请求报文经由 Director Server,但回复响应报文不能经过 Director Server。
(5) Real Server 的网关不允许指向 Director Server IP, 即Real Server发送的数据包不允许经过 Director Server。
(6) Real Server 上的 lo 接口配置 VIP 的 IP 地址。

LVS-DR数据包流向分析

为方便进行原理分析,将Client与群集机器放在同一网络中,数据包流经的路线为1-2-3-4
image.png

1.Client向目标VIP发出请求,Director (负载均衡器)接收

IP包头及数据帧头信息
image.png

2.Director根据负载均衡算法选择RealServer_1,不修改也不封装IP报文,而是将数据帧的MAC地址改为RealServer_1的MAC地址,然后在局域网上发送

IP包头及数据帧头信息
image.png

3.RealServer_1收到这个帧,解封装后发现目标IP与本机匹配(RealServer事先绑定 了VIP),于是处理这个报文。随后重新封装报文,将响应报文通过lo接口传送给物理网卡然后向外发出。

IP包头及数据帧头信息
image.png

4.Client将收到回复报文。Client认为得到正常的服务,而不会知道是哪一台服务器处理的

注意:如果跨网段,则报文通过路由器经由Internet返回给用户
image.png

LVS-DR中的ARP问题

问题一

image.png
在LVS-DR负载均衡集群中,负载均衡器与节点服务器都要配置相同的VIP地址

在局域网中具有相同的IP地址,势必会造成各服务器ARP通信的紊乱
●当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会接收到ARP广播
●只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播

对节点服务器进行处理,使其不响应针对VIP的ARP请求
●使用虚接口 Io:0承载VIP地址
●设置内核参数arp_ignore=1: 系统只响应目的IP为本地IP的ARP请求

问题二

image.png
RealServer返回报文(源IP是VIP)经路由器转发,重新封装报文时,
需要先获取路由器的MAC地址
发送ARP请求时,Linux默认使用IP包的源IP地址(即VIP) 作为ARP请求包中的源IP地址,而不使用发送接口 的IP地址

  • 如: ens33接口
    image.png
    路由器收到ARP请求后,将更新ARP表项
    原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer的MAC地址
    image.png

    问题三

    image.png
    路由器根据ARP表项,会将新来的请求报文转发给RealServer,导致Director的VIP失效
    image.png
    解决:对节点服务器进行处理,设置内核参数arp_announce=2: 系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址

DR模式 LVS负载均衡群集部署

搭建环境

DR服务器: 192.168.38.38
Web服务器1: 192.168.38.74
Web服务器2: 192.168.38.75
vip: 192.168.38.188
客户端: 192.168.38.129

1.配置负载调度器(192.168.38.38)

systemctl stop firewalld.service   #关闭防火墙
setenforce 0                       #关闭系统安全机制   
modprobe ip_vs                     #加载ip_vs模块
cat /proc/net/ip_vs
yum -y install ipvsadm             #安装ipvsadm工具

image.png

(1)配置虚拟IP地址(VIP: 192.168.38.188)

cd /etc/sysconfig/network-scripts/
cp ifcfg-ens33 ifcfg-ens33:0      #若隧道模式,复制为ifcfg-tunl0
vim ifcfg-ens33:0                 #在负载均衡器上配置虚拟IP ens33:0           
DEVICE=ens33: 0                   #网卡名
ONBOOT=yes                        #开机自动连接
IPADDR=192.168.38.188             #ip地址
NETMASK=255.255.255.255           #注意: 子网掩码必须全为1

ifup ens33:0                      #启用ens33:0网卡
ifconfig ens33:0                  #查看网卡配置是否生效

image.png
image.png

(2)调整proc 响应参数

#由于 LVS 负载调度器和各节点需要共用 VIP 地址,需要关闭 icmp 的重定向,不充当路由器。
vim /etc/sysctl.conf          #修改系统内核配置
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
#关闭重定向功能

sysctl -p                     #加载刚添加的内核配置

image.png
image.png

(3)配置负载分配策略

ipvsadm-save > /etc/sysconfig/ipvsadm     #保存负载分配策略,否则服务无法启动
systemctl start ipvsadm                   #开启服务

ipvsadm -C                                #清空策略
ipvsadm -A -t 192.168.38.188:80 -s rr
ipvsadm -a -t 192.168.38.188:80 -r 192.168.38.74:80 -g      #若隧道模式,-g替换为-i
ipvsadm -a -t 192.168.38.188:80 -r 192.168.38.75:80 -g
#设置分配策略
ipvsadm              #加载

ipvsadm -ln          #查看节点状态,Route代表 DR模式

image.png

2.配置节点服务器(192.168.38.74、192.168.38.75)

systemctl stop firewalld.service     #关闭防火墙
setenforce 0                         #关闭系统安全机制

image.png

(1)配置虚拟 IP 地址(VIP: 192.168.38.188)

#此地址仅用作发送 Web响应数据包的源地址,并不需要监听客户机的访问请求(改由调度器监听并分发)。因此使用虚接口 lo:0来承载 VIP 地址,并为本机添加一条路由记录,将访问 VIP 的数据限制在本地,以避免通信素乱。
-----------------------------------------------------
#两个web服务器操作相同
yum install -y httpd
cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0
vim ifcfg-lo:0                     #编辑lo口的虚拟网卡
DEVICE=lo:0                        #填写网卡名
ONBOOT=yes                         #开机自动连接   
IPADDR=192.168.38.188              #ip地址
NETMASK-255.255.255.255            #注意: 子网掩码必须全为1

ifup lo:0                          #启动lo:0网卡
ifconfig lo:0                      #查看网卡配置是否生效
route add -host 192.168.38.188 dev lo:0    #设置路由,访问192.168.38.188地址的发给lo口,使其发不出去
------------------------------------------------------
vim /etc/rc.local
/usr/sbin/route add -host 192.168.38.188 dev lo:0

chmod +x /etc/rc.d/rc.local

image.png
image.png
image.png
image.png
image.png

(2)调整内核的ARP响应参数以阻止更新VIP的MAC地址,避免发生冲突

#两个web服务器操作相同
vim /etc/sysctl.conf               #编辑系统内核设置
......
net.ipv4.conf.lo.arp_ignore = 1    #系统只响应目的IP为本地IP的ARP请求
net.ipv4.conf.lo.arp_announce = 2  #系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2

sysctl -p                          #加载刚添加的内核配置

---192.168.38.74---
cd /var/www/html/
vim index.html                     #设置首页文件
玛卡巴卡

systemctl start httpd

---192.168.38.75---
cd /var/www/html/
echo '唔西迪西' > index.html     #设置首页文件

systemctl start httpd

192.168.38.74
image.png
image.png
192.168.38.75
image.png

3.测试 LVS 群集

在客户端使用浏览器访问 http://192.168.38.188/
image.png
image.png