LVS-DR数据包流向分析

 为方便进行原理分析,将Client与群集机器放在同一网络中,数据包流经的路线为1-2-3-4;

部署LVS-DR群集_LVS 负载均衡

(1)客户端发送请求到Director Server (负载均衡器),请求的数据报文(源IP是CIP,
目标IP是VIP) 到达内核空间。
(2) Director Server 和Real Server在同一个网络中,数据通过二层数据链路层来
传输。
(3)内核空间判断数据包的目标IP是本机VIP,此时IPVS(IP虚拟服务器)比对数据包请求
的服务是否是集群服务,是集群服务就重新封装数据包。修改源MAC地址为Director
Server 的MAC地址,修改目标MAC地址为Real Server 的MAC地址,源IP地址与目标
IP地址没有改变,然后将数据包发送给Real Server。
(4)到达Real Server 的请求报文的MAC地址是自身的MAC地址,就接收此报文。数据包
重新封装报文(源IP地址为VIP,目标IP为CIP),将响应报文通过 lo 接口传送给物理网
卡然后向外发出。
(5) Real Server 直接将响应报文传送到客户端。

DR模式的特点

(1) Director Server 和Real Server必须在同一个物理网络中。
(2) Real Server 可以使用私有地址,也可以使用公网地址。如果使用公网地址,可以通过互联网对RIP进行直接访问。
(3) Director Server作为群集的访问入口,但不作为网关使用。
(4) 所有的请求报文经由Director Server,但回复响应报文不能经过Director Server.
(5) Real Server 的网关不允许指向Director Server IP,即Real Server发送的数据包不允许经过Director Server。
(6) Real Server上的lo接口配置VIP的IP地址。

LVS-DR中的ARP问题:

1、在局域网中具有相同的IP地址,势必会造成各服务器ARP通信的紊乱
当ARP广播发送到LVS-DR集群时,因为负载均衡器和节点服务器都是连接到相同的网络上,它们都会接收到ARP广播
只有前端的负载均衡器进行响应,其他节点服务器不应该响应ARP广播

答:对节点服务器进行处理,使其不响应针对VIP的ARP请求
使用虚接口lo:0承载VIP地址
设置内核参数arp_ignore=1: 系统只响应目的IP为本地IP的ARP请求

2、RealServer返回报文(源IP是VIP)经路由器转发,重新封装报文时,需要先获取路由器的MAC地址
发送ARP请求时,Linux默认使用IP包的源IP地址(即VIP) 作为ARP请求包中的源IP地址,而不使用发送接口的IP地址。

答:改用节点服务器的接口IP地址进行ARP请求;
对节点服务器进行处理,设置内核参数arp_announce=2: 系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址

解决ARP的两个问题的设置方法

修改/etc/sysctl.conf文件
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2

实验案例:

操作步骤

调度服务器:

为ens33配置 IP地址,为ens33:0配置VIP地址
安装ipvsadm软件包,为VIP创建虚拟服务器,使用rr算法
为虚拟服务器添加四个Web节点,采用DR工作模式,权重均设为1
保存LVS负载分配策略,并通过系统服务ipvsadm进行管理

节点服务器

LVS-DR中,四台节点服务器要配置绑定VIP地址
VIP地址仅用作Web响应数据包的源地址,并不监听客户机的访问请求
为ens33, 为lo:0配置VIP地址, 并添加路由记录,将访问VIP的数据限制在本地
修改/etc/sysctl.conf文件
net.ipv4.conf.lo.arp_ignore = 1
net.ipv4.conf.lo.arp_announce = 2
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2

在四台节点服务器上安装配置并启用httpd服务器,分别创建测试网页,
测试网页内容要不相同,以区别不同的节点服务器

环境配置

NFS服务器:192.168.163.9
DR服务器: 192.168.163.6
Web服务器1: 192.168.163.7
Web服务器2: 192.168.163.8
vip: 192.168.163.188
客户端: 192. 168.80.200

1.配置负载调度器(192.168.163.6)

systemctl stop firewalld. service
setenforce 0

modprobe ip_vs
cat /proc/net/ip_vs

部署LVS-DR群集_配置方法_02

(1)配置虚拟IP地址(VIP: 192.168.163.188)

cd /etc/sysconfig/network- scripts/

cp ifcfg-ens33 ifcfg-ens33:0 #若隧道模式,复制为ifcfg-tunl0

vim ifcfg-ens33:0
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.163.188
NETMASK=255.255.255.255

ifup ens33:0
ifconfig ens33:0

部署LVS-DR群集_LVS 负载均衡_03

(2)调整proc响应参数

#由于LVS负载调度器和各节点需要共用VIP地址,需要关闭icmp 的重定向,不充当路由
器。

vim /etc/sysctl.conf
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

sysctl -p

部署LVS-DR群集_DR模式_04

(3)配置负载分配策略

yum -y install ipvsadm

ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm

ipvsadm -C
ipvsadm -A -t 192.168.80.188:80 -s rr
ipvsadm -a -t 192.168.80.188:80 -r 192.168.80.12:80 -g #若隧道模式,-g替换为-i
ipvsadm -a -t 192.168.80.188:80 -r 192.168.80.13:80 -g
ipvsadm

ipvsadm -1n #查看节点状态,Route代表DR模式

部署LVS-DR群集_DR模式_05

部署LVS-DR群集_DR模式_06

2.部署共享存储(NFS服务器: 192.168.163.9)

systemctl stop firewalld.service
setenforce 0

yum -y install nfs-utils rpcbind
mkdir /opt/kgc /opt/benet
chmod 777 /opt/kgc /opt/benet

vim /etc/exports

/opt/kgc 192.168.163.0/24(rw, sync)
/opt/benet 192.168.163.0/24(rw, sync)

systemctl start rpcbind.service
systemctl start nfs.service

部署LVS-DR群集_配置方法_07

部署LVS-DR群集_DR模式_08

部署LVS-DR群集_DR模式_09

3.配置节点服务器(192.168.163.7、192.168.163.8)

systemctl stop firewalld.service
setenforce 0

yum install -y httpd
systemctl start httpd

部署LVS-DR群集_LVS 负载均衡_10

(1)配置虚拟IP地址(VIP: 192.168.163.188 )

#此地址仅用作发送Web响应数据包的源地址,并不需要监听客户机的访问请求(改由调度器监听并分发)。因此使用虚接口 lo:0 来承载VIP地址,并为本机添加一条路由记录,将访问VIP的数据限制在本地,以避免通信紊乱。

cd /etc/sysconfig/network-scripts/
cp ifcfg-lo ifcfg-lo:0

vim ifcfg-lo:0
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.163.188
NETMASK=255.255.255.255 #注意:子网掩码必须全为1

ifup lo:0
ifconfig lo:0
route add -host 192.168.80.188 dev lo:0
或永久配置
vim /etc/rc.local
/usr/sbin/route add -host 192.168.80.188 dev lo:0
chmod +x /etc/rc.d/rc.local

部署LVS-DR群集_配置方法_11

部署LVS-DR群集_LVS 负载均衡_12

部署LVS-DR群集_配置方法_13

(2)调整内核的ARP响应参数以阻止更新VIP的MAC地址,避免发生冲突

vim /etc/sysctl.conf
......
net.ipv4.conf.lo.arp_ignore = 1 #系统只响应目的IP为本地IP的ARP请求
net.ipv4.conf.lo.arp_announce = 2 #系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2

sysctl -p

yum -y install nfs-utils rpcbind
yum -y install nfs-utils rpcbind

systemctl start rpcbind
systemctl start nfs
systemctl start httpd

--192.168.163.7---
mount 192.168.163.9:/opt/kgc /var/www/html
echo 'this is kgc web!' > /var/www/html/index.html

-- 192.168.163.8---
mount 192.168.163.9: /opt/benet/var/www/html
echo 'this is benet web!' > /var/www/html/index.html



部署LVS-DR群集_LVS 负载均衡_14

部署LVS-DR群集_配置方法_15

部署LVS-DR群集_配置方法_16

4.测试LVS群集

在客户端使用浏览器访问http://192.168.80.188

部署LVS-DR群集_配置方法_17

部署LVS-DR群集_DR模式_18