群集之LVS负载均衡群集（DR模式）

原创

码海胖胖虎 2022-02-07 15:09:44 ©著作权

文章标签 服务器负载均衡 ip地址 文章分类 负载均衡服务器

©著作权归作者所有：来自51CTO博客作者码海胖胖虎的原创作品，请联系作者获取转载授权，否则将追究法律责任

(目录)

一、一、LVS-DR工作原理

1、数据包流向分析

第一步：客户端发送请求到 Director Server (负载均衡器），请求的数据报文到达内核空间。 数据报文

源 IP ------客户端的 IP
目标 IP ------ VIP
源 MAC ------客户端的 MAC
目的 MAC ------ Director Server 的 MAC 第二步：内核空间判断数据包的目标 IP 是本机 VIP ，此时 IPVS（IP 虚拟服务器）比对数据包请求的服务是否是集群服务，是集群服务就重新封装数据包。然后将数据包发送给根据负载均衡算法选择的 Real Server。（Director Server 和 Real Server 在同一个网络中，数据通过二层数据链路层来传输。） 数据报文
源 IP ------ 客户端的 IP
目标 IP ------ VIP
源 MAC ------ Director Server 的 MAC
目的 MAC ------ Real Server 的 MAC 第三步：到达 Real Server 的请求报文的 MAC 地址是自身的 MAC 地址，就接收此报文。数据包重新封装报文，将响应报文通过 lo 接口传送给物理网卡然后向外发出。 数据报文
源 IP ------ VIP
目标 IP ------ 客户端的 IP
源 MAC ------ Real Server 的 MAC
目的 MAC ------ 客户端的 MAC 第四步：通过交换机和路由器将响应报文传送到客户端。客户端收到回复报文，得到想要的服务，但是不会知道是哪台服务器处理的

2、DR模式的特点

Director Server 和 Real Server 必须在同一个物理网络中。
Real Server 可以使用私有地址，也可以使用公网地址。如果使用公网地址，可以通过互联网对 RIP 进行直接访问。
Director Server 作为群集的访问入口，但不作为网关使用。
所有的请求报文经由 Director Server，但回复响应报文不能经过 Director Server。
Real Server的网关不允许指向Director Server IP，即 Real Server 发送的数据包不允许经过 Director Server。
Real Server 上的 lo 接口配置 VIP 的 IP 地址。

二、LVS-DR中的ARP问题

问题一：在LVS-DR负载均衡集群中，负载均衡与节点服务器都要配置相同的VIP地址。在局域网中具有相同的IP地址，势必会造成各服务器ARP通信的紊乱。 解决思路：

当ARP广播发送到LVS-DR集群时，因为负载均衡器和节点服务器都是连接到相同网络上，它们都会接收到ARP广播。
只有前端的负载均衡器进行响应，其他节点服务器不应该响应ARP广播。 对节点服务器进行处理，使其不响应针对VIP的ARP请求。 解决方法：
使用虚接口lo:0承载VIP地址
设置内核参数arp_ignore=1:系统只响应目的IP为本地IP的ARP请求 问题二：
RealServer返回报文（源IP是VIP）经路由器转发，重新封装报文时，需要先获取路由器的MAC地址。
发送ARP请求时，Linux默认使用IP包的源IP地址（即VIP）作为ARP请求包中的源IP地址，而不使用发送接口的IP地址
如：ens33
路由器收到ARP请求后，将更新ARP表项
原有的VIP对应Director的MAC地址会被更新为VIP对应RealServer的MAC地址
路由器根据ARP表项，会将新来的请求报文转发给RealServer，导致Director的VIP失效 解决方法：
对节点服务器进行处理，设置内核参数arp_announce=2：系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址。

解决ARP的两个问题的设置方法

修改 /etc/sysctl.conf 文件

net.ipv4.conf.lo.arp_ignore=1
net.ipv4.conf.lo.arp_announce=2
net.ipv4.conf.all.arp_ignore=1
net.ipv4.conf.all.arp_announce=2

三、LVS负载均衡DR模式群集部署

调度器：ens33:0  承载VIP，设置内核参数，不做路由器转发，配置ipvsadm   -g指定为DR模式
节点服务器：lo:0  承载VIP，设置内核参数，限制ARP请求，配置路由限制在本地   安装WEB应用

搭建环境

主机	操作系统	IP地址	所需服务
DR服务器（负载调度器）	CentOS7	ens33：192.168.80.20，ens33:0 (VIP)：192.168.80.188	ipvsadm
Web节点服务器1	CentOS7	ens33：192.168.80.30，ens33:0 (VIP)：192.168.80.188	httpd
Web节点服务器2	CentOS7	ens33：192.168.80.40，ens33:0 (VIP)：192.168.80.188	httpd
客户端	Windows7	192.168.80.100

注：此次搭建在同一局域网内，设置网络时不用网关和DNS，注释即可。如果不在同一网段，需要配置网关。

1.配置负载调度器（192.168.80.20）

systemctl stop firewalld.service
setenforce 0
modprobe ip_vs
cat /proc/net/ip_vs

yum -y install ipvsadm

(1)配置虚拟IP地址（VIP：192.168.80.188）

cd /etc/sysconfig/network-scripts/
cp ifcfg-ens33 ifcfg-ens33:0       #若隧道模式，复制为ifcfg-tunl0

vim ifcfg-ens33:0
DEVICE=ens33:0
ONBOOT=yes
IPADDR=192.168.80.188
NETMASK=255.255.255.255

ifup ens33:0
ifconfig ens33:0

(2)调整proc响应参数

#由于LVS负载调度器和各节点需要共用VIP地址，需要关闭icmp的重定向，不充当路由器。
vim /etc/sysctl.conf
net.ipv4.ip_forward = 0
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

sysctl -p

(3)配置负载分配策略

ipvsadm-save > /etc/sysconfig/ipvsadm
systemctl start ipvsadm

ipvsadm -C
ipvsadm -A -t 192.168.80.188:80 -s rr
ipvsadm -a -t 192.168.80.188:80 -r 192.168.80.30:80 -g #若隧道模式，-g替换为-i
ipvsadm -a -t 192.168.80.188:80 -r 192.168.80.40:80 -g
ipvsadm

ipvsadm -ln   #查看节点状态，Route代表DR模式

2.配置节点服务器

Web节点服务器1：ens33：192.168.80.30 lo:0 (VIP)：192.168.80.188 Web节点服务器2：ens33：192.168.80.40 lo:0 (VIP)：192.168.80.188

systemctl stop firewalld.service
systemctl disable firewalld.service
setenforce 0

(1)配置虚拟IP地址（VIP：192.168.80.188）

#此地址仅用做发送 Web 响应数据包的源地址，并不需要监听客户机的访问请求（改由调度器监听并分发）。
#因此使用虚接口lo:0来承载VIP地址，并为本机添加一条路有记录，将访问VIP的数据限制在本地，以避免通信紊乱。
vim /etc/sysconfig/network-scripts/ifcfg-lo:0
DEVICE=lo:0
IPADDR=192.168.80.188
NETMASK=255.255.255.255
ONBOOT=yes

ifup lo:0
ifconfig lo:0
route add -host 192.168.80.188 dev lo:0#设置临时的路由，重启失效；禁锢路由
route -n#查看路由

#开机自动添加路由
vim /etc/rc.local
--添加--
/sbin/route add -host 192.168.80.188 dev lo:0

chmod +x /etc/rc.d/rc.local

(2)调整内核的ARP 响应参数以阻止更新VIP的MAC地址，避免发生冲突

vim /etc/sysctl.conf
......
net.ipv4.conf.lo.arp_ignore = 1 #系统只响应目的IP为本地IP的ARP请求
net.ipv4.conf.lo.arp_announce = 2 #系统不使用IP包的源地址来设置ARP请求的源地址，而选择发送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
sysctl -p
或者
echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
sysctl -p
--------------------
yum install -y httpd
systemctl start httpd.service
systemctl enable httpd.service

echo 'this is test web1!' > /var/www/html/index.html
echo 'this is test web2!' > /var/www/html/index.html

4.测试验证

在客户端访问 http://192.168.80.188/，刷新测试负载均衡是否成功

总结

简述LVS三种工作模式及其区别

NAT：通过网络地址转换实现的虚拟服务器，大并发访问时，调度器的性能成为瓶颈
DR：使用路由技术实现虚拟服务器，节点服务器需要配置VIP，注意MAC地址广播
TUN：通过隧道方式实现虚拟服务器。

列举LVS调度算法

轮询(Round Robin) 加权轮询(weighted Round Robin) 最少连接(Least Connections) 加权最少连接(weighted Least Connections) 源地址哈希值(source hash)

LVS调度器常见算法(均衡策略)

LVS调度器用的调度方法基本分为两类

#固定调度算法：rr，wrr，dh，sh
rr：轮询算法，将请求依次分配给不同的rs节点，即RS节点中均摊分配。适合于RS所有节点处理性能接近的情况。
wrr：加权轮训调度，依据不同RS的权值分配任务。权值较高的RS将优先获得任务，并且分配到的连接数将比权值低的RS更多。相同权值的RS得到相同数目的连接数。
dh：目的地址哈希调度（destination hashing）以目的地址为关键字查找一个静态hash表来获得所需RS。
sh：源地址哈希调度（source hashing）以源地址为关键字查找一个静态hash表来获得需要的RS。
------------------------------
#动态调度算法：wlc，lc，lblc
wlc：加权最小连接数调度，假设各台RS的权值依次为wi，当前tcp连接数依次为Ti，依次去Ti/Wi为最小的Rs作为下一个分配的RS.
lc：最小连接数调度（least-connection），IPVS表存储了所有活动的连接。LB会比较将连接请求发送到当前连接最少的RS。
lblc：基于地址的最小连接数调度( locality-based least-connection)﹔将来自同一个目的地址的请求分配给同一台RS，此时这台服务器是尚未满负荷的。否则就将这个请求分配给连接数最小的RS，并以它作为下一次分配的首先考虑。

LVS的工作模式及其工作过程

LVS有三种负载均衡的模式，分别是VS/NAT （nat模式）、VS/DR（路由模式）、VS/TUN（隧道模式）。 1、NAT模式（VS-NAT） 原理：首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求数据包的目标IP地址及端口改成后端真实服务器的IP地址（RIP）。真实服务器响应完请求后，查看默认路由，把响应后的数据包发送给负载均衡器，负载均衡器在接收到响应包后，把包的源地址改成虚拟地址（VIP）然后发送回给客户端。

==优点==:集群中的服务器可以使用任何支持TCP/IP的操作系统，只要负载均衡器有- -个合法的IP地址。 ==缺点==:扩展性有限，当服务器节点增长过多时，由于所有的请求和应答都需要经过负载均衡器，负载均衡器将是整个系统的瓶颈。

2、直接路由模式（VS-DR） 原理：首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求数据包的目标MAC地址改成后端真实服务器的MAc地址（R-MAC）。真实服务器响应完请求后，查看默认路由，把响应后的数据包直接发送给客户端，不需要经过负载均衡器。

==优点==:负载均衡器只负责将请求包分发给后端节点服务器，而Rs将应答包直接发给用户。所以，减少了负载均衡器的大量数据流动，负裁均衡器不再是系统的瓶颈，也能处理很巨大的请求量。 ==缺点==:需要负载均衡器与真实服务器RS都有一块网卡连接到同一物理网段上，必须在同一个局域网环境.

3、IP隧道模式（VS-TUN） **原理：**首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求报文封装一层IP隧道（T-IP）转发到真实服务器（RS）。真实服务器响应完请求后，查看默认路由，把响应后的数据包直接发送给客户端，不需要经过负载均衡器。

==优点==:负载均衡器只负责将请求包分发给后端节点服务器，而RS将应答包直接发给用户。所以，减少了负载均衡器的大量数据流动，负载均衡器不再是系统的瓶颈，也能处理很巨大的请求量。 ==缺点==:隧道模式的Rs节点需要合法IP，这种方式需要所有的服务器支持"IP Tunneling"。