LVS负载均衡集群--NAT模式

转载

mb5fed43756edc3 2021-08-18 22:12:00

文章标签 服务器负载均衡 ip地址客户端调度算法 文章分类 代码人生

企业群集应用概述

群集的含义

Cluster，集群、群集
由多台主机构成，但对外只表现为一个整体

群集的三种类型

　　负载均衡群集、高可用群集和高性能运算群集。

负载均衡群集

提高应用系统的响应能力、尽可能处理更多的访问请求、减少延迟为目标，获得高并发、高负载（LB）的整体性能
LB的负载分配依赖于主节点的分流算法

高可用群集

提高应用系统的可靠性、尽可能地减少中断时间为目标，确保服务的连续性，达到高可用（HA）的容错效果
HA的工作方式包括双工和主从两种模式

高性能运算群集

提高应用系统的CPU运算速度、扩展硬件资源和分析能力为目标，获得相当于大型、超级计算机的高性能运算（HPC）能力
高性能依赖于“分布式运算”、“并行计算”，通过专用硬件和软件将多个服务器的CPU、内存等资源整合在一起，实现只有大型、超级计算机才具备的计算能力

负载均衡结构

　　第一层——负载调度器（Load Balancer或Director）

　　访问整个群集系统的唯一入口，对外使用所有服务器共有的vip地址，也称为群集IP地址，通常会配置主、备两台调度器实现热备份，当主调度器失效以后能够平滑替换至备用调度器，确保高可用性。

　　第二层——服务器池（Server Pool）

　　群集所提供的应用服务，由服务器池承担，其中每个节点具有独立的RIP地址（真实IP），只处理调度器分发过来的客户机请求。当某个节点暂时失效时，负载调度器的容错机制会将其隔离，等待错误排除以后再重新纳入服务器池。

　　第三层——共享存储（Share Storage）

　　为服务器池中的所有节点提供稳定，一致的文件存取服务，确保整个群集的统一性，共享存储可以使用NAS设备，或者提供NFS共享服务的专用服务器。

LVS负载均衡集群--NAT模式_服务器

负载均衡群集工作模式

负载均衡群集是目前企业用得最多的群集类型。

　　群集的负载调度技术有三种工作模式

（NAT）地址转换
（TUN）IP隧道
（DR）直接路由

NAT模式——地址转换

Network Address Translation，简称NAT模式；

类似于防火墙的私有网络结构，负载调度器作为所有服务器节点的网关，即作为客户机的访问入口，也是各节点回应客户机的访问出口；
服务器节点使用私有IP地址，与负载调度器位于同一个物理网络，安全性要优于其他两种方式。

原理：

　　首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求数据包的目标IP地址及端口改成后端真实服务器的IP地址（RIP）。真实服务器响应完请求后，查看默认路由，把响应后的数据包发送给负载均衡器，负载均衡器在接收到响应包后，把包的源地址改成虚拟地址（VIP）然后发送回给客户端

优点：

　　集群中的服务器可以使用任何支持TCP/IP的操作系统，只要负载均衡器有一个合法的IP地址

缺点：

　　扩展性有限，当服务器节点增长过多时，由于所有的请求和应答都需要经过负载均衡器，因此负载均衡器将成为整个系统的瓶颈

TUN模式——IP隧道

IP Tunnel，简称TUN模式；

采用开放式的网络结构，负载调度器仅作为客户机的访问入口，各节点通过各自的Internet连接直接回应客户机，而不再经过负载调度器；
服务器节点分散在互联网中的不同位置，具有独立的公网IP地址，通过专用IP隧道与负载调度器相互通信。

原理：

　　首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求报文封装一层IP隧道（T-IP）转发到真实服务器（RS）。真实服务器响应完请求后，查看默认路由，把响应后的数据包直接发送给客户端，不需要经过负载均衡器

优点：

　　负载均衡器只负责将请求包分发给后端节点服务器，而RS将应答包直接发给用户。所以，减少了负载均衡器的大量数据流动，负载均衡器不再是系统的瓶颈，也能处理很巨大的请求量

缺点：

　　隧道模式的RS节点需要合法IP，这种方式需要所有的服务器支持“IP Tunneling”

DR模式——直接路由

Direct Routing，简称DR模式

采用半开放式的网络结构，与TUN模式的结构类似，但各节点并不是分散在各地，而是与调度器位于同一个物理网络
负载调度器与各节点服务器通过本地网络连接，不需要建立专用的IP隧道

原理：

　　首先负载均衡器接收到客户的请求数据包时，根据调度算法决定将请求发送给哪个后端的真实服务器（RS）。然后负载均衡器就把客户端发送的请求数据包的目标MAC地址改成后端真实服务器的MAC地址（R-MAC）。真实服务器响应完请求后，查看默认路由，把响应后的数据包直接发送给客户端，不需要经过负载均衡器

优点：

缺点：

　　需要负载均衡器与真实服务器RS都有一块网卡连接到同一物理网段上，必须在同一个局域网环境

LVS虚拟服务器

Linux Virtual Server 是针对 Linux 内核开发的一个负载均衡项目，由我国的章文嵩博士在 1998 年 5 月创建，官方站点位于 http://www.linuxvirtualserver.org/。LVS 实际上相当于基于 IP 地址的虚拟化应用，为基于 IP 地址和内容请求分发的负载均衡提出了一种高效的解决方法。
LVS 现在已成为 Linux 内核的一部分，默认编译为 ip_vs 模块，必要时能够自动调用。在 CentOS 7 系统中，以下操作可以手动加载 ip_vs 模块，并查看当前系统中 ip_vs 模块的版本信息。

LVS 的负载调度算法

　　针对不同的网络服务和配置需要，LVS 调度器提供多种不同的负载调度算法，其中最常用的四种算法是轮询、加权轮询、最少连接和加权最少连接。

轮询（Round Robin）：将收到的访问请求按照顺序轮流分配给群集中的各节点，均等地对待每台服务器，而不管服务器实际的连接数和系统负载。
加权轮询（Weighted Round Robin）：根据调度器设置的权重值来分发请求，权重值高的节点优先获得任务并且分配的请求越多，这样可以保证性能高的节点承担更多请求。
最少连接（Least Connections）：根据真实服务器已建立的连接数进行分配，将收到的访问请求优先分配给连接数最少的节点。如果所有的服务器节点性能相近，采用这种方式可以更好地均衡负载。
加权最少连接（Weighted Least Connections）：在服务器节点的性能差异较大的情况下，调度器可以根据节点服务器负载自动调整权重，权重较高的节点将承担更大比例的活动连接负载。

使用 ipvsadm 管理工具

　　ipvsadm 是在负载调度器上使用的 LVS 群集管理工具，通过调用 ip_vs 模块来添加、删除服务器节点，以及查看群集的运行状态。在 CentOS 7 系统中，需要手动安装 ipvsadm.x86_64 0:1.27-7.el7 软件包。

NAT模式——LVS负载均衡群集部署

 1 ipvsadm 工具选项说明：
 2 -A：添加虚拟服务器
 3 -D：删除整个虚拟服务器
 4 -s：指定负载调度算法（轮询：rr、加权轮询：wrr、最少连接：lc、加权最少连接：wlc）
 5 -a：表示添加真实服务器（节点服务器）
 6 -d：删除某一个节点
 7 -t：指定 VIP地址及 TCP端口
 8 -r：指定 RIP地址及 TCP端口
 9 -m：表示使用 NAT群集模式
10 -g：表示使用 DR模式
11 -i：表示使用 TUN模式
12 -w：设置权重（权重为 0 时表示暂停节点）
13 -p 60：表示保持长连接60秒
14 -l：列表查看 LVS 虚拟服务器（默认为查看所有）
15 -n：以数字形式显示地址、端口等信息，常与“-l”选项组合使用。ipvsadm -ln

环境准备

1 负载调度器：内网关 ens33：192.168.208.20，外网关 ens37：12.0.0.1
2 Web节点服务器1：192.168.208.30
3 Web节点服务器2：192.168.208.40
4 NFS服务器：192.168.208.50
5 客户端：12.0.0.12

LVS负载均衡集群--NAT模式_调度算法_02

LVS负载均衡集群--NAT模式_服务器_03

LVS负载均衡集群--NAT模式_客户端_04

LVS负载均衡集群--NAT模式_ip地址_05

LVS负载均衡集群--NAT模式_调度算法_06

LVS负载均衡集群--NAT模式_负载均衡_07

LVS负载均衡集群--NAT模式_服务器_08

配置完后关闭所有服务器防火墙

1.部署共享存储（NFS服务器：192.168.208.50）

 1 systemctl stop firewalld.service
 2 systemctl disable firewalld.service
 3 setenforce 0
 4 
 5 yum install nfs-utils rpcbind -y
 6 systemctl start nfs.service
 7 systemctl start rpcbind.service
 8 systemctl enable nfs.service
 9 systemctl enable rpcbind.service
10 
11 mkdir /opt/accp /opt/benet
12 chmod 777 /opt/accp /opt/benet
13 echo 'this is accp web!' > /opt/accp/index.html
14 echo 'this is benet web!' > /opt/benet/index.html
15 
16 vim /etc/exports
17 /usr/share *(ro,sync)
18 /opt/accp 192.168.208.0/24(rw,sync)
19 /opt/benet 192.168.208.0/24(rw,sync)

LVS负载均衡集群--NAT模式_调度算法_09

LVS负载均衡集群--NAT模式_客户端_10

LVS负载均衡集群--NAT模式_负载均衡_11

LVS负载均衡集群--NAT模式_服务器_12

发布共享

1 exportfs -rv

LVS负载均衡集群--NAT模式_服务器_13

2.配置节点服务器（192.168.208.30、192.168.208.40）

 1 systemctl stop firewalld.service
 2 systemctl disable firewalld.service
 3 setenforce 0
 4 
 5 yum install httpd -y
 6 systemctl start httpd.service
 7 systemctl enable httpd.service
 8 
 9 yum install nfs-utils rpcbind -y
10 showmount -e 192.168.208.50
11 
12 
13 systemctl start rpcbind.service
14 systemctl start nfs.service
15 systemctl enable rpcbind.service
16 systemctl enable nfs.service
17 
18 --192.168.208.30---
19 mount.nfs 192.168.208.50:/opt/accp /var/www/html
20 
21 #vim /etc/fstab
22 192.168.208.50:/opt/accp        /myshare    nfs defaults,_netdev    0  0
23 
24 
25 另一台节点服务器挂载如下：
26 --192.168.208.40---
27 mount.nfs 192.168.208.50:/opt/benet /var/www/html
28 
29 #vim /etc/fstab
30 192.168.208.50:/opt/benet        /myshare    nfs defaults,_netdev    0  0

LVS负载均衡集群--NAT模式_ip地址_14

LVS负载均衡集群--NAT模式_客户端_15

LVS负载均衡集群--NAT模式_客户端_16

LVS负载均衡集群--NAT模式_客户端_17

LVS负载均衡集群--NAT模式_负载均衡_18

3.配置负载调度器（内网关 ens33：192.168.208.20，外网关 ens36：12.0.0.1）

1 systemctl stop firewalld.service
2 systemctl disable firewalld.service
3 setenforce 0

配置SNAT转发规则

1 vim /etc/sysctl.conf
2 net.ipv4.ip_forward = 1                             #添加ip路由转发

1 或 echo '1' > /proc/sys/net/ipv4/ip_forward
2 sysctl -p
3 
4 iptables -t nat -F
5 iptables -F
6 iptables -t nat -A POSTROUTING -s 192.168.208.0/24 -o ens36 -j SNAT --to-source 12.0.0.1

  iptables -nL -t nat

LVS负载均衡集群--NAT模式_调度算法_19

LVS负载均衡集群--NAT模式_负载均衡_20

LVS负载均衡集群--NAT模式_服务器_21

加载LVS内核模块

1 modprobe ip_vs                     #加载 ip_vs模块
2 cat /proc/net/ip_vs                #查看 ip_vs版本信息
3 
4 ##加载全部模块
5 for i in $(ls /usr/lib/modules/$(uname -r)/kernel/net/netfilter/ipvs|grep -o "^[^.]*");do echo $i; /sbin/modinfo -F 
6 filename $i >/dev/null 2>&1 && /sbin/modprobe $i;done

LVS负载均衡集群--NAT模式_ip地址_22

安装ipvsadm 管理工具

1 yum -y install ipvsadm
2 
3 --启动服务前须保存负载分配策略---
4 ipvsadm-save > /etc/sysconfig/ipvsadm
5 或者 ipvsadm --save > /etc/sysconfig/ipvsadm
6 
7 systemctl start ipvsadm.service

LVS负载均衡集群--NAT模式_调度算法_23

配置负载分配策略（NAT模式只要在服务器上配置，节点服务器不需要特殊配置）

1 ipvsadm -C                                                      #清除原有策略
2 ipvsadm -A -t 12.0.0.1:80 -s rr
3 ipvsadm -a -t 12.0.0.1:80 -r 192.168.208.30:80 -m [-w 1]        #添加真实ip
4 ipvsadm -a -t 12.0.0.1:80 -r 192.168.208.40:80 -m [-w 1]        #添加真实ip
5 ipvsadm                                                         #启用策略
6 
7 ipvsadm -ln                                                     #查看节点状态，Masq代表 NAT模式
8 ipvsadm-save > /etc/sysconfig/ipvsadm                           #保存策略

LVS负载均衡集群--NAT模式_ip地址_24

1 ipvsadm -d -t 12.0.0.1:80 -r 192.168.80.10:80 -m [-w 1]        #删除群集中某一节点服务器
2 ipvsadm -D -t 12.0.0.1:80                                    #删除整个虚拟服务器
3 systemctl stop ipvsadm                                        #停止服务（清除策略）
4 systemctl start ipvsadm                                        #启动服务（重建规则）
5 ipvsadm-restore < /etc/sysconfig/ipvsadm                    #恢复LVS 策略