1.LVS介绍
官网：http://www.linuxvirtualserver.org/
LVS：Linux Virtual Server,负载调度器,内核集成,章文嵩
VS: Virtual Server,负责调度
RS: Real Server,负责真正提供服务
L4：四层路由器或交换机
阿里的四层LSB(Server Load Balance)是基于LVS+keepalived实现
2.工作原理
VS根据请求报文的目标IP和目标协议及端口, 将其调度转发至某RS,根据调度算法来挑选RS
3.netfilter
#iptables/netfilter：
iptables：用户空间的管理工具
netfilter：内核空间上的框架
流入：PREROUTING --> INPUT
流出：OUTPUT --> POSTROUTING
转发：PREROUTING --> FORWARD --> POSTROUTING
DNAT：目标地址转换； PREROUTING
4.内核支持
[root@centos7-mini ~]# grep -i -A 10 "IPVS" /boot/config-3.10.0-957.el7.x86_64
# IPVS transport protocol load balancing support
#
CONFIG_IP_VS_PROTO_TCP=y #开启tcp
CONFIG_IP_VS_PROTO_UDP=y #开启udp
CONFIG_IP_VS_PROTO_AH_ESP=y
CONFIG_IP_VS_PROTO_ESP=y
CONFIG_IP_VS_PROTO_AH=y
CONFIG_IP_VS_PROTO_SCTP=y
#
# IPVS scheduler
#
CONFIG_IP_VS_RR=m #默认支持的算法
CONFIG_IP_VS_WRR=m
CONFIG_IP_VS_LC=m
CONFIG_IP_VS_WLC=m
CONFIG_IP_VS_LBLC=m
CONFIG_IP_VS_LBLCR=m
CONFIG_IP_VS_DH=m
CONFIG_IP_VS_SH=m
CONFIG_IP_VS_SED=m
5.集群体系结构
6.lvs集群类型中的术语
VS: Virtual Server Director Server(DS) Dispatcher(调度器) Load Balancer
RS: Real Server(lvs) upstream server(nginx) backend server(haproxy)
CIP：Client IP
VIP: Virtual serve IP #VS外网的IP
DIP: Director IP #VS内网的IP
RIP: Real server IP
lvs:ipvsadm/ipvs
ipvsadm:用户空间的命令行工具,规则管理器
用于管理集群服务及realserver
ipvs:工作于内核空间netfilter的input钩子上的框架
访问流程：CIP <--> VIP == DIP <--> RIP
7.lvs集群的类型
1）lvs-nat 修改请求报文的目标IP,多目标IP的DNAT
2）lvs-dr 操纵封装新的MAC地址
3）lvs-tun 在原请求IP报文之外新加一个IP首部
4）lvs-fullnat 修改请求报文的源和目标IP
7.1.lvs-nat
#本质是多目标IP的DNAT,通过将请求报文中的目标地址和目标端口修改为某挑出的RS的RIP和PORT实现转发
（1）RIP和DIP应在同一个IP网络,且应使用私网地址；RS的网关要指向DIP
（2）请求报文和响应报文都必须经由Director转发,Director易于成为系统瓶颈
（3）支持端口映射,可修改请求报文的目标PORT
（4）VS必须是Linux系统,RS可以是任意OS系统
#设计要点
(1) RIP与DIP在同一IP网络, RIP的网关要指向DIP
(2) 支持端口映射
(3) Director要打开核心转发功能
(a)当用户请求到达Director Server,此时请求的数据报文会先到内核空间的PREROUTING链。
此时报文的源IP为CIP,目标IP为VIP
(b)PREROUTING检查发现数据包的目标IP是本机,将数据包送至INPUT链
IPVS比对数据包请求的服务是否为集群服务,若是,修改数据包的目标IP地址为后端服务器IP, 然后将数据包发至
POSTROUTING链。 此时报文的源IP为CIP,目标IP为RIP
(c)POSTROUTING链通过选路,将数据包发送给Real Server
(d)Real Server比对发现目标为自己的IP,开始构建响应报文发回给Director Server。 此时报文
的源IP为RIP,目标IP为CIP
(e)Director Server在响应客户端前,此时会将源IP地址修改为自己的VIP地址,然后响应给客户
端。 此时报文的源IP为VIP,目标IP为CIP
7.2.lvs-DR(默认模式)
LVS-DR：Direct Routing,直接路由,#应用最广泛
通过为请求报文重新封装一个MAC首部进行转发,源MAC是DIP所在的接口的MAC,目标MAC是某挑选出的RS的RIP所在
接口的MAC地址；源IP/PORT,以及目标IP/PORT均保持不变
1.Director和各RS都配置有VIP
2.确保前端路由器将目标IP为VIP的请求报文发往Director--以下3种解决地址冲突的方式
#1)在前端网关做静态绑定VIP和Director的MAC地址
#2)在RS上使用arptables工具
arptables -A IN -d $VIP -j DROP
arptables -A OUT -s $VIP -j mangle --mangle-ip-s $RIP
#3)在RS上修改内核参数以限制arp通告及应答级别
/proc/sys/net/ipv4/conf/all/arp_ignore
/proc/sys/net/ipv4/conf/all/arp_announce
#限制响应级别：arp_ignore
0：默认值,表示可使用本地任意接口上配置的任意地址进行响应
1: 仅在请求的目标IP配置在本地主机的接收到请求报文的接口上时,才给予响应
#限制通告级别：arp_announce
0：默认值,把本机所有接口的所有信息向每个接口的网络进行通告
1：尽量避免将接口信息向非直接连接网络进行通告
2：必须避免将接口信息向非本网络进行通告
3.RS的RIP可以使用私网地址,也可以是公网地址；RIP与DIP在同一IP网络；RIP的网关不能指向DIP,
以确保响应报文不会经由Director
4.RS和Director要在同一个物理网络
5.请求报文要经由Director,但响应报文不经由Director,而由RS直接发往Client
6.不支持端口映射（端口不能修败）
7.RS可使用大多数OS系统
7.3.lvs-tun
#转发方式：不修改请求报文的IP首部（源IP为CIP,目标IP为VIP）,而在原IP报文之外再封装一个IP首部
（源IP是DIP,目标IP是RIP）,将报文发往挑选出的目标RS；RS直接响应给客户端（源IP是VIP,目标IP是CIP）
(1) DIP, VIP, RIP都应该是公网地址
(2) RS的网关一般不能指向DIP
(3) 请求报文要经由Director,但响应不经由Director
(4) 不支持端口映射
(5) RS的OS须支持隧道功能
7.4.lvs-fullnat
lvs-fullnat：通过同时修改请求报文的源IP地址和目标IP地址进行转发
CIP --> DIP
VIP --> RIP
(1) VIP是公网地址,RIP和DIP是私网地址,且通常不在同一IP网络；因此,RIP的网关一般不会指向DIP
(2) RS收到的请求报文源地址是DIP,因此,只需响应给DIP；但Director还要将其发往Client
(3) 请求和响应报文都经由Director
(4) 支持端口映射
#注意：此类型kernel默认不支持
7.5.LVS工作模式区别
lvs-nat RIP的网关要指向DIP
lvs-dr 通过封装新的MAC首部实现,通过MAC网络转发
lvs-tun 通过在原IP报文外封装新IP头实现转发,支持远距离通信
lvs-fullnat RIP和DIP未必在同一IP网络,但要能通信
lvs-nat与lvs-fullnat 请求和响应报文都经由Director
lvs-dr与lvs-tun 请求报文要经由Director,但响应报文由RS直接发往Client
8.ipvs scheduler
8.1.静态方法
静态方法：仅根据算法本身进行调度
1.RR：roundrobin #轮询
2.WRR：Weighted RR #加权轮询
3.SH：Source Hashing #实现session sticky,源IP地址hash；将来自于同一个IP地址的请求始终发往
第一次挑中的RS,从而实现会话绑定
4.DH：Destination Hashing #目标地址哈希,第一次轮询调度至RS,后续将发往同一个目标地址的请求始终转发
至第一次挑中的RS,典型使用场景是正向代理缓存场景中的负载均衡,如：宽带运营商
8.2.动态方法
动态方法：主要根据每RS当前的负载状态及调度算法进行调度;Overhead =value较小的RS将被调度
1.LC：least connections #适用于长连接应用
Overhead=activeconns*256+inactiveconns
2.WLC：Weighted LC #默认调度方法
Overhead=(activeconns*256+inactiveconns)/weight
3.SED：Shortest Expection Delay #初始连接高权重优先
Overhead=(activeconns+1)*256/weight
4.NQ：Never Queue #第一轮均匀分配,后续SED
5.LBLC：Locality-Based LC #动态的DH算法,使用场景：根据负载状态实现正向代理
6.LBLCR：LBLC with Replication #带复制功能的LBLC,解决LBLC负载不均衡问题,从负载重的复制到负载轻的RS
9.FireWall Mark
FWM：FireWall Mark
#MARK target 可用于给特定的报文打标记
--set-mark value
其中：value 可为0xffff格式,表示十六进制数字
借助于防火墙标记来分类报文,而后基于标记定义集群服务；可将多个不同的应用使用同一个集群服务进行调度
#实现方法：
1)在Director主机打标记：
iptables -t mangle -A PREROUTING -d $vip -p $proto –m multiport --dports $port1,$port2,… -j MARK --set-mark NUMBER
2)在Director主机基于标记定义集群服务
ipvsadm -A -f NUMBER [options]
10.持久连接
session绑定：对共享同一组RS的多个集群服务,需要统一进行绑定,lvs sh算法无法实现
持久连接（lvs persistence ）模板：实现无论使用任何调度算法,在一段时间内（默认360s）,能够实现将来自
同一个地址的请求始终发往同一个RS
ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]]
#持久连接实现方式：
1)每端口持久（PPC）：每个端口定义为一个集群服务,每集群服务单独调度
2)每防火墙标记持久（PFWMC）：基于防火墙标记定义集群服务；可实现将多个端口上的应用统一调度,即所谓的port Affinity
3)每客户端持久（PCC）：基于0端口（表示所有服务）定义集群服务,即将客户端对所有应用的请求都调度至后端主机,必须定义为持久模式
11.LVS高可用性
#Director不可用,整个系统将不可用；SPoF Single Point of Failure
解决方案：高可用
keepalived heartbeat/corosync
#某RS不可用时,Director依然会调度请求至此RS
解决方案： 由Director对各RS健康状态进行检查,失败时禁用,成功时启用
keepalived heartbeat/corosync ldirectord
#检测方式：
(a) 网络层检测,icmp
(b) 传输层检测,端口探测
(c) 应用层检测,请求某关键资源
RS全不用时：backup server, sorry server
12.ldirectord
下载:http://download.opensuse.org/repositories/network:/ha-clustering:/Stable/CentOS_CentOS-7/x86_64/
ldirectord：监控和控制LVS守护进程,可管理LVS规则
包名：ldirectord-3.9.6-0rc1.1.1.x86_64.rpm
#文件：
/etc/ha.d/ldirectord.cf #主配置文件
/usr/share/doc/ldirectord-3.9.6/ldirectord.cf #配置模版
/usr/lib/systemd/system/ldirectord.service #服务
/usr/sbin/ldirectord #主程序,Perl实现
/var/log/ldirectord.log #日志
/var/run/ldirectord.ldirectord.pid #pid文件
#ldirectord配置文件示例
checktimeout=3
checkinterval=1
autoreload=yes
logfile="/var/log/ldirectord.log" #日志文件
quiescent=no #down时 yes权重为0,no为删除
virtual=5 #指定VS的FWM 或 IP:PORT
real=172.16.0.7:80 gate 2 #DR模型,权重为 2
real=172.16.0.8:80 gate 1
fallback=127.0.0.1:80 gate #sorry server
service=http
scheduler=wrr
checktype=negotiate
checkport=80
request="index.html"
receive="Test Ldirectord
13.ipvs
ipvs是LVS软件核心,是运行在LB上的,这是个基于ip层的负载均衡。
ipvs:工作于内核空间netfilter的INPUT钩子上的框架
ipvs的总体结构:主要有ip包处理,负载均衡算法,系统配置和管理三个模块 以及虚拟服务器与真实服务器链表组成。
一个ipvs主机可以同时定义多个cluster server,但可能会影响调度性能。
一个ipvs服务至少应该有一个RS。
grep -i -A 10 "ipvs" /boot/config-VERSION-RELEASE.x86_64
支持的协议:TCP,UDP,AH,ESP,AH_ESP,SCTP
#ipvs集群
管理集群服务
管理服务上的RS
#ipvs 规则
[root @ lvs ~]#cat /proc/net/ip_vs
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP C0A80A20:0050 rr
-> C0A82F66:0050 Masq 1 0 0
-> C0A82F65:0050 Masq 1 0 0
#ipvs 连接
[root @ lvs ~]#cat /proc/net/ip_vs_conn
Pro FromIP FPrt ToIP TPrt DestIP DPrt State Expires PEName PEData
14.ipvsadm
ipvsadm:用户空间的命令行工具,规则管理器
用于管理集群服务及RealServer
#ipvsadm包
Unit File:-------------> ipvsadm.service
主程序:---------------->/usr/sbin/ipvsadm
规则保存工具:----------->/usr/sbin/ipvsadm-save
规则重载工具:----------->/usr/sbin/ipvsadm-restore
配置文件:-------------->/etc/sysconfig/ipvsadm-config
#ipvsadm命令:
核心功能:
1)集群服务管理:增.删.改
2)集群服务的RS管理:增.删.改
#查看
ipvsadm -A|E -t|u|f service-address
[-s scheduler]
[-p [timeout]]
[-M netmask]
[--pe persistence_engine]
[-b sched-flags]
ipvsadm -D -t|u|f service-address #删除
ipvsadm –C #清空
ipvsadm –R #重载
ipvsadm -S [-n] #保存
ipvsadm -a|e -t|u|f service-address -r server-address [options]
ipvsadm -d -t|u|f service-address -r server-address
ipvsadm -L|l [options]
ipvsadm -Z [-t|u|f service-address]
#管理集群服务
1)增.改
ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]]
2)删除
ipvsadm -D -t|u|f service-address
service-address:
-t|u|f:
-t: #TCP协议的端口,VIP:TCP_PORT
-u: #UDP协议的端口,VIP:UDP_PORT
-f: #firewall MARK,标记,一个数字
[-s scheduler]: #指定集群的调度算法,默认为wlc
#范例:
ipvsadm -A -t 172.168.10.32:80 -s rr
#管理集群上的RS:
1)增.改
ipvsadm -a|e -t|u|f service-address -r server-address [-g|i|m] [-w weight]
2)删
ipvsadm -d -t|u|f service-address -r server-address
server-address:
rip[:port] #如省略port,不作端口映射
选项:
lvs类型:
-g: gateway #dr类型,默认
-i: ipip #tun类型
-m: masquerade #nat类型
-w: weight #权重
#范例:
ipvsadm -a -t 192.168.10.32:80 -r 192.168.47.101 -m
ipvsadm -a -t 192.168.10.32:80 -r 192.168.47.102 -m
#清空定义的所有内容
ipvsadm –C
#清空计数器
ipvsadm -Z [-t|u|f service-address]
#查看
ipvsadm -L|l [options]
--numeric, -n： #以数字形式输出地址和端口号
--exact： #扩展信息,精确值
--connection -c： #当前IPVS连接输出
--stats： #统计信息
--rate ： #输出速率信息
#保存：
建议保存至/etc/sysconfig/ipvsadm
ipvsadm-save > /PATH/TO/IPVSADM_FILE
ipvsadm -S > /PATH/TO/IPVSADM_FILE
systemctl stop ipvsadm.service
#重载：
ipvsadm-restore < /PATH/FROM/IPVSADM_FILE
systemctl restart ipvsadm.service
14.1.ipvsadm 启动服务
[root @ lvs ~]#cat /usr/lib/systemd/system/ipvsadm.service
[Unit]
Description=Initialise the Linux Virtual Server
After=syslog.target network.target
[Service]
Type=oneshot
ExecStart=/bin/bash -c "exec /sbin/ipvsadm-restore < /etc/sysconfig/ipvsadm"
ExecStop=/bin/bash -c "exec /sbin/ipvsadm-save -n > /etc/sysconfig/ipvsadm"
ExecStop=/sbin/ipvsadm -C
RemainAfterExit=yes
[Install]
WantedBy=multi-user.target
