负载均衡会话保持有哪几种方法?
session sticky:同一用户调度固定服务器 #session绑定 生产中使用较少
session replication:每台服务器拥有全部session #session复制 session一般放内存,占用空间较大
session server:专门的session服务器 #session server 用redis保存session
Linux系统文件的特殊权限分为哪三种?
suid,sgid,stikey
Linux Virtual Server
LVS工作原理
VS根据请求报文的目标IP和目标协议及端口将其调度转发至某RS,根据调度算法来挑选RS.LVS是内核 级功能,工作在INPUT链的位置,将发往INPUT的流量进行“处理”
用以下命令可看内核支持LVS
grep -i -C 10 ipvs /boot/config-4.18.0-147.el8.x86_64
LVS集群类型中的术语
VS:Virtual Server(虚拟服务器)、Director Server主管服务器(DS)、Dispatcher(调度器)、load balancer负载平衡器
RS:Real Server真实服务器(lvs)、上游服务器(nginx)、后端服务器(haproxy)
CIP:客户端IP
VIP:虚拟服务IP VS外网的IP
DIP:主管IP VS内网的IP
RIP:真实服务器IP
访问流程:CIP<——>VIP==DIP<——>RIP
用户发请求到VIP,通过DIP到达RIP
LVS集群的工作模式
lvs-nat:修改请求报文的目标IP,多目标IP的DNAT(客户端发请求到达LVS,调度到后端的某一个real server)
lvs-dr:操纵封装新的MAC地址
lvs-tunnel:在原请求IP报文之外新加一个IP首部
lvs-fullnat:修改请求报文的源和目标IP,默认内核不支持
LVS的NAT模式(所有报文来回都经过lvs,lvs压力大)
lvs-nat:本质是多目标IP的DNAT,通过将请求报文中的目标地址和目标端口修改为某挑出的RS的RIP和 PORT实现转发
(1)RIP和DIP应在同一个IP网络,且应使用私网地址;RS的网关要指向DIP
(2)请求报文和响应报文都必须经由Director转发,Director易于成为系统瓶颈
(3)支持端口映射,可修改请求报文的目标PORT
(4)VS必须是Linux系统,RS可以是任意OS系统
在LVS的NAT模式下,请求包和返回包都由LVS收发,无人承担。虽然lvs可支持百万玩级别并发,但后端服务器也不能太多。
LVS的DR模式(请求报文经lvs,回复报文不通过lvs,减轻lvs压力,但lvs与后端服务器之间不能跨网段)
LVS-DR:Direct Routing,直接路由,LVS默认模式,应用最广泛,通过为请求报文重新封装一个MAC首部进行转发,源MAC是DIP所在的接口的MAC,目标MAC是某挑选出的RS的RIP所在接口的MAC地址;源 IP/PORT,以及目标IP/PORT均保持不变
DR模式的特点:
1. LVS和各RS都配置有VIP
2. 确保前端路由器将目标IP为VIP的请求报文发往Director
3. RS的RIP可以使用私网地址,也可以是公网地址;RIP与DIP在同一IP网络;RIP的网关不能指向 DIP,以确保响应报文不会经由Director
4. 因为ARP是基于广播机制实现的,中间有路由他就过不去了,所以RS和LVS要在同一个物理网络
5. 请求报文要经由Director,但响应报文不经由Director,而由RS直接发往Client
6. 不支持端口映射(端口不能修改)
7. 无需开启 ip_forward
8. RS可使用大多数OS系统
后端RS各机器的VIP地址是一样的,当用户访问这个VIP地址时,会发ARP广播,后端RS机器收到广播后,都会响应,就会产生地址冲突。此时需关闭内核中的/proc/sys/net/ipv4conf/all/arp_ignore,
VIP绑定网卡的内核选项也关掉/proc/sys/net/ipv4/conf/lo/arp_ignore
关掉这两项后,则不响应用户发来的广播,
但是当网卡重启的时候,他会主动发布自己拥有的VIP和MAC地址,这样也会造成地址冲突,
把内核中的/proc/sys/net/ipv4/conf/all/arp_announce关掉,
VIP绑定网卡的内核选项也关掉/proc/sys/net/ipv4/conf/lo/arp_announce
关掉这两项后,则不主动向外发布自己的地址。
LVS向后端RS转包,需要提前在LVS上配置后端RS的IP地址,这就需要后端RS配置两张网卡,RS的VIP网卡关闭内核参数,ip网卡不关内核参数,就可以接收并响应LVS的ARP广播。VIP通常绑在lo回环网卡上,并关闭lo网卡的ARP广播内核参数,不响应也不发布自己的地址。
请求报文经过LVS,响应报文不通过LVS,减小LVS的压力。
LVS的TUNNEL模式(请求报文经lvs,回复报文不通过lvs,减轻lvs压力,lvs与后端服务器可跨网段使用)
转发方式:不修改请求报文的IP首部(源IP为CIP,目标IP为VIP),而在原IP报文之外再封装一个IP首部(源IP是DIP,目标IP是RIP),将报文发往挑选出的目标RS;RS直接响应给客户端(源IP是VIP,目 标IP是CIP)
TUNNEL模式特点:
1. RIP和DIP可以不处于同一物理网络中,RS的网关一般不能指向DIP,且RIP可以和公网通信.也就是说集群节点可以跨互联网实现.DIP, VIP, RIP可以是公网地址
2. RealServer的tun接口上需要配置VIP地址,以便接收director转发过来的数据包,以及作为响应的 报文源IP
3. Director转发给RealServer时需要借助隧道,隧道外层的IP头部的源IP是DIP,目标IP是RIP,而RealServer响应给客户端的IP头部是根据隧道内层的IP头分析得到的,源IP是VIP,目标IP是CIP
4. 请求报文要经由Director,但响应不经由Director,响应由RealServer自己完成
5. 不支持端口映射
6. RS的OS须支持隧道功能
7.需创建一个专门的tunnel网卡,用来支持两个IP头
应用场景:
一般来说,TUN模式常会用来负载调度缓存服务器组,这些缓存服务器一般放置在不同的网络环境,可以就近 折返给客户端.在请求对象不在Cache服务器本地命中的情况下,Cache服务器要向源服务器发送请求,将结 果取回,最后将结果返回给用户. LAN环境一般多采用DR模式,WAN环境虽然可以用TUN模式,但是一般在WAN环境下,请求转发更多的被 haproxy/nginx/DNS等实现.因此,TUN模式实际应用的很少,跨机房的应用一般专线光纤连接或DNS调度
LVS的FULLNAT模式
通过同时修改请求报文的源IP地址和目标IP地址进行转发
CIP --> DIP
VIP --> RIP
FULLNAT模式特点:
1. VIP是公网地址,RIP和DIP是私网地址,且通常不在同一IP网络;因此,RIP的网关一般不会指向DIP
2. RS收到的请求报文源地址是DIP,因此,只需响应给DIP;但Director还要将其发往Client
3. 请求和响应报文都经由Director
4. 相对NAT模式,可以更好的实现LVS-RealServer间跨VLAN通讯
5. 支持端口映射 注意:此类型kernel默认不支持
LVS工作模式总结和比较
ANT | TUNNEL | DR | |
Real Server(后端服务器要求) | any没要求 | Tunneling 开启tunnel模式的网卡 | Non-arp device 关掉ARP广播 |
Real Server network(网络) | private 私网 | LAN/WAN 私网/公网 | LAN 私网 |
Real Server number (后端服务器数量) | low (10-20)都经lvs,数量不能太多 | High (100) | High (100) |
Real Server gateway(网关)都指自己 | load balancer | own route | own route |
优点 | 端口转换 | WAN | 性能最好 |
缺点 | 性能瓶颈 | 要求支持隧道,不支持端口转换 | 不支持跨网段和端口转换 |
LVS的工作模式及对应的工作原理
工作模式:
NAT模式、DR模式、TUNNEL模式、FULLNAT模式
工作原理:
NAT模式工作原理:支持修改IP地址和端口号,需原路返回(改四层,层次越低,效率越高)
DR模式工作原理:只修改数据链路层,不需要原路返回(改两层,层次越低,效率越高)
TUNNEL模式工作原理:增加tunnel网卡,设置IP头,不需要原路返回(改三层,层次越低,效率越高)
LVS 调度算法(四种静态、六种动态,其中默认算法是WLC)
ipvs scheduler:根据其调度时是否考虑各RS当前的负载状态
分为两种:静态方法和动态方法
静态方法(根据算法本身进行调度 RR、WRR、SH、DH )
仅根据算法本身进行调度
1, RR:roundrobin,轮询,较常用,雨露均沾,大锅饭
2, WRR:Weighted RR,加权轮询,较常用
3, SH:Source Hashing,实现session sticky,源IP地址hash;将来自于同一个IP地址的请求始终发 往第一次挑中的RS,从而实现会话绑定
4, DH:Destination Hashing;目标地址哈希,第一次轮询调度至RS,后续将发往同一个目标地址的 请求始终转发至第一次挑中的RS,典型使用场景是正向代理缓存场景中的负载均衡,如: Web缓存
动态方法(主要根据每RS当前的负载状态及调度算法进行调度Overhead=value 较小的RS将被调度)
六种:LC、WLC、SED、NQ、LBLC、LBLCR
1、LC:至少连接适用于长连接应用
Overhead=activeconns*256+inactiveconns
2、WLC:Weighted LC,默认调度方法,较常用
Overhead=(activeconns*256+inactiveconns)/weight
3、SED:Shortest Expection Delay,初始连接高权重优先,只检查活动连接,而不考虑非活动连接
Overhead=(activeconns+1)*256/weight
4、NQ:从不排队,第一轮均匀分配,后续SED
5、LBLC:Locality-Based LC,动态的DH算法,使用场景:根据负载状态实现正向代理,实现Web Cache等
6、LBLCR:LBLC with Replication,带复制功能的LBLC,解决LBLC负载不均衡问题,从负载重的复制 到负载轻的RS,实现Web Cache等
面试题:LVS中有的调度算法有哪些
静态调度算法:RR WRR SH DH
动态调度算法:LC WLC SED NQ LBLC LBLCR
LVS相关软件
程序包:ipvsadm
Unit File:ipvsadm.service
主程序:/use/sbin/ipvsadm
规则保存工具:/use/sbin/ipvsadm-save
规则重载工具:/use/sbin/ipvsadm-restore
配置文件:/etc/sysconfig/ipvsadm-config
ipvs调度规则文件:/etc/sysconfig/ipvsadm
ipvsadm核心功能: 集群服务管理:增,删,改 集群服务的RS管理:增,删,改 查看
ipvsadm 工具用法:
管理集群服务
创建集群:ipvsadm -A -t|u|f 10.0.0.100:80
修改集群:ipvsadm -E -t|u|f 10.0.0.100:80
删除某个集群:ipvsadm -D -t|u|f 10.0.0.100:80
-t TCP协议的端口
-u UDP协议的端口
-f firewall mark,标记,一个数字
持久保存集群规则:ipvsadm -S -n 相当于ipvsadm-save > ipvs.rule 把集群保存到文件
规则全部清空:ipvsadm -C
重载集群:ipvsadm -R 相当于ipvsadm-restore < ipvs.ruls 把文件中的规则加载到集群中
开机自动加载需写入指定文件中:/etc/ipvsadm.rules
ipvsadm -S -n >> /etc/ipvsadm.rules
ubuntu的ipvsadm开机自启需改文件/etc/default/ipvsadm
AUTO="false" 改为AUTO="true" 然后重启
但红帽系列的开机自动加载写入的文件是:/etc/sysconfig/ipvsadm
ipvsadm -S -n > /etc/sysconfig/ipvsadm默认不存在,直接生成
红帽系列直接systemctl enable ipvsadm.service
管理集群中的RS
在集群中添加RS:ipvsadm -a -t|u|f 10.0.0.100:80 -r 10.0.0.8:80 -g|i|m
-g gateway,dr类型,默认
-i ipip,tunnel类型
-m masquerade,nat类型
-w weight ,权重
在集群中修改RS:ipvsadm -e -t|u|f 10.0.0.100:80 -r 10.0.0.8:80 -g|i|m
在集群中删除RS:ipvsadm -d -t|u|f 10.0.0.100:80 -r 10.0.0.8:80
查看存在的集群:ipvsadm -Ln
其中默认工作模式是DR模式,其Forward为Route,默认算法是wlc