操作系统版本:centos as 5.5

修改日期:2010年11月6号

软件版本:ipvsadm1.1.24、keepalived.1.1.17

实现功能:linux下的软负载均衡

目的:由于原负载均衡不能实现route模式,只能在nat模式下工作。因此服务器取不到客户端的IP地址,所有的IP地址都软换为了负载的IP地址,因此取代原来的负载,做了linux 下lvs的配置。

说明:lvs的配置模式有ipvsadm+keepalived、  ipvsadm+heartbeat+ldirectord、ipvsadm+pirhanha

三种工作模式

     1、NAT

            优点:集群中的物理服务器可以使用任何支持TCP/IP操作系统,物理服务器可以分配Internet的保留私有地址,只有负载均衡器需要一个合法的IP地址。
            缺点:扩展性有限。当服务器节点(普通PC服务器)数据增长到20个或更多时,负载均衡器将成为整个系统的瓶颈,因为所有的请求包和应答包都需要经过负载均衡器再生。假使TCP包的平均长度是536字节的话,平均包再生延迟时间大约为60us(在Pentium处理器上计算的,采用更快的处理器将使得这个延迟时间变短),负载均衡器的最大容许能力为8.93M/s,假定每台物理服务器的平台容许能力为400K/s来计算,负责均衡器能为22台物理服务器计算。

            解决办法:即使是是负载均衡器成为整个系统的瓶颈,如果是这样也有两种方法来解决它。一种是混合处理,另一种是采用Virtual Server via IP tunneling或Virtual Server via direct routing。如果采用混合处理的方法,将需要许多同属单一的RR DNS域。你采用Virtual Server via IP tunneling或Virtual Server via direct routing以获得更好的可扩展性。也可以嵌套使用负载均衡器,在最前端的是VS-Tunneling或VS-Drouting的负载均衡器,然后后面采用VS-NAT的负载均衡器。
 

      2、Virtual server via IP tunneling(VS-TUN)

          我们发现,许多Internet服务(例如WEB服务器)的请求包很短小,而应答包通常很大。

           优点:负载均衡器只负责将请求包分发给物理服务器,而物理服务器将应答包直接发给用户。所以,负载均衡器能处理很巨大的请求量,这种方式,一台负载均衡能为超过100台的物理服务器服务,负载均衡器不再是系统的瓶颈。使用VS-TUN方式,如果你的负载均衡器拥有100M的全双工网卡的话,就能使得整个Virtual Server能达到1G的吞吐量。

          不足:但是,这种方式需要所有的服务器支持"IP Tunneling"(IP Encapsulation)协议,我仅在Linux系统上实现了这个,如果你能让其它操作系统支持,还在探索之中。

          3、Virtual Server via Direct Routing(VS-DR)

         优点:和VS-TUN一样,负载均衡器也只是分发请求,应答包通过单独的路由方法返回给客户端。与VS-TUN相比,VS-DR这种实现方式不需要隧道结构,因此可以使用大多数操作系统做为物理服务器,其中包括:Linux ;Solaris ;FreeBSD ;NT4.0无需打补丁;IRIX 6.5;HPUX11等。

         不足:要求负载均衡器的网卡必须与物理网卡在一个物理段上。

七种算法

目前LVS主要有三种请求转发方式和八种调度算法。根据请求转发方式的不同,所构架集群的网络拓扑、安装方式、性能表现也各不相同。用LVS主要可以架构三种形式的集群,分别是LVS/NAT、LVS/TUN和LVS/DR,可以根据需要选择其中一种。在选定转发方式的情况下,采用哪种调度算法将决定整个负载均衡的性能表现,不同的算法适用于不同的应用场合,有时可能需要针对特殊场合,自行设计调度算法。LVS的算法是逐渐丰富起来的,最初LVS只提供4 种调度算法,后来发展到以下八种:
1.轮叫调度(Round Robin)
调度器通过“轮叫”调度算法将外部请求按顺序轮流分配到集群中的真实服务器上,它均等地对待每一台服务器,而不管服务器上实际的连接数和系统负载。
2.加权轮叫(Weighted Round Robin)
调度器通过“加权轮叫”调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器能处理更多的访问流量。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。
3.最少链接(Least Connections)
调度器通过“最少连接”调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能,采用“最小连接”调度算法可以较好地均衡负载。
4.加权最少链接(Weighted Least Connections)
在集群系统中的服务器性能差异较大的情况下,调度器采用“加权最少链接”调度算法优化负载均衡性能,具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。
5.基于局部性的最少链接(Locality-Based Least Connections)
“基于局部性的最少链接”调度算法是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。该算法根据请求的目标IP地址找出该目标IP地址最近使用的服务器,若该服务器是可用的且没有超载,将请求发送到该服务器;若服务器不存在,或者该服务器超载且有服务器处于一半的工作负载,则用“最少链接”的原则选出一个可用的服务器,将请求发送到该服务器。
6.带复制的基于局部性最少链接(Locality-Based Least Connections with Replication)
“带复制的基于局部性最少链接”调度算法也是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。它与LBLC算法的不同之处是它要维护从一个目标 IP地址到一组服务器的映射,而LBLC算法维护从一个目标IP地址到一台服务器的映射。该算法根据请求的目标IP地址找出该目标IP地址对应的服务器组,按“最小连接”原则从服务器组中选出一台服务器,若服务器没有超载,将请求发送到该服务器;若服务器超载,则按“最小连接”原则从这个集群中选出一台服务器,将该服务器加入到服务器组中,将请求发送到该服务器。同时,当该服务器组有一段时间没有被修改,将最忙的服务器从服务器组中删除,以降低复制的程度。
7.目标地址散列(Destination Hashing)
“目标地址散列”调度算法根据请求的目标IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。
8.源地址散列(Source Hashing)
“源地址散列”调度算法根据请求的源IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。
了解这些算法原理能够在特定的应用场合选择最适合的调度算法,从而尽可能地保持Real Server的最佳利用性。当然也可以自行开发算法,不过这已超出本文范围,请参考有关算法原理的资料。

软件下载:

wget http://www.keepalived.org/software/keepalived-1.1.17.tar.gz

wget http://www.linuxvirtualserver.org/software/kernel-2.6/ipvsadm-1.24.tar.gz

软件环境

 

 相关参考
  1.LVS 基础知识汇总
         LVS的算法介绍               http://bbs.linuxtone.org/viewthread.php?tid=69
         学习LVS的三种转发模式       http://bbs.linuxtone.org/viewthread.php?tid=77
         LVS中的IP负载均衡技术       http://bbs.linuxtone.org/viewthread.php?tid=68
         更多的请到http://www.linuxtone.org 负载均衡版查看

          Keepalived 相关参考资料。
           http://www.keepalived.org/documentation.html

      参考文章

      http://www.docin.com/p-37773994.htmlhttp://home.searchfull.net:8080/2395350-qemu+%E5%AE%9E%E6%88%98+linux+.htmlhttp://bbs.linuxtone.org/thread-1077-1-1.html

     

如果需说共同学习各共同的进步研究,可以联系本人,技术共长进

       QQ:94369299    MSN:dralyw@hotmail.com

 

 

 

 

 

 

 

 

 

 

 

yum install  Kernel-devel

yum install gcc

yum install openssl

yum install openssl-devel

yum install popt

安装步骤

运行以下命令:

#lsmod |grep ip_vs
         #uname -r
         2.6.18-53.el5
         #ln -s /usr/src/kernels/2.6.18-194.17.4.el5-i686/  /usr/src/linux
         #tar zxvf ipvsadm-1.24.tar.gz
         #cd ipvsadm-1.24
         #make && make install
         #find / -name ipvsadm  # 查看ipvsadm的位置
         #tar zxvf keepalived-1.1.17.tar.gz
         #cd keepalived-1.1.17
         #./configure 

           会有以下信息:

Keepalived configuration
------------------------
Keepalived version       : 1.1.15
Compiler                 : gcc
Compiler flags           : -g -O2
Extra Lib                : -lpopt -lssl -lcrypto 
Use IPVS Framework       : Yes
IPVS sync daemon support : Yes
Use VRRP Framework       : Yes
Use LinkWatch            : No
Use Debug flags          : No

如果Use IPVS Framework这项为“No”,请确认ln -s /usr/src/kernels/2.6.18-194.17.4.el5-i686/  /usr/src/linux是否正确,可能你的安装跟我的路径有所不同。接着运行:

         # make && make install
         #find / -name keepalived  # 查看keepalived位置                
     配置keepalived.conf
#vi /etc/keepalived/keepalived.conf
 
! Configuration File for keepalived

global_defs {
    notification_email {
          cnseek@gmail.com
    }
    notification_email_from sns-lvs@gmail.com
    smtp_server 127.0.0.1
   # smtp_connect_timeout 30
    router_id LVS_DEVEL
}

# 20081013 written by :netseek
# VIP1
vrrp_instance VI_1 {
     state MASTER             #备份服务器上将MASTER改为BACKUP   
     interface eth0
     virtual_router_id 51
     priority 100    # 备份服务上将100改为99
     advert_int 1
     authentication {
         auth_type PASS
         auth_pass 1111
     }
     virtual_ipaddress {
         61.164.122.8   
         #(如果有多个VIP,继续换行填写.)
     }
}

virtual_server 61.164.122.8 80 {
     delay_loop 6                  #(每隔10秒查询realserver状态)
     lb_algo wrr                  #(lvs 算法)
     lb_kind DR                  #(Direct Route)
     persistence_timeout 60        #(同一IP的连接60秒内被分配到同一台realserver)
     protocol TCP                #(用TCP协议检查realserver状态)

     real_server 61.164.122.9 80 {
         weight 3               #(权重)
         TCP_CHECK {
         connect_timeout 10       #(10秒无响应超时)
         nb_get_retry 3
         delay_before_retry 3
         connect_port 80
         }
     }
     real_server 61.164.122.10 80 {
         weight 3
         TCP_CHECK {
         connect_timeout 10
         nb_get_retry 3
         delay_before_retry 3
         connect_port 80
         }
      }
}
        
2. BACKUP服务器同上配置,先安装lvs再按装keepalived,仍后配置/etc/keepalived/keepalived.conf,只需将红色标示的部分改一下即可.
 

4. 查看lvs服务是否正常
  #watch ipvsadm -ln
     IP Virtual Server version 1.2.1 (size=4096)
     Prot LocalAddressort Scheduler Flags
      -> RemoteAddressort           Forward Weight ActiveConn InActConn
      TCP  61.164.122.8:80 wrr persistent 60
      -> 61.164.122.10:80            Route   3      0          0
     -> 61.164.122.9:80             Route   3      0          0
 
#tail -f /var/log/message  监听日志,查看状态,测试LVS负载均衡及高可用性是否有效。