1  概述



备注:本文主要结合自己的学习笔记,以及参考博客 集群(cluster)原理(转)整理而成。

集群(cluster)就是一组计算机,他们作为整体向用户提供一组网络资源。这些单个的计算机系统就是集群的节点(node)。一个理想的集群是,用户从不会意识到集群系统底层的节点,在他/她们看来,集群是一个系统,而非多个计算机系统。并且集群系统的管理员可以随意的增加和删除集群系统的节点。


2  Linux Cluster类型


a)高可用性(High Availability)集群

HA集群致力于提供高度可靠的服务,避免SPOF单点失败(single Point Of failure)的问题。就是利用集群系统的容错性对外提供7*24小时不间断的服务,如高可用的文件服务器、数据库服务等关键应用。

b)负载均衡(Load Balancing)集群:

使任务可以在集群中尽可能平均的分摊不同计算机处理,充分利用集群的处理能力,提高对任务的处理效率。在实际应用中这几种集群类型可能混合使用,以提供更高稳定的服务,如在一个使用网络流量负载均衡的集群中,就会包含高可用的网络文件系统、高可用的网络服务。

其中负载均衡服务器的高可用性是指为了屏蔽负载均衡服务器失效,需要建立一个备份机。主服务器和备份机上都运行High Availability监控程序,通过传送诸如“I am alive”这样的信息来监控对方的运行状况。当备份机不能在一定的时间内收到这样的信息时,它就接管主服务器IP并继续提供服务;当备份管理器又从主管理器收到“I am alive”这样的信息时,他就释放IP地址,这样的主管理器就开开始再次进行集群管理的工作了。为在主服务器失效的情况下系统能正常工作,我们在主、备份机之间实现负载集群系统配置信息的同步和备份,保持两者系统的基本一致。

.LB Cluster分类

四层:lvs,nginx(stream),haproxy(modetcp)

七层:基于http,如nginx(http),haproxy(mode http), httpd(apache)...

c)性能计算(High Perfervidmance  Computing)集群

HPC集群,也称为计算集群。在这种集群运行的是专门开发的并行应用程序,它可以把一个问题的数据分不到多台计算机上,利用这些计算机的共同资源来完成任务,从而可以解决单机不能胜任的工作(如果问题规模太大,单机计算速度太慢)。

这类集群致力于提供了单个计算机所不能提供的强大的计算能力。如天气预报、石油勘探与油藏模拟、分子模拟、生物计算等。


3  集群的优点

a)高扩展性

b)高可用性HA:集群中的一个节点失效,它的任务可传递给其他节点。可以防止单点失效

c)高性能:负载平衡集群允许系统同时接入更多的用户

d)高性能价比:可以采用廉价的复合工业标准的硬件来构造高性能的系统


4 集群分类

4.1 基于软硬件分类

.硬件:

F5 Big-IP

Citrix Netscaler

A10 A10

.软件:

lvsLinuxVirtual Server,不能识别应用层数据

nginx:支持四层调度,也可以支持7层调度

haproxy:支持四层调度,也支持7层调度

应用层的调度器,需要对发过来的请求进行解开数据包,然后再封装。有一个问题是,socket一台机器上只能是65536个,并发请求太多,主机将不能正常提供请求。解决方案是把后台服务拆分开,对服务进行分类。把不同的服务拆开,独立提供服务

atsapachetraffic serveryahoo捐助

perlbalPerl 编写

pound

4.2  基于工作的协议层次划分:

.传输层(通用):DPORT

    LVS

    nginxstream机制

    haproxymode tcp机制

实际工作中,生产环境用 nginx      haproxy进行调度

.应用层(专用):针对特定协议,自定义的请求模型分类

proxy server

    httpnginx,httpd, haproxy(mode http), ...

    fastcginginx,httpd, ...

    mysqlmysql-proxy,...


5  集群相关概念介绍


5.1  HA概念介绍

计算机系统的可用性(availability)是通过系统的可靠性(reliability)和可维护性(maintainability)来度量的。工程上通常采用平均无故障时间(MTBF:MeanTime Between Failure)来度量系统的可靠性,用平均恢复时间(MTTR:MeanTime To Restorationrepair)来度量系统的可维护性。于是可用性定义为:A=MTTF/(MTBF+MTTR)*100%。   可用性百分比范围是(0,1),如99%,99.5%, 99.9%, 99.99%, 99.999%, 99.9999%。其中99.999%表示一年内允许5分钟的故障时间

系统故障:

硬件故障:设计缺陷、wear out(损耗)、自然灾害……

软件故障:设计缺陷

5.1.1  HA的容错备援运作过程

自动侦测(Auto-Detect)阶段 由主机上的软件通过冗余侦测线,经由复杂的侦听程序。逻辑判断,互相侦测对方运行情况,所检查的项目有:主机硬件(CPU和周边)、主机网络、主机操作系统、数据引擎以及其他应用程序、主机与磁盘阵列连线。为确保侦测的正确性,而防止错我的判断,可设定安全侦测时间、包括侦测时间间隔、侦测次数以调整安全系数,并且由主机的冗余通信连线,将所汇集的讯息记录下来,以供维护参考。

自动切换(Auto-Switch)阶段 某一主机如果确认对方故障,则正常主机继续进行原来的任务,还将依据各种容错备援模式接管预先设定的备援作业程序,并进行后续的程序以及服务。

自动恢复(Auto-Recovery)阶段  在正常主机代替故障机工作后,故障机可离线进行修复工作。在故障主机修复后,通过冗余通讯线与原来主机连线,自动切换回修复完成的主机上。整个回复过程完成有EDI-HA自动完成,亦可依靠预先配置,选择回复动作为半自动或不回复。

5.1.2 HA三种工作方式

a) 主从方式(非对称方式)

工作原理:主机工作,备机处于监控状况;当主机宕机时,备机接管主机的一切工作,待主机恢复正常后,按使用者的设定以自动或手动方式将服务切换到主机上运行,数据的一致性通过共享存储系统解决。

b) 双机双工方式(互备互援)

工作原理:两台主机同时运行各自的服务工作且互相检测情况,当任一台主机宕机时,另一台主机立即接管它的一切工作,保证工作实时,应用服务系统的关键数据存放在共享存储系统中。

c) 集群工作方式(多服务器互备方式)

工作原理:多台主机一起工作,各自运行一个或几个服务,各为服务定义一个或多个备用主机,当某个主机故障时,运行在其上的服务就可以被其它主机接管。

5.1.4  HA集群实现方案

keepalived: vrrp协议,和lvs配合使用。keepalive实现高可用,lvs实现调度。

ais:应用接口规范

heartbeat

cman+rgmanager(RHCS)

coresync_pacemaker

5.2  会话保持:负载均衡(LB

(1) session sticky:同一用户调度固定服务器

Source IPLVS sh算法(对某一特定服务而言)

注意,基于源地址调度不太靠谱,因为可能IP经过NAT转换,该源IP后端可能有很多机器发起请求,如果将这些请求都集中调度到

同一台机器,可能会会后端该服务器造成较大的负担

Cookie:服务器分发给客户端的

cookie用来表示客户端的身份的。早期用重cookie,包含了所有的信息。

后来用轻cookie,主要有sessionid.session是在服务器端的。

根据cookie的信息来决定分发给哪台机器上。cookie属于应用层的数据。因此要使用应用层的调度器,如Ngnixhaproxy

(2) session replication:每台服务器拥有全部session,如session multicastcluster

(3) session server:专门的session服务器,MemcachedRedis


6  高可用的实现


有如下6种方法实现高可用

1)共享存储(shared storage

NAS网络附属存储(NetworkAttached Storage),文件共享服务器

SAN:存储区域网络,Storage Area Network,块级别的共享

2)网络分区  Networkpartition

有以下两个方式:

a) 法定人数(quorum):

with quorum> total/2

without quorum: <= total/2

b)隔离设备:fence,有两种手段

当监测到有设备异常是,可以通过以下两个方法隔离异常设备

断电重启:STONITH = ShootingThe Other Node In The Head

隔离资源:断开存储的连接

 3)双节点集群(TWO nodes Cluster)

4Failover:故障切换,即某资源的主节点故障时,将资源转移至其它节点的操作

5Failback:故障移回,即某资源的主节点故障后重新修改上线后,将之前已转移至其它节点的资源重新切回的过程

6HACluster实现方案:

有以下两个方案:

vrrp协议的实现:轻量级解决方案,如keepalived

ais:重量级的解决方案,应用接口规范完备HA集群,逻辑比较复杂。有三个解决方案

RHCS:Red Hat Cluster Suite红帽集群套件,完整解决方案

heartbeat

corosync