Nginx负载均衡

nginx的负载均衡用于upstream模板定义的后端服务器列表中选取一台服务器接收用户的请求。一个基本的upstream模块如下:

upstream [服务器组名称]{
  server [IP地址]:[端口号];
  server [IP地址]:[端口号];
  ....
}

在upstream模块配置完成后,要让指定的访问反向代理到服务器列表,格式如下:

location ~ .*$ {
  index index.jsp index.html;
  proxy_pass http://[服务器组名称];
}

这样就完成了最基本的负载均衡,但是这并不能满足实际需求。

目前Nginx的upstream模块支持6种方式的负载均衡策略(算法):

  • 轮询(默认方式)
  • weight(权重方式)
  • ip_hash(依据ip分配方式)
  • least_conn(最少连接方式)
  • fair(第三方提供的响应时间方式)
  • url_hash(第三方通过的依据URL分配方式)。

轮询

最基本的配置方法,是upstream模块默认的负载均衡策略。每个请求会按时间顺序平均分配到不同的后端服务器。有如下参数:

fail_timeout

与max_fails结合使用

max_fails

在fail_timeout参数设置的时间内最大失败次数。如果在这个时间内,所有该服务器的请求都失败了,那么认为该服务器停机

fail_time

服务器被认为停机的时长,默认10s(被认为停机的服务器尝试间隔?)

backup

标记该服务器为备用服务器。当非备用服务器都停止时,请求会被发送到它这里,所以备份服务器平时的压力是最小的

down

标记server时,表示当前的server暂时不参与负载均衡

# 配置示例
upstream mysvr { 
    server 127.0.0.1:7878 weight=2 max_fails=2 fail_timeout=2;
    server 192.168.10.121:3333 weight=1 max_fails=2 fail_timeout=1;    
}
upstream mysvr1 { 
    server 127.0.0.1:7878 backup;
    server 127.0.0.1:7879;
    server 192.168.10.121:3333 down;    
}

轮询的分类

(1)交替轮询

当所有的服务器的权重都相同的时候,就是交替轮询,例如 ABABABABAB…;这种轮询是默认的轮询,虽然没有显式的设置权重,但是隐藏了默认的权重为1

# 默认轮询,权重都为1
upstream mysvr { 
    server 127.0.0.1:7878;
    server 192.168.10.121:3333;       
}

(2)加权轮询:跟据配置的权重的大小而分发给不同服务器不同数量的请求。如果不设置,则默认为1。下面服务器的请求顺序为:ABBABBABBABBABB…

upstream mysvr { 
    server 127.0.0.1:7878 weight=1;
    server 192.168.10.121:3333 weight=2;
}

注意:

  • 权重越高分配到的请求越多
  • 此策略可以和least_conn策略、iphash策略结合使用
  • 此策略比较适合服务器硬件配置差距较大的情况。

ip_hash

依据ip分配方式,指定负载均衡器按照基于客户端IP的分配方式,这个方法确保了相同的客户端请求一致发送到相同的服务器,以保证session会话。这样每个访客都固定访问一个后端服务器,可以解决session不能跨服务器的问题。upstream模块配置模板如下:

upstream [服务器组名称]{
  ip_hash;
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
}

注意:

  • nginx1.3.1之前的版本不能在ip_hash中使用权重(weight)
  • ip_hash不能与backup同时使用
  • 此策略适合有状态服务的程序,比如session
  • 当有服务器需要剔除,必须手动down掉

least_conn

最少连接方式,把请求发给链接数最少的后端服务器。轮询是把请求平均分配给各个后端,使它们的负载大致相同。但是,有些请求占用的时间很长,会导致其所在的后端负载较高。这种情况下,least_conn这种方式就可以达到更好的负载均衡效果。upstream模块配置模板如下:

upstream [服务器组名称]{
  least_conn;
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
}

注意:此策略适合请求处理时间长短不一造成的服务器过载情况。

fair

响应时间方式,按照服务器端的响应时间来分配请求,响应时间短的优先分配。upstream模块配置模板如下:

upstream [服务器组名称]{
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
  fair;
}

注意:需要安装第三方插件。

url_hash

url分配方式,按访问url的hash结果来分配请求,使每个url定向到同一个后端服务器,要配合缓存命中来使用。同一个资源多次请求可能会到达不同的服务器上,导致不必要的多次下载,缓存命中率不高,以及一些资源时间的浪费。而使用url_hash,可以使得同一个url(也就是同一个资源请求)会到达同一台服务器,一旦缓存住了资源,再次收到请求,就可以在缓存中读取。upstream模块配置模板如下:

upstream [服务器组名称]{
  hash $request_uri;
  server [IP地址]:[端口号] weight=2;
  server [IP地址]:[端口号];
  ....
}

注意:1.需要安装第三方插件;2.uri,是i,不是小写的L。

负载均衡简单案例

需求:使用默认轮询交替使用两台服务器(如:8081和8080),

第一步

修改配置文件,添加如下配置:

http{
	upstream myServer{
	server 192.168.62.128:8080;
	server 192.168.62.128:8081;
	}
	server{
		listen: 80;
		server_name: 192.168.62.128;
		
		location /{
			proxy_pass http://myserver;
		}
	}
}

第二步

启动服务器,在两个服务器webapp文件夹下创建edu文件夹,并且创建a.html文件,html内容随意,启动Nginx,访问

http://192.168.62.128