之前有很多朋友问关于Nginx的upstream模块中max_fails及fail_timeout,这两个指令,分别是配置关于负载均衡过程中,对于上游(后端)服务器的失败尝试次数和不可用时间,很多人不是很理解这两个参数到底怎么用,以及具体的含义


先看官网文档中的描述

Nginx负载均衡配置误区_java

官网文档中解释max_fails是指在fail_timeout配置的时间内,服务器通信失败的次数,默认为1,即在fail_timeout时间内,1次请求失败即不再尝试,将请求根据hash规则,转发到下一个上游服务


fail_timeout有两种含义:

  • 当已经确认上游服务不可用时,是指与上游服务器通信失败次数的时间

  • 服务器不可用的时间段

默认是10s


文字不是很好理解,搭建个实验环境,环境如下:

  • Nginx

  • PHP-FPM(x2)

nginx通过fast-cgi将php请求转发到PHP-FPM,这里PHP-FPM服务即上游服务,设置upstream,负载PHP-FPM

Nginx负载均衡配置误区_java_02

Nginx负载均衡配置误区_java_03

upstream按照默认配置,即max_fails=1,fail_timeout=10


现在通过tailf分别监听两个PHP-FPM日志

Nginx负载均衡配置误区_java_04

请求4次,因为是默认轮询的,所以可以看时间,轮询将请求分发到两个PHP-FPM上游


可以从上面的日志中看到,按照轮询规则,下次请求应该落到PHP-FPM2上面,接着,关掉PHP-FPM1,继续请求

Nginx负载均衡配置误区_java_05

可以看到,PHP-FPM1肯定是不响应了,PHP-FPM2正常响应,接着看下Nginx日志

Nginx负载均衡配置误区_java_06


可以看到,关掉PHP-FPM1后,发起的请求,本来第二次请求(17:49:58)应该分发到PHP-FPM1的,然后从Nginx错误日志可以看到,连接PHP-FPM1失败,这里只做了一次失败尝试,然后Nginx将请求转发到PHP-FPM2处理了


接着将max_fails设置为2,继续上面的请求

Nginx负载均衡配置误区_java_07

开启PHP-FPM1,继续请求,两个负载轮询转发请求

Nginx负载均衡配置误区_java_08


接着继续关掉PHP-FPM1,连续发起多次请求,查看日志

Nginx负载均衡配置误区_java_09

所有请求都在PHP-FPM2上,看Nginx错误日志

Nginx负载均衡配置误区_java_10

两次轮询到PHP-FPM1的时候,失败,之后不会再将请求分发到PHP-FPM1上游服务


接着,不开启PHP-FPM1,继续发起多次请求,由于默认的fail_timeout=10,所以在上面的失败检测10s之后再次发起请求,查看日志

Nginx负载均衡配置误区_java_11

继续分发到PHP-FPM2,接着看Nginx错误日志

Nginx负载均衡配置误区_java_12


可以看到,过了fail_timeout的时间后,Ngxin会再次将请求发往FPM-PHP1进行尝试,尝试2次失败后,在fail_timeout时间内,不会再将请求分发,


这里有几个误区:

  • Nginx记录了连接上游失败,这个请求就返回错误请求,或这个请求丢失没处理

这个理解是错误的,Nginx只是记录了失败的请求到日志,并将这个请求又转发到了可用的其他上游服务,知道所有上游都不可用时,才会返回错误状态

  • max_fails是指连续请求失败的次数

max_fails是在fail_timeout指定的时间内的失败次数,请求还是按照配置的负载均衡算法来走,并不是第一次请求失败之后,继续将这个请求在尝试一次,达到失败次数之后,标记为不可用

  • fail_timeout越短越好

当访问量大的时候,fail_timeout设置太短,会导致不断的尝试与不可用上游的连接,耗费大量的tcp资源进行连接

  • fail_timeout越长越好

当访问量大的时候,fail_timeout设置太长,会导致负载不均衡,有可能会击穿某个上游后端,达不到负载的效果