一、介绍
Nginx按请求速率限速模块使用的是漏桶算法,即能够强行保证请求的实时处理速度不会超过设置的阈值。
二、限流配置说明
1、限流配置
limit_req_zone $binary_remote_addr zone=one:10m rate=10r/s;
- 第一个参数:$binary_remote_addr 表示通过remote_addr这个标识来做限制,“binary_”的目的是缩写内存占用量,是限制同一客户端ip地址。
- 第二个参数:zone=one:10m表示生成一个大小为10M,名字为one的内存区域,用来存储访问的频次信息。
- 第三个参数:rate=10r/s表示允许同一个客户端的访问频次是每秒10次,还可以有比如30r/m的。
配置案例:
limit_req_zone $binary_remote_addr zone=one:20m rate=200r/s;
limit_req_zone $binary_remote_addr zone=req_sdk_api:20m rate=200r/s;
limit_req_zone $binary_remote_addr zone=req_host_base_info:20m rate=300r/s;
limit_req_zone $binary_remote_addr zone=req_open_api:40m rate=200r/s;
2、 限流配置使用
案例:
location ^~ /api/open {
proxy_pass http://hubble-api-open;
limit_req zone=req_open_api burst=10 nodelay;
proxy_send_timeout 600;
proxy_read_timeout 600;
proxy_connect_timeout 600;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
}
上面的location中指定了使用哪个限流配置:
limit_req zone=req_open_api burst=10 nodelay;
limit_req 这个配置项用于调用 limit_req_zone 指定的频率上限,以及可选的补充参数。
- 第一个参数:zone=req_open_api 设置使用哪个配置区域来做限制,与上面limit_req_zone里zone的name对应。
- 第二个参数:burst=5,重点说明一下这个配置,burst爆发的意思,这个配置的意思是设置一个大小为5的缓冲区当有大量请求(爆发)过来时,超过了访问频次限制的请求可以先放到这个缓冲区内。假设配置的
rate=10r/s,则QPS超过15时,后面的请求才可能会失败
- 第三个参数:nodelay,如果设置,超过访问频次而且缓冲区也满了的时候就会直接返回limit_req_status指定的状态码,我们设置的是429,如果没有设置,则所有请求会等待排队。建议配置,否则占用太多内存
3、限流返回状态码设置
limit_req_status : 指定拒绝请求时返回的 http code(状态响应码)。
案例:
三、漏桶算法
算法思想是:
- 水(请求)从上方倒入水桶,从水桶下方流出(被处理);
- 来不及流出的水存在水桶中(缓冲),以固定速率流出;
- 水桶满后水溢出(丢弃)。
- 这个算法的核心是:缓存请求、匀速处理、多余的请求直接丢弃。
相比漏桶算法,令牌桶算法不同之处在于它不但有一只“桶”,还有个队列,这个桶是用来存放令牌的,队列才是用来存放请求的。