nginx proxy 缓存简介

转自:https://mp.weixin.qq.com/s/DRTWuwiB6gdrRVEP6UWBAg

nginx 将用户已经访问过的内容保留在 nginx 服务器本地,这样在一段时间内用户再次访问该数据,就不需要 nginx 服务器对后端服务器发请求,减少 nginx 和后端服务器之间的网络阻塞,减小数据延迟,提高用户访问速度。即使后端服务器宕机,nginx 的 cache 也会返回给客户端请求,不至于服务不可用。 proxy cache 是把请求的链接用 md5 编码 hash 后保存,所以它可以支持任意链接,同时也支持 404/301/302 这样的非 200 状态。

nginx proxy cache 缓存配置

配置样例

proxy_cache_path /home/work/nginx/proxy_cache levels=1:2 keys_zone=cache:2g inactive=2d max_size=8g;
location ~ ^/api {
      proxy_buffering on;
      proxy_upstream_tries 2;
      proxy_cache cache;
      proxy_cache_valid 200 304 15m;
      proxy_cache_key $host$uri?Accept-Encoding=$http_accept_encoding;
      proxy_ignore_headers "Cache-Control" "Expires" ;
}

配置项说明 proxy_cache_path:本地路径,缓存文件存放路径。 levels:cache 目录的层次,使用 2 级目录来存储缓存文件。 keys_zone: 在共享内存中设置一块存储区域来存放缓存的 key 和 metadata(类似使用次数),这样 nginx 可以快速判断一个 request 是否命中或者未命中缓存,1m 可以存储 8000 个 key,10m 可以存储 80000 个 key。 inactive : 未被访问文件在缓存中保留时间,本配置中如果 2 天未被访问,缓存控制程序会删掉文件,默认为 10 分钟。 max_size : 最大 cache 空间,如果不指定,会使用掉所有 disk space,当达到配额后,会删除最少使用的 cache 文件。 proxy_cache : 启用 proxy cache,指定 key_zone。 proxy_cache_valid: 设置不同相应码的缓存时间,当不指定响应码的时候,例如 proxy_cache_valid 5m; 只对响应码为 200,301,302 的访问请求资源设置缓存时间。 proxy_cache_key:若某个接口返回的值基本不变,或者是特定类别的,就可以根据请求的 url 的参数,自定义 cache key。 proxy_ignore_headers:禁止处理来自代理服务器的应答,可以设置的字段有 ”X-Accel-Redirect”, “X-Accel-Expires”, “Expires” 或”Cache-Control。 注意:proxy_cache_key 压缩方式 Accept-Encoding 应该指定为通用压缩格式,防止客户端不支持某种压缩方式。 nginx log 里可以添加缓存命中状态,便于查看是否命中,统计缓存命中率,具体可以如下定义格式:

log_format  main  '$remote_addr - $remote_user [$time_local] "$host|$request" $status $body_bytes_sent '
        '$request_length $request_body "$http_referer" "$http_user_agent" "$scheme" "$http_x_forwarded_for" '
        '"$upstream_cache_status" "$http_accept_encoding" "$upstream_addr" "$request_time_usec" "$request_time_msec" '
        '"$request_time" "$upstream_response_time"';

$upstream_cache_status 包含以下几种状态: MISS:未命中,请求被传到后端 HIT:缓存命中 EXPIRED:缓存过期,请求被传到后端 UPDATING:缓存正在更新,使用旧缓存应答 STALE:后端将得到过期的应答

故障时利用 cache 对服务降级

当调用后端接口暂时故障时,比如用手机看视频拿不到播放数据,或者不出广告,这时候如果有 cache,nginx 会返回给客户端之前暂存的缓存数据,或者提前准备好的静态页面,用户不至于面对一个空白页面。对于重要的一级接口,可以每天请求一次填充 cache 到备份 nginx 服务器,即使线上后端接口完全不可用,流量冗余到备份服务器,对用户体验也不会有很大影响。

cache 优化

nginx 只有硬盘级别 cache,没有内置内存级别的 cache,为了利用内存加速,减少服务器响应时间,可以将 cache 目录挂载到 / dev/shm 内存目录。 mount --bind /dev/shm/proxy_cache /home/work/nginx/proxy_cache 线上流量相差不大的情况下,将 cache 目录挂载到内存与未挂载到内存的耗时对比,还是有明显差距,将 cache 目录挂载到内存中,响应时间可以缩短 7 倍以上。

总结

缓存不是什么高深技术,但是正确利用缓存,在业务遭受大流量冲击下,会起到重要作用,缓存的 key 设置需合理,避免不正确缓存。

参考资料

http://nginx.org/en/docs/http/ngx_http_proxy_module.html http://www.alonely.com.cn/Nginx/20160827/18993.html