从软件层面提升硬件使用效率
- 增大CPU的利用率
- 增大内存的利用率
- 增大磁盘I/O的利用率
- 增大网络带宽的利用率
增大CPU的利用率
1、增大Nginx使用CPU的有效时长
- 能够使用全部CPU资源
- master-worker多进程架构
- worker进程数量应当大于等于CPU核数
- Nginx进程间不做无用功浪费CPU资源
- worker进程不应在繁忙时,主动让出CPU
- worker程间不应由于争抢造成资源耗散
- worker进程数量应当等于CPU核数
- worker进程不应调用_些店1导致主动让出CPU
- 拒绝类似的第三方模块
- 不被其他进程争抢资源
- 提升优先级占用CPU更长的时间
- 减少操作系统上耗资源的非Nginx进程
设置worker进程数的技巧和原理:worker进程数量应当大于等于CPU核数,并不是说worker进程数量设置的越大越好,他正确的设置方法应该是CPU核数和CPU核数的倍数,这样在CUP运行时(宏观上并行,微观上串行,把进程的运行时间分为一段段的时间片),这样能最大的利用CPU的资源。
Syntax: worker processes number auto;
Default: worker_processes 1;
Context: main
但不是设置的数值越大就越好,CPU的执行还受到运行时间片的影响,OS调度系统依次选择每个进程,最多执行时间片指定的时长,因为业务、或者是硬盘处理速度的不匹配,阻塞API引发的时间片内主动让出CPU要在减少进程间切换下功夫。
程间切换,就是是指CPU从一个进程或线程切换到另一个进程或线程。查看上下文切换次数的命令有Vmstat
,Dstat
,Pidstat -w
。
设置Priority动态优先级,决定CPU时间片的大小,设置worker进程的静态优先级。
Syntax: worker priority number;
Default: worker_priority 0;
Context: main
CPU依托NUMA架构,我们常说一级缓存,二级缓存,三级缓存,Nginx提高性能的点在于提升CPU缓存命中率,绑定worker到指定CPU。
worker_processes 4;
worker_cpu_affinity 01 10 01 10;
滑动窗口:Nginx在网络传输上的优化
活动窗口功能:用于限制连接的网速,解决报文 舌L序和可靠传输问题,Nginx中limitrate等限速指令皆 依赖它实现,由操作系统内核实现,连接两端各有发送窗口与接收窗。
nginx的超时指令与滑动窗口,主动断开连接,释放网络传输资源。
两次读操作间的超时
Default: client_body_timeout 60s;
Context: http, server, location
两次写操作间的超时
Default: send_timeout 60s;
Context: http, server, location
以上两者兼具:
Default: proxy_timeout 10m;
Context: http, server, location
主动建立连接时应用层超时时间,尽早释放CPU资源。
proxy_connect_timeout 60s;
Context:http, server, location
也不是说Nginx设置的处理链接数越多越好,可能会造成服务器的SYN攻击。当SYN队列满后,新的SYN不进入队列,计算出cookie再以 SYN+ACK中的序列号返回客户端,正常客户端发报文时,服 务器根据报文中携带的cookie重新恢复连接。
net.ipv4.tcp_syncookies = 1
设置worker进程最大连接数量,包括Nginx与上游、下游间的连接。
Syntax: worker_connections_number;
Default: worker_connections 512;
Context: events
Nginx在增大网络带宽的利用率上的优化
当Nginx处理完成调用close关闭连接后,若接收缓冲区仍然收到客户端发来的 内容,则服务器会向客户端发送RST包关闭连接,导致客户端由于收到RST而忽略了http response。
Default: lingering_close on;
Context: http, server, location
当功能启用时,最长的读取用户请求内容的时长,达到后立刻关闭连接。
Default: lingering_time 30s;
Context: http, server, location
当功能启用时,最长的读取用户请求内容的时长,达到后立刻关闭连接。
Default: lingering_timeout 5s;
Context: http, server, location
以RST代替正常的四次握手关闭连接,当其他读、写超时指令生效引发连接关闭时,通过发送RST立刻释放端口、内 存等资源来关闭连接。
Default: reset_timedout_connection off;
Context: http, server, location
TLS/SSL优化握手性能,
ssl_session_cache off | none | [builtin[:size]] [shared:name:size];
Context: http, server
off 不使用Session缓存,且Nginx在协议中明确告诉客户端Session缓存不被使用
none 不使用Session缓存
builtin 使用Openss啲Session缓存,由于在内存中使用,所以仅当同一客户端的两次连接都命中到 同一 worker进程时,Session缓存才会生效
shared:name:size 定义共享内存,为所有worker进程提供Session缓存服务。IMB大约可用于4000个Session
HTTP长连接,减少握手次数,通过减少并发连接数减少了服务器资源的消耗,降低TCP拥塞控制的影响
Default: keepalive_requests 100;
Context: http, server, location