I/O

I/O类型:

同步和异步:synchronous, asyncronous

关注的是消息通知机制,即被调用者如何把消息通知给调用者

 

同步:调用发出之后不会立即返回消息,但一旦返回,则返回即是最终结果;

异步:调用发出之后,被调用方立即返回消息,但返回的并非最终结果;被调用者通过状态、通知机制等来通知调用者,或通过回调函数来处理结果;

 

阻塞和非阻塞:block, nonblock

关注的是调用者等待被调用者返回调用结果时的状态

 

阻塞:调用结果返回之前,调用者会被挂起;调用者只有在得到返回结果之后才能继续;

非阻塞:调用者在结果返回之前,不会被挂起,即调用不会阻塞调用者;

 

I/O模型:

例如:一次读请求操作

(1) 等待数据准备好:从磁盘到内核内存;

(2) 从内核内存复制到进程内存;

 

blocking IO:阻塞式IO

调用者发送请求后,就被挂起,等待数据从磁盘到内核内存,并等待从内核内存复制到进程内存,最后返回数据,完成一次I/O

nonblocking IO:非阻塞IO

调用者发送请求后,不被挂起,但需要不断的想内核询问,直到数据从磁盘到内核内存;但在等待从内核内存复制到进程内存时,被挂起,直到返回数据,完成一次I/O

IO multiplexing:复用型IO

select(), poll()

调用者发送请求后,就被挂起,等待在数据从磁盘到内核内存,但是阻塞在select上,而不是内核上,select还可以接收其他I/O请求;但第二阶段还是阻塞的,阻塞在自己的调用上,而不是select

signal driven IO:事件驱动式IO

通知:

水平触发:多次通知;

边缘触发:只通知一次;

调用者发送请求后,不会被挂起,而数据从磁盘到内核内存完成后会通知调用者;但第二阶段还是阻塞的

asynchronous IO:异步IO

调用者发送请求后,不会被挂起,而是在所有阶段都已完成后会通知调用者

web服务器要处理两路I/O:网络I/O [ 通过内核接收用户请求 ]和磁盘I/O [ 通过内核向磁盘发出请求 ]

 

Nginx:

Nginx: engine X

Tengine  nginx淘宝的二次开发版

 

Nginx特性:

模块化设计、较好的扩展性;

nginx不支持动态装卸载而Tengine支持

高可靠

使用主控进程master+工作进程worker组成,master不负责处理用户请求而是启动一个worker,并将用户请求交个一个worker去处理

低内存消耗

一个线程响应多个请求

10000keep-alive模式下的connection,仅需要2.5MB的内存;

支持热部署

不停机而更新配置文件、日志文件滚动、升级程序版本;

 

支持事件驱动event、异步I/O[AIO]内存映射[mmap]

 

基本功能:

静态资源的web服务器,能缓存打开的文件描述符;

httpsmtppop3协议的反向代理服务器;

缓存加速、负载均衡;

支持FastCGI(fpm, LNMP), uWSGI(Python)等;

模块化(DSO机制)、过滤器zipSSI及图像的大小调整;

支持SSL

 

扩展功能:

基于名称和IP的虚拟主机;

支持keepalive

支持平滑升级

定制访问日志、支持使用日志缓冲区提供日志存储性能;

支持url rewrite

支持路径别名

支持基于IP及用户的访问控制

支持速率限制,支持并发数限制

 

Nginx的基本架构:

一个master进程,生成一个或多个worker进程;

事件驱动:epoll(默认使用边缘触发)

I/O复用器支持:select, poll, rt signal

支持sendfile, sendfile64:磁盘从内核空间直接构建响应报文发送,而不再经过用户空间。

支持异步I/O [ AIO ]

支持内存映射[mmap]

 

nginx的工作模式:非阻塞、事件驱动、由一个master进程生成多个worker线程,每个worker响应n个请求;

支持的并发连接数:worker * n,但是受限于套接字数量[65535]限制

 

模块类型:

核心模块

Standard HTTP modules 标准的HTTP协议模块

Optional HTTP modules 可选的HTTP协议模块

Mail modules 邮件模块

3rd party modules 第三方模块

 

安装方法:

源码:编译安装

制作好的程序包:rpm,在epel源中

 

编译安装:

# useradd -r nginx

# ./configure --prefix=/usr/local/nginx --conf-path=/etc/nginx/nginx.conf --user=nginx --group=nginx --error-log-path=/var/log/nginx/error.log --http-log-path=/var/log/nginx/access.log --pid-path=/var/run/nginx/nginx.pid --lock-path=/var/lock/nginx.lock --with-http_ssl_module --with-http_stub_status_module --with-http_gzip_static_module --with-http_flv_module --with-http_mp4_module --http-client-body-temp-path=/var/tmp/nginx/client --http-proxy-temp-path=/var/tmp/nginx/proxy --http-fastcgi-temp-path=/var/tmp/nginx/fastcgi --http-uwsgi-temp-path=/var/tmp/nginx/uwsgi

# make && make install

# mkdir -pv /var/tmp/nginx/{client,proxy,fastcgi,uwsgi}

 

 

--prefix=/usr/local/nginx

指定安装路径

--conf-path=/etc/nginx/nginx.conf

指定配置文件生成路径

--user=nginx

指定运行时以哪个用户的身份运行

--group=nginx

设置工作组

--error-log-path=/var/log/nginx/error.log

设置错误日志位置

--http-log-path=/var/log/nginx/access.log

设置访问日志位置

--pid-path=/var/run/nginx/nginx.pid

设置pid文件位置

--lock-path=/var/lock/nginx.lock

设置锁文件位置

--with-http_ssl_module

支持https

--with-http_stub_status_module

支持server-status状态页查看

--with-http_gzip_static_module

支持gzip压缩

--with-http_flv_module

支持流媒体

--with-http_mp4_module

支持MP4

--http-client-body-temp-path=/var/tmp/nginx/client

指定客户端临时的body目录

--http-proxy-temp-path=/var/tmp/nginx/proxy

指定临时的proxy目录

--http-fastcgi-temp-path=/var/tmp/nginx/fastcgi

指定临时的fastcgi目录

--http-uwsgi-temp-path=/var/tmp/nginx/uwsgi

指定临时的uwsgi目录

--with-debug

支持调试模式

 

设置环境变量

# vim /etc/profile.d/nginx.sh

export PATH='/usr/local/nginx/sbin':$PATH

# . /etc/profile.d/nginx.sh

 

启动:nginx

  若设置环境变量就用这种启动/usr/local/nginx/sbin/nginx

新改动配置生效的方式:nginx -s reload

支持的参数

nginx -s reload | stop| quit |reopen

 

 

配置文件:

官方文档:http://nginx.org/en/docs/ngx_core_module.html

 

main配置段:全局配置段

event{} 定义event模型工作特性

http {} : 定义http协议相关的配置

 

配置指令:要以分号结尾,语法格式:

directive value1 [value2...]

 

支持使用变量:

内置变量

自定义变量:

set var_name value

 

主配置段的指令:

用于调试、定位问题

正常运行必备的配置

优化性能的配置

事件相关的配置

 

 

main主配置段的指令:

正常运行的必备配置:

 

1user USERNAME [GROUPNAME];

指定运行worker进程的用户和组;若在编译安装时指定,会被注释用默认指定的用户

user nginx nginx;

 

2pid /path/to/pid_file;

指定nginx守护进程的pid文件;

pid /var/run/nginx/nginx.pid;

 

3worker_rlimit_nofile #;

指定所有worker进程所能够打开的最大文件数;需要手动添加这一行一般设为51200

 

性能优化相关的配置:

 

1worker_processes #;

worker进程的个数;通常应该略少于CPU物理核心数;总核心数-1-2

 

2worker_cpu_affinity   cpumask  ...;

将工作进程绑定到cpu的设置

优点:提升缓存的命中率;

cpumask

假设一共有四颗cpu,表示方法,超过8颗使用更多的位数

cpu10000 0001

cpu20000 0010

cpu30000 0100

cpu40000 1000

 

worker_cpu_affinity 00000001 00000010 00000100;

 

3timer_resolution

计时器解析度;若对时间解析度要求不高应降低此值,可减少gettimeofday()系统调用的次数;此值越高,精准度越高,消耗的资源越高;反之,越低

timer_resolution 100ms

 

4worker_priority number

指明worker进程的优先级,使用的是nice值;

-20, 19

worker_priority number -10

 

事件相关的配置:

1accept_mutex {off|on};

master调度用户请求至各worker进程时使用的负载均衡锁;on表示能让多个worker轮流地、序列化地去响应新请求;

应启用:accept_mutex on;

 

2lock_file file;

accept_mutex互斥锁用到的锁文件路径;

 

3use [epoll|rtsig|select|poll];

指明使用的事件模型;建议让Nginx自行选择;

 

4worker_connections #;

设定单个worker进程所能够处理的最大并发连接数量;

一般设为:worker_connections 51200;

 

所能接收的并发数为worker_connections * work_processes,若这个值大于65535就不会有效了

 

用户于调试、定位问题:

必须编译时--with-debug才可以使用

1daemon {on|off};

是否以守护进程方式运行nginx;调试时应该设置为Off,就会把调试信息输出到前台;

 

2master_process {on|off};

是否以master/worker模型来运行nginx; 调试时可以设置为off;

 

3error_log file | stderr | syslog:server=address[,parameter=value] | memory:size [debug | info | notice | warn | error | crit | alert | emerg];

error_log 位置 级别;        级别可以省略,使用默认级别

error_log  /var/log/nginx/err.log

若要使用debug级别,需要在编译nginx时使用了--with-debug选项;

 

总结:常需要进行调整的参数

worker_processes, worker_connections, worker_cpu_affinity, worker_priority

 

 

Nginx作为web服务器时使用的配置:

http {}:由ngx_http_core_module模块所引入;

 

配置框架:

http {

upstream {

...

}

 

server {

location  URL {

root "/path/to/somedir";

...

}

# 类似于httpd中的<Location>,用于定义URL与本地文件系统的映射关系;

location URL {

if ... {

...

}

}

}

# 每个server类似于httpd中的一个<VirtualHost>;

server {

...

}

 

}

 

注意:与http相关的指令仅能够放置于httpserverlocationupstreamif上下文,但有些指令仅应用于这5种上下文中的某些种;

 

配置指令:

1server {}

定义一个虚拟主机;

 

    server {

//监听IP和端口,ip可以省略listen 80

        listen 172.16.37.10:80;

//主机名称

        server_name www.lixin.com;

//设置访问日志位置 日志格式

        access_log /var/log/nginx/access.log combined;

 

        location /{

//设置html页面存放位置

root /web;

//设置默认首页文件,从左到右,若找不到index.html就去找index.htm

index index.html index.htm

        }

     }                                

 

2server_name NAME [...];

后可跟多个主机;名称还可以使用正则表达式(~)或通配符;

 

(1) 先做精确匹配检查;

(2) 左侧通配符匹配检查:*.lixin.com

(3) 右侧通配符匹配检查:如mail.*

(4) 正则表达式匹配检查:如 ~^.*\.lixin\.com$

(5) default_server

 

 

server {

server_name www.lixin.com;

}

 

server {

server_name *.lixin.com;

}

 

server {

server_name mail.*

}

 

3location [ = | ~ | ~* | ^~ ] uri { ... }

功能:允许根据用户请求的URI来匹配定义的各location;匹配到时,此请求将被相应的location配置块中的配置所处理,例如做访问控制等功能;

 

=:精确匹配检查;

^~URI的前半部分匹配,不支持正则表达式;

~: 正则表达式模式匹配检查,区分字符大小写;

~*: 正则表达式模块匹配检查,不区分字符大小写;

 

匹配的优先级:精确匹配(=)^~~~*、不带任何符号的location

 

server {

listen 80;

server_name www.lixin.com;

location / {

root "/vhosts/web1";

}

 

location /bbs/ {

             root   /;

             index  index.html index.htm;

}

 

location ~*/bbs {

root "/";

}

}

 

http://www.lixin.com/index.html   -->  /vhosts/web1/index.html

http://www.lixin.com/bbs/index.html   --> /bbs/index.html 匹配到第3location,以表示把http://www.lixin.com/bbs/ 当做 /

 

 

4alias path;

用于location配置段,定义路径别名

 

location /p_w_picpaths/ {

root "/vhosts/web1";

}

http://www.lixin.com/p_w_picpaths/a.jpg -->/vhosts/web1/p_w_picpaths/a.jpg

 

location /p_w_picpaths/ {

alias "/www/pictures";

}

http://www.lixin.com/p_w_picpaths/a.jpg -->/www/picuter/a.jpg

 

注意:root表示指明路径为对应的location "/" URL; alias表示路径映射,即location指令后定义的URL是相对于alias所指明的路径而言;

 

5error_page code [...] [=code] URI | @name

根据http响应状态码来指明特用的错误页面;

 

error_page 404 /404_customed.html

 

[=code]:以指定的响应码进行响应,而不是默认的原来的响应;默认表示以新资源的响应码为其响应码;

 

6、基于IP的访问控制

allow IP/Network;

deny IP/Network;

例:

allow 172.16.0.0/16;

deny all;

7、基于用户的访问控制

auth_basic "显示提示信息";

auth_basic_user_file "/PATH/TO/PASSWORD_FILE";

账号密码文件建议使用htpasswd来创建;

例:

auth_basic "Input passwd";

auth_basic_user_file /usr/local/nginx/.htpasswd;

htpasswd -c /usr/local/nginx/.htpasswd lx

 

8https服务

 

生成私钥,生成证书签署请求,并获得证书;

 

    server {

        listen       443 ssl;

        server_name  www.lixin.com;

 

        ssl_certificate      /etc/nginx/ssl/nginx.crt;

        ssl_certificate_key  /etc/nginx/ssl/nginx.key;

 

        ssl_session_cache    shared:SSL:1m;

        ssl_session_timeout  5m;

 

        ssl_ciphers  HIGH:!aNULL:!MD5;

        ssl_prefer_server_ciphers  on;

 

        location / {

            root   /vhosts/web1;

            index  index.html index.htm;

        }

    }                                        

 

9stub_status {on|off};

开启状态页

仅能用于location上下文;

 

        location /status {

            stub_status on;

            allow 172.16.0.0/16;

            deny all;

        }

 

结果示例:                

Active connections: 6   # 当前所有处于打开状态的连接数;

server accepts handled requests 

 241 241 431

 (1) 已经接受过的连接数

 (2) 已经处理过的连接数

 (3) 已经处理过的请求数;在“保持连接”模式下,请求数量可能会多于连接数量;

Reading: 0 Writing: 1 Waiting: 5         

Reading:正处于接收请求状态的连接数;

Writing: 请求已经接收完成,正处于处理请求或发送响应的过程中的连接数;

Waiting:保持连接模式,且处于活动状态的连接数;

 

10URL重写

语法:rewrite 正则表达式 替换 flag;

例如:

...

rewrite ^/p_w_picpaths/(.*\.jpg)$ /imgs/$1 break;

rewrite ^/imgs/(.*\.jpg)$ /p_w_picpaths/$1 break;

....

 

http://www.lixin.com/p_w_picpaths/a/b/c/1.jpg --> http://www.lixin.com/imgs/a/b/c/1.jpg

 

flag:

last:一旦此rewrite规则重写完成后,就不再被后面其它的rewrite规则进行处理;而是由User Agent重新对重写后的URL再一次发起请求,并从头开始执行类似的过程

break:一旦此rewrite规则重写完成后,由User Agent对新的URL重新发起请求,且不再会被当前locatrion内的任何rewrite规则所检查;

redirect:以302响应码(临时重定向)返回新的URL

permanent:以301响应码(永久重定向)返回新的URL

 

11if

语法:if (condition) {...}

应用环境:server, location

 

condition

(1) 变量名;

变量值为空串,或者以“0”开始,则为false;其它的均为true;

(2) 以变量为操作数构成的比较表达式

可使用=, !=类似的比较操作符进行测试;

(3) 正则表达式的模式匹配操作

~: 区分大小写的模式匹配检查

~*: 不区分大小写的模式匹配检查

!~!~*:对上面两种测试取反

(4) 测试路径为文件可能性:-f, !-f

(5) 测试指定路径为目录的可能性:-d, !-d

(6) 测试文件的存在性:-e, !-e

(7) 检查文件是否有执行权限:-x, !-x

 

例如:

if ($http_user_agent ~* MSIE) {

rewrite ^(.*)$ /msie/$1 break;

}

 

12、防盗链

location ~* \.(jpg|gif|jpeg|png)$ {

# 允许www.lixin.com这个网站对这些种类图片的引用是合法的

valid_referer none blocked www.lixin.com;    

# $invalid_referer表示除了上面定义的合法的引用,其他都被归为$invalid_refere这个不合法的引用

if ($invalid_referer) {

rewrite ^/ http://www.lixin.com/403.html;

}

}

 

13、自定义访问日志格式

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '

                      '$status $body_bytes_sent "$http_referer" '

                      '"$http_user_agent" "$http_x_forwarded_for"';

 

    access_log  logs/access.log  main;

 

注意:此处可用变量为nginx各模块内建变量;

 

网络连接相关的配置:

1keepalive_timeout #;

长连接的超时时长,默认75s;

 

2keepalive_requests #;

在一个长连接上所能够允许请求的最大资源数;

 

3keepalive_disable [msie6|safari|none];

为指定类型的User Agent禁用长连接;

 

4tcp_nodelay on|off;

是否对长连接使用TCP_NODELAY选项;

 

5client_header_timeout #;

读取http请求报文首部的超时时长;

 

6client_body_timeout #;

读取http请求报文body部分的超时时长;

 

7send_timeout #;

发送响应报文的超时时长;

 

fastcgi的相关配置:

LNMPphp启用fpm模型;

location ~ \.php$ {

    root           /var/www/html;

    fastcgi_pass   127.0.0.1:9000;

    fastcgi_index  index.php;

    fastcgi_param  SCRIPT_FILENAME /var/www/html$fastcgi_scri    pt_name;

   # fastcgi_params/etc/nginx/  ,若编译时没指定配置文件则在/usr/local/nginx/conf/

    include        fastcgi_params;  

}