事件驱动模型:
传统的编程是如下线性模式的:
开始--->代码块A--->代码块B--->代码块C--->代码块D--->......--->结束
每一个代码块里是完成各种各样事情的代码,但编程者知道代码
A,B,C,D...的执行顺序,唯一能够改变这个流程的是数据。输入不同的数据,根据条件语句判断,流程或许就改为A--->C--->E...--->结束。
每一次程序运行顺序或许都不同,但它的控制流程是由输入数据和你编写的程序决定的。如果你知道这个程序当前的运行状态(包括输入数据和程序本身),
那你就知道接下来甚至一直到结束它的运行流程。
对于事件驱动型程序模型,它的流程大致如下:
开始--->初始化--->等待
与上面传统编程模式不同,事件驱动程序在启动之后,就在那等待,等待什么呢?等待被事件触发。
传统编程下也有“等待”的时候,比如在代码块D中,你定义了一个input(),需要用户输入数据。
但这与下面的等待不同,传统编程的“等待”,比如input(),你作为程序编写者是知道或者强制用户输入某个东西的,或许是数字,或许是文件名称,如果用户输入错误,你还需要提醒他,并请他重新输入。
事件驱动程序的等待则是完全不知道,也不强制用户输入或者干什么。只要某一事件发生,那程序就会做出相应的“反应”。这些事件包括:输入信息、鼠标、敲击键盘上某个键还有系统内部定时器触发。
一、事件驱动模型介绍
通常,我们写服务器处理模型的程序时,有以下几种模型:
(1)每收到一个请求,创建一个新的进程,来处理该请求;
(2)每收到一个请求,创建一个新的线程,来处理该请求;
(3)每收到一个请求,放入一个事件列表,让主进程通过非阻塞I/O方式来处理请求
第三种就是协程、事件驱动的方式,一般普遍认为第(3)种方式是大多数网络服务器采用的方式
论事件驱动模型
<!DOCTYPE html>
<html lang="en">
<head>
<meta charset="UTF-8">
<title>Title</title>
</head>
<body>
<p onclick="fun()">点我呀</p>
<script type="text/javascript">
function fun() {
alert('约吗?')
}
</script>
</body>
</html>
事件驱动之鼠标点击事件注
在UI编程中,常常要对鼠标点击进行相应,首先如何获得鼠标点击呢? 两种方式:
1创建一个线程循环检测是否有鼠标点击
那么这个方式有以下几个缺点:
- CPU资源浪费,可能鼠标点击的频率非常小,但是扫描线程还是会一直循环检测,这会造成很多的CPU资源浪费;如果扫描鼠标点击的接口是阻塞的呢?
- 如果是堵塞的,又会出现下面这样的问题,如果我们不但要扫描鼠标点击,还要扫描键盘是否按下,由于扫描鼠标时被堵塞了,那么可能永远不会去扫描键盘;
- 如果一个循环需要扫描的设备非常多,这又会引来响应时间的问题;
- 所以,该方式是非常不好的。
2 就是事件驱动模型
目前大部分的UI编程都是事件驱动模型,如很多UI平台都会提供onClick()事件,这个事件就代表鼠标按下事件。事件驱动模型大体思路如下:
- 有一个事件(消息)队列;
- 鼠标按下时,往这个队列中增加一个点击事件(消息);
- 有个循环,不断从队列取出事件,根据不同的事件,调用不同的函数,如onClick()、onKeyDown()等;
- 事件(消息)一般都各自保存各自的处理函数指针,这样,每个消息都有独立的处理函数;
事件驱动编程是一种编程范式,这里程序的执行流由外部事件来决定。它的特点是包含一个事件循环,当外部事件发生时使用回调机制来触发相应的处理。另外两种常见的编程范式是(单线程)同步以及多线程编程。
让我们用例子来比较和对比一下单线程、多线程以及事件驱动编程模型。下图展示了随着时间的推移,这三种模式下程序所做的工作。这个程序有3个任务需要完成,每个任务都在等待I/O操作时阻塞自身。阻塞在I/O操作上所花费的时间已经用灰色框标示出来了
最初的问题:怎么确定IO操作完了切回去呢?通过回调函数
1.要理解事件驱动和程序,就需要与非事件驱动的程序进行比较。实际上,现代的程序大多是事件驱动的,比如多线程的程序,肯定是事件驱动的。
早期则存在许多非事件驱动的程序,这样的程序,在需要等待某个条件触发时,会不断地检查这个条件,直到条件满足,这是很浪费cpu时间的。
而事件驱动的程序,则有机会释放cpu从而进入睡眠态(注意是有机会,当然程序也可自行决定不释放cpu),当事件触发时被操作系统唤醒,这样就能更加有效地使用cpu.
2.再说什么是事件驱动的程序。一个典型的事件驱动的程序,就是一个死循环,并以一个线程的形式存在,这个死循环包括两个部分,
第一个部分是按照一定的条件接收并选择一个要处理的事件,
第二个部分就是事件的处理过程。程序的执行过程就是选择事件和处理事件,而当没有任何事件触发时,程序会因查询事件队列失败而进入睡眠状态,从而释放cpu。
3.事件驱动的程序,必定会直接或者间接拥有一个事件队列,用于存储未能及时处理的事件。
4.事件驱动的程序的行为,完全受外部输入的事件控制,所以,事件驱动的系统中,存在大量这种程序,并以事件作为主要的通信方式。
5.事件驱动的程序,还有一个最大的好处,就是可以按照一定的顺序处理队列中的事件,而这个顺序则是由事件的触发顺序决定的,这一特性往往被用于保证某些过程的原子化。
6.目前windows,linux,nucleus,vxworks都是事件驱动的,只有一些单片机可能是非事件驱动的。
注意,事件驱动的监听事件是由操作系统调用的cpu来完成的
IO多路复用
前面是用协程实现的IO阻塞自动切换,那么协程又是怎么实现的,在原理是是怎么实现的。如何去实现事件驱动的情况下IO的自动阻塞的切换,这个学名叫什么呢? => IO多路复用
比如socketserver,多个客户端连接,单线程下实现并发效果,就叫多路复用。
同步IO和异步IO,阻塞IO和非阻塞IO分别是什么,到底有什么区别?不同的人在不同的上下文下给出的答案是不同的。所以先限定一下本文的上下文。
本文讨论的背景是Linux环境下的network IO。
1 IO模型前戏准备
在进行解释之前,首先要说明几个概念:
- 用户空间和内核空间
- 进程切换
- 进程的阻塞
- 文件描述符
- 缓存 I/O
用户空间与内核空间
现在操作系统都是采用虚拟存储器,那么对32位操作系统而言,它的寻址空间(虚拟存储空间)为4G(2的32次方)。
操作系统的核心是内核,独立于普通的应用程序,可以访问受保护的内存空间,也有访问底层硬件设备的所有权限。
为了保证用户进程不能直接操作内核(kernel),保证内核的安全,操心系统将虚拟空间划分为两部分,一部分为内核空间,一部分为用户空间。
针对linux操作系统而言,将最高的1G字节(从虚拟地址0xC0000000到0xFFFFFFFF),供内核使用,称为内核空间,而将较低的3G字节(从虚拟地址0x00000000到0xBFFFFFFF),供各个进程使用,称为用户空间。
那么操作系统是如何分配空间的?这里就会涉及到内核态和用户态的两种工作状态。
1G: 0 --->内核态
3G: 1 --->用户态
CPU的指令集,是通过0和1 决定你是用户态,还是内核态
用户态和内核态是操作系统的两种运行级别,若线程处于用户态,则其访问资源受限,而处于内核态,则可访问计算机任何资源。注意模态切换
cpu的两种工作状态:
现在的操作系统都是分时操作系统,分时的根源,来自于硬件层面操作系统内核占用的内存与应用程序占用的内存彼此之间隔离。cpu通过psw(程序状态寄存器)中的一个2进制位来控制cpu本身的工作状态,即内核态与用户态。
内核态:操作系统内核只能运作于cpu的内核态,这种状态意味着可以执行cpu所有的指令,可以执行cpu所有的指令,这也意味着对计算机硬件资源有着完全的控制权限,并且可以控制cpu工作状态由内核态转成用户态。
用户态:应用程序只能运作于cpu的用户态,这种状态意味着只能执行cpu所有的指令的一小部分(或者称为所有指令的一个子集),这一小部分指令对计算机的硬件资源没有访问权限(比如I/O),并且不能控制由用户态转成内核态。
进程切换
为了控制进程的执行,内核必须有能力挂起正在CPU上运行的进程,并恢复以前挂起的某个进程的执行。这种行为被称为进程切换,这种切换是由操作系统来完成的。因此可以说,任何进程都是在操作系统内核的支持下运行的,是与内核紧密相关的。
从一个进程的运行转到另一个进程上运行,这个过程中经过下面这些变化:
保存处理机上下文,包括程序计数器和其他寄存器。
更新PCB信息。
把进程的PCB移入相应的队列,如就绪、在某事件阻塞等队列。
选择另一个进程执行,并更新其PCB。
更新内存管理的数据结构。
恢复处理机上下文。
注:总而言之就是很耗资源的
进程的阻塞
正在执行的进程,由于期待的某些事件未发生,如请求系统资源失败、等待某种操作的完成、新数据尚未到达或无新工作做等,则由系统自动执行阻塞原语(Block),使自己由运行状态变为阻塞状态。可见,进程的阻塞是进程自身的一种主动行为,也因此只有处于运行态的进程(获得CPU),才可能将其转为阻塞状态。当进程进入阻塞状态,是不占用CPU资源的。
文件描述符fd
文件描述符(File descriptor)是计算机科学中的一个术语,是一个用于表述指向文件的引用的抽象化概念。
文件描述符在形式上是一个非负整数。实际上,它是一个索引值,指向内核为每一个进程所维护的该进程打开文件的记录表。当程序打开一个现有文件或者创建一个新文件时,内核向进程返回一个文件描述符。在程序设计中,一些涉及底层的程序编写往往会围绕着文件描述符展开。但是文件描述符这一概念往往只适用于UNIX、Linux这样的操作系统。
缓存 I/O
缓存 I/O 又被称作标准 I/O,大多数文件系统的默认 I/O 操作都是缓存 I/O。在 Linux 的缓存 I/O 机制中,操作系统会将 I/O 的数据缓存在文件系统的页缓存( page cache )中,也就是说,数据会先被拷贝到操作系统内核的缓冲区中,然后才会从操作系统内核的缓冲区拷贝到应用程序的地址空间。用户空间没法直接访问内核空间的,内核态到用户态的数据拷贝
思考:为什么数据一定要先到内核区,直接到用户内存不是更直接吗?
缓存 I/O 的缺点:
数据在传输过程中需要在应用程序地址空间和内核进行多次数据拷贝操作,这些数据拷贝操作所带来的 CPU 以及内存开销是非常大的。
同步(synchronous) IO和异步(asynchronous) IO,阻塞(blocking) IO和非阻塞(non-blocking)IO分别是什么,到底有什么区别?这个问题其实不同的人给出的答案都可能不同,比如wiki,就认为asynchronous IO和non-blocking IO是一个东西。这其实是因为不同的人的知识背景不同,并且在讨论这个问题的时候上下文(context)也不相同。所以,为了更好的回答这个问题,我先限定一下本文的上下文。
本文讨论的背景是Linux环境下的network IO。
Stevens在文章中一共比较了五种IO Model:
- blocking IO
- nonblocking IO
- IO multiplexing
- signal driven IO
- asynchronous IO
由于signal driven IO在实际中并不常用,所以我这只提及剩下的四种IO Model。
再说一下IO发生时涉及的对象和步骤。
对于一个network IO (这里我们以read举例),它会涉及到两个系统对象,一个是调用这个IO的process (or thread),另一个就是系统内核(kernel)。当一个read操作发生时,它会经历两个阶段:
1 等待数据准备 (Waiting for the data to be ready)
2 将数据从内核拷贝到进程中 (Copying the data from the kernel to the process)
记住这两点很重要,因为这些IO Model的区别就是在两个阶段上各有不同的情况。
2 blocking IO (阻塞IO)
在linux中,默认情况下所有的socket都是blocking,一个典型的读操作流程大概是这样:
当用户进程调用了recvfrom这个系统调用,kernel(内核)就开始了IO的第一个阶段:准备数据。对于network io来说,很多时候数据在一开始还没有到达(比如,还没有收到一个完整的UDP包),这个时候kernel就要等待足够的数据到来。而在用户进程这边,整个进程会被阻塞。当kernel一直等到数据准备好了,它就会将数据从kernel中拷贝到用户内存,然后kernel返回结果,用户进程才解除block的状态,重新运行起来。
所以,blocking IO的特点就是在IO执行的两个阶段都被block了。
实例:阻塞io只发生了一次系统调用,只能同步,等待数据
server.py
import socket
sk = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
sk.bind(("127.0.0.1",8899))
sk.listen(5)
while True:
conn,addr = sk.accept()
while True:
conn.send("sb".encode("utf-8"))
data = conn.recv(1024)
print(data.decode("utf-8"))
client.py
import socket
sk = socket.socket()
sk.connect(("127.0.0.1",8899))
while True:
inp = input(">>>:")
sk.send(inp.encode("utf-8")) # 发送信息
data = sk.recv(1024) # 接受信息
print(data.decode("utf-8")) # 打印出来
3 non-blocking IO(非阻塞IO)
linux下,可以通过设置socket使其变为non-blocking。当对一个non-blocking socket执行读操作时,流程是这个样子:
从图中可以看出,当用户进程发出read操作时,如果kernel中的数据还没有准备好,那么它并不会block用户进程,而是立刻返回一个error。从用户进程角度讲 ,它发起一个read操作后,并不需要等待,而是马上就得到了一个结果。用户进程判断结果是一个error时,它就知道数据还没有准备好,于是它可以再次发送read操作。一旦kernel中的数据准备好了,并且又再次收到了用户进程的system call,那么它马上就将数据拷贝到了用户内存,然后返回。
所以,用户进程其实是需要不断的主动询问kernel数据好了没有。
注意:
在网络IO时候,非阻塞IO也会进行recvform系统调用,检查数据是否准备好,与阻塞IO不一样,”非阻塞将大的整片时间的阻塞分成N多的小的阻塞, 所以进程不断地有机会 ‘被’ CPU光顾”。即每次recvform系统调用之间,cpu的权限还在进程手中,这段时间是可以做其他事情的,
也就是说非阻塞的recvform系统调用调用之后,进程并没有被阻塞,内核马上返回给进程,如果数据还没准备好,此时会返回一个error。进程在返回之后,可以干点别的事情,然后再发起recvform系统调用。重复上面的过程,循环往复的进行recvform系统调用。这个过程通常被称之为轮询。轮询检查内核数据,直到数据准备好,再拷贝数据到进程,进行数据处理。需要注意,拷贝数据整个过程,进程仍然是属于阻塞的状态。
实例:
server.py
1 import time
2 import socket
3 sk = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
4 sk.bind(('127.0.0.1',8899))
5 sk.listen(5)
6 sk.setblocking(False) #设置成非阻塞状态
7 while True:
8 try:
9 print ('waiting client connection .......')
10 conn,addr = sk.accept() # 进程主动轮询
11 print("+++",addr)
12 client_messge = conn.recv(1024)
13 print(str(client_messge,'utf8'))
14 connection.close()
15 except Exception as e: #捕捉错误
16 print (e)
17 time.sleep(4) #每4秒打印一个捕捉到的错误
client.py
1 import socket
2
3 sk = socket.socket()
4 sk.connect(("127.0.0.1",8899))
5
6 while True:
7 inp = input(">>>:")
8 sk.send(inp.encode("utf-8")) # 发送信息
9 data = sk.recv(1024) # 接受信息
10 print(data.decode("utf-8")) # 打印出来
缺点: 非阻塞io发送了太多的系统调用,但是不能及时的接受消息(设置sleep导致)
4 IO multiplexing(IO多路复用)
IO multiplexing这个词可能有点陌生,但是如果我说select,epoll,大概就都能明白了。有些地方也称这种IO方式为event driven IO。我们都知道,select/epoll的好处就在于单个process就可以同时处理多个网络连接的IO。它的基本原理就是select/epoll这个function会不断的轮询所负责的所有socket,当某个socket有数据到达了,就通知用户进程。它的流程如图:
当用户进程调用了select,那么整个进程会被block,而同时,kernel会“监视”所有select负责的socket,当任何一个socket中的数据准备好了,select就会返回。这个时候用户进程再调用read操作,将数据从kernel拷贝到用户进程。
这个图和blocking IO的图其实并没有太大的不同,事实上,还更差一些。因为这里需要使用两个system call (select 和 recvfrom),而blocking IO只调用了一个system call (recvfrom)。但是,用select的优势在于它可以同时处理多个connection。(多说一句。所以,如果处理的连接数不是很高的话,使用select/epoll的web server不一定比使用multi-threading + blocking IO的web server性能更好,可能延迟还更大。select/epoll的优势并不是对于单个连接能处理得更快,而是在于能处理更多的连接。)
在IO multiplexing Model中,实际中,对于每一个socket,一般都设置成为non-blocking,但是,如上图所示,整个用户的process其实是一直被block的。只不过process是被select这个函数block,而不是被socket IO给block。
注意1:select函数返回结果中如果有文件可读了,那么进程就可以通过调用accept()或recv()来让kernel将位于内核中准备到的数据copy到用户区。
注意2: select的优势在于可以处理多个连接,不适用于单个连接
实例:
server.py
import socket
import select
sk = socekt.socekt()
sk.bind(("127.0.0.1",8080))
sk.listen(5)
while True:
#sk.accept() 文件描述符
r,w,e = select.select([sk,],[],[],5) # 输入列表,输出列表,错误列表,5:是监听5秒
for i in r: # [sk,]
conn,addr = i.accept()
print(conn)
print("hello")
print("------")
client.py
import socket
sk = socket.socket()
sk.connect(("127.0.0.1",8080))
while True:
inp = input(">>>:")
sk.send(inp.encode("utf-8")) # 发送信息
data = sk.recv(1024) # 接受信息
print(data.decode("utf-8")) # 打印出来
io多路复用调用了2次系统调用(监听用户;接受消息),但是却能单线程下实现并发
IO多路复用的三种方式:
- 1、select --->效率最低,但有最大描述符限制,在Linux为1024.
- 2、poll---> 和select一样,但没有最大描述符限制。
- 3、epoll--->效率最高,没有最大描述符限制,支持水平触发与边缘触发。
IO多路复用的优势:同时可以监听多个连接,用的是单线程,利用空闲时间实现并发。
注意:
Linux系统:select、poll、epoll
Windows系统:select
Mac系统:select、poll
IO多路复用中的两种触发方式:
水平触发:如果文件描述符已经就绪可以非阻塞的执行IO操作了,此时会触发通知,允许在任意时刻重复检测IO的状态,没有必要每次描述符就绪后尽可能多个执行IO.select,poll就属于水平触发。
边缘触发:如果文件描述符自带上次状态改变后有新的IO活动到来,此时会触发通知,在收到一个IO事件通知后要尽可能多的执行IO操作,因为如果在一次通知中没有执行完IO那么就需要等到下一次新的
IO活动到来才能获取到就绪的描述符信号驱动式IO就属于边缘触发。
epoll:即可以采用水平触发,也可以采用边缘触发
1、水平触发
只有高电平或低电平的时候才触发
1---高电平---触发
0---低电平---不触发
server.py
1 import socket
2 import select #水平触发 发送系统调用的方式
3 sk=socket.socket()
4 sk.bind(("127.0.0.1",8899))
5 sk.listen(5) 7 while True:
8
9 r,w,e=select.select([sk,],[],[],5) #(输入列表,输出列表,错误列表,几秒循环)
10 #第二个select方法监听sk,无人接听就阻塞,有人往下走
11
12 for i in r:#[sk,]
13 print("hello ")
14
15 print('>>>>>>')
client.py
1 import socket
2
3 sk = socket.socket()
4 sk.connect(("127.0.0.1",8899))
5
6 while True:
7 inp = input(">>>:")
8 sk.send(inp.encode("utf-8")) # 发送信息
9 data = sk.recv(1024) # 接受信息
10 print(data.decode("utf-8")) # 打印出来
2、边缘触发
1---高电平---触发
0---低电平---触发
IO多路复用的优势:同时可以监听多个连接
示例:select可以监听多个对象
server.py
1 import socket
2 import select #水平触发 发送系统调用的方式
3 sk=socket.socket()
4 sk.bind(("127.0.0.1",8899))
5 sk.listen(5)
6 inp=[sk,]
7
8 while True:
9
10 r,w,e=select.select(inp,[],[],5) #[sk,conn],5是每隔几秒监听一次
11
12 for i in r:#[sk,]
13 conn, addr = i.accept() # 发送系统调用
14 print(conn)
15 print("hello")
16 inp.append(conn)
17
18 print('>>>>>>')
client.py
import socket
sk = socket.socket()
sk.connect(("127.0.0.1", 8080))
while True:
inp = input(">>>:")
sk.send(inp.encode("utf-8")) # 发送信息
data = sk.recv(1024) # 接受信息
print(data.decode("utf-8")) # 打印出来
多了一个判断,用select方式实现的并发
示例:实现并发聊天功能(select+IO多路复用,实现并发)
server.py
1 import socket
2 import select
3
4 sk = socket.socket()
5 sk.bind(("127.0.0.1", 8899))
6 sk.listen(5)
7 print("sk===",sk)
8
9 inp = [sk,]
10 print("inp==:",inp)
11 while True: # 监听sk和conn
12 r, w, e = select.select(inp, [], [], 5) # conn发生变化,sk不变化就走else
13 print("r1---", r)
14 for obj in r:
15 # 判断sk or conn 谁发生了变化
16 #当客户端第一次连接服务端
17 print("obj==", obj)
18 if obj == sk:
19 print("accept")
20 conn, addr = obj.accept()
21 inp.append(conn)
22 print(inp)
23 #当客户端连接上服务端后,再次发送数据时
24 else:
25 data = obj.recv(1024)
26 print(str(data.decode("utf-8")))
27 a = input("回答 %s 号>>>:" % inp.index(obj))
28 obj.send(a.encode("utf-8"))
29 print("r2---", r)
client.py
1 import socket
2
3 sk = socket.socket()
4 sk.connect(("127.0.0.1", 8899))
5
6 while True:
7 inp = input(">>>:")
8 sk.send(inp.encode("utf-8")) # 发送信息
9 data = sk.recv(1024) # 接受信息
10 print(data.decode("utf-8")) # 打印出来
5 select poll epoll IO多路复用介绍
首先列一下,sellect、poll、epoll三者的区别
- select
select最早于1983年出现在4.2BSD中,它通过一个select()系统调用来监视多个文件描述符的数组,当select()返回后,该数组中就绪的文件描述符便会被内核修改标志位,使得进程可以获得这些文件描述符从而进行后续的读写操作。
select目前几乎在所有的平台上支持
select的一个缺点在于单个进程能够监视的文件描述符的数量存在最大限制,在Linux上一般为1024,不过可以通过修改宏定义甚至重新编译内核的方式提升这一限制。
另外,select()所维护的存储大量文件描述符的数据结构,随着文件描述符数量的增大,其复制的开销也线性增长。同时,由于网络响应时间的延迟使得大量TCP连接处于非活跃状态,但调用select()会对所有socket进行一次线性扫描,所以这也浪费了一定的开销。 - poll
它和select在本质上没有多大差别,但是poll没有最大文件描述符数量的限制。
一般也不用它,相当于过渡阶段
- epoll
直到Linux2.6才出现了由内核直接支持的实现方法,那就是epoll。被公认为Linux2.6下性能最好的多路I/O就绪通知方法。windows不支持
没有最大文件描述符数量的限制。
比如100个连接,有两个活跃了,epoll会告诉用户这两个两个活跃了,直接取就ok了,而select是循环一遍。
(了解)epoll可以同时支持水平触发和边缘触发(Edge Triggered,只告诉进程哪些文件描述符刚刚变为就绪状态,它只说一遍,如果我们没有采取行动,那么它将不会再次告知,这种方式称为边缘触发),理论上边缘触发的性能要更高一些,但是代码实现相当复杂。
另一个本质的改进在于epoll采用基于事件的就绪通知方式。在select/poll中,进程只有在调用一定的方法后,内核才对所有监视的文件描述符进行扫描,而epoll事先通过epoll_ctl()来注册一个文件描述符,一旦基于某个文件描述符就绪时,内核会采用类似callback的回调机制,迅速激活这个文件描述符,当进程调用epoll_wait()时便得到通知。
所以市面上上见到的所谓的异步IO,比如nginx、Tornado、等,我们叫它异步IO,实际上是IO多路复用。
python中的epoll
epoll是对select、poll模型的改进,提高了网络编程的性能,广泛应用于大规模并发请求的C/S架构中。
1、触发方式:
边缘触发/水平触发,只适用于Unix/Linux操作系统
2、原理图
3、一般步骤
- Create an epoll object——创建1个epoll对象
- Tell the epoll object to monitor specific events on specific sockets——告诉epoll对象,在指定的socket上监听指定的事件
- Ask the epoll object which sockets may have had the specified event since the last query——询问epoll对象,从上次查询以来,哪些socket发生了哪些指定的事件
- Perform some action on those sockets——在这些socket上执行一些操作
- Tell the epoll object to modify the list of sockets and/or events to monitor——告诉epoll对象,修改socket列表和(或)事件,并监控
- Repeat steps 3 through 5 until finished——重复步骤3-5,直到完成
- Destroy the epoll object——销毁epoll对象
4、相关用法
import select 导入select模块
epoll = select.epoll() 创建一个epoll对象
epoll.register(文件句柄,事件类型) 注册要监控的文件句柄和事件
事件类型:
select.EPOLLIN 可读事件
select.EPOLLOUT 可写事件
select.EPOLLERR 错误事件
select.EPOLLHUP 客户端断开事件
epoll.unregister(文件句柄) 销毁文件句柄
epoll.poll(timeout) 当文件句柄发生变化,则会以列表的形式主动报告给用户进程,timeout
为超时时间,默认为-1,即一直等待直到文件句柄发生变化,如果指定为1
那么epoll每1秒汇报一次当前文件句柄的变化情况,如果无变化则返回空
epoll.fileno() 返回epoll的控制文件描述符(Return the epoll control file descriptor)
epoll.modfiy(fineno,event) fineno为文件描述符 event为事件类型 作用是修改文件描述符所对应的事件
epoll.fromfd(fileno) 从1个指定的文件描述符创建1个epoll对象
epoll.close() 关闭epoll对象的控制文件描述符
5 实例:客户端发送数据 服务端将接收的数据返回给客户端
1 1 #!/usr/bin/env python
2 2 #-*- coding:utf-8 -*-
3 3
4 4 import socket
5 5 import select
6 6 import Queue
7 7
8 8 #创建socket对象
9 9 serversocket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
10 10 #设置IP地址复用
11 11 serversocket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
12 12 #ip地址和端口号
13 13 server_address = ("127.0.0.1", 8888)
14 14 #绑定IP地址
15 15 serversocket.bind(server_address)
16 16 #监听,并设置最大连接数
17 17 serversocket.listen(10)
18 18 print "服务器启动成功,监听IP:" , server_address
19 19 #服务端设置非阻塞
20 20 serversocket.setblocking(False)
21 21 #超时时间
22 22 timeout = 10
23 23 #创建epoll事件对象,后续要监控的事件添加到其中
24 24 epoll = select.epoll()
25 25 #注册服务器监听fd到等待读事件集合
26 26 epoll.register(serversocket.fileno(), select.EPOLLIN)
27 27 #保存连接客户端消息的字典,格式为{}
28 28 message_queues = {}
29 29 #文件句柄到所对应对象的字典,格式为{句柄:对象}
30 30 fd_to_socket = {serversocket.fileno():serversocket,}
31 31
32 32 while True:
33 33 print "等待活动连接......"
34 34 #轮询注册的事件集合,返回值为[(文件句柄,对应的事件),(...),....]
35 35 events = epoll.poll(timeout)
36 36 if not events:
37 37 print "epoll超时无活动连接,重新轮询......"
38 38 continue
39 39 print "有" , len(events), "个新事件,开始处理......"
40 40
41 41 for fd, event in events:
42 42 socket = fd_to_socket[fd]
43 43 #如果活动socket为当前服务器socket,表示有新连接
44 44 if socket == serversocket:
45 45 connection, address = serversocket.accept()
46 46 print "新连接:" , address
47 47 #新连接socket设置为非阻塞
48 48 connection.setblocking(False)
49 49 #注册新连接fd到待读事件集合
50 50 epoll.register(connection.fileno(), select.EPOLLIN)
51 51 #把新连接的文件句柄以及对象保存到字典
52 52 fd_to_socket[connection.fileno()] = connection
53 53 #以新连接的对象为键值,值存储在队列中,保存每个连接的信息
54 54 message_queues[connection] = Queue.Queue()
55 55 #关闭事件
56 56 elif event & select.EPOLLHUP:
57 57 print 'client close'
58 58 #在epoll中注销客户端的文件句柄
59 59 epoll.unregister(fd)
60 60 #关闭客户端的文件句柄
61 61 fd_to_socket[fd].close()
62 62 #在字典中删除与已关闭客户端相关的信息
63 63 del fd_to_socket[fd]
64 64 #可读事件
65 65 elif event & select.EPOLLIN:
66 66 #接收数据
67 67 data = socket.recv(1024)
68 68 if data:
69 69 print "收到数据:" , data , "客户端:" , socket.getpeername()
70 70 #将数据放入对应客户端的字典
71 71 message_queues[socket].put(data)
72 72 #修改读取到消息的连接到等待写事件集合(即对应客户端收到消息后,再将其fd修改并加入写事件集合)
73 73 epoll.modify(fd, select.EPOLLOUT)
74 74 #可写事件
75 75 elif event & select.EPOLLOUT:
76 76 try:
77 77 #从字典中获取对应客户端的信息
78 78 msg = message_queues[socket].get_nowait()
79 79 except Queue.Empty:
80 80 print socket.getpeername() , " queue empty"
81 81 #修改文件句柄为读事件
82 82 epoll.modify(fd, select.EPOLLIN)
83 83 else :
84 84 print "发送数据:" , data , "客户端:" , socket.getpeername()
85 85 #发送数据
86 86 socket.send(msg)
87 87
88 88 #在epoll中注销服务端文件句柄
89 89 epoll.unregister(serversocket.fileno())
90 90 #关闭epoll
91 91 epoll.close()
92 92 #关闭服务器socket
93 93 serversocket.close()
94 服务端代码
linux-服务端
1 #!/usr/bin/env python
2 #-*- coding:utf-8 -*-
3
4 import socket
5
6 #创建客户端socket对象
7 clientsocket = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
8 #服务端IP地址和端口号元组
9 server_address = ('127.0.0.1',8888)
10 #客户端连接指定的IP地址和端口号
11 clientsocket.connect(server_address)
12
13 while True:
14 #输入数据
15 data = raw_input('please input:')
16 #客户端发送数据
17 clientsocket.sendall(data)
18 #客户端接收数据
19 server_data = clientsocket.recv(1024)
20 print '客户端收到的数据:'server_data
21 #关闭客户端socket
22 clientsocket.close()
客户端代码
linux-客户端
7 Asynchronous I/O(异步IO)
linux下的asynchronous IO其实用得很少。先看一下它的流程:
用户进程发起read操作之后,立刻就可以开始去做其它的事。而另一方面,从kernel的角度,当它受到一个asynchronous read之后,首先它会立刻返回,所以不会对用户进程产生任何block。然后,kernel会等待数据准备完成,然后将数据拷贝到用户内存,当这一切都完成之后,kernel会给用户进程发送一个signal,告诉它read操作完成了。
到目前为止,已经将四个IO Model都介绍完了。现在回过头来回答最初的那几个问题:blocking和non-blocking的区别在哪,synchronous IO和asynchronous IO的区别在哪。
先回答最简单的这个:blocking vs non-blocking。前面的介绍中其实已经很明确的说明了这两者的区别。调用blocking IO会一直block住对应的进程直到操作完成,而non-blocking IO在kernel还准备数据的情况下会立刻返回。
在说明synchronous IO和asynchronous IO的区别之前,需要先给出两者的定义。Stevens给出的定义(其实是POSIX的定义)是这样子的:
A synchronous I/O operation causes the requesting process to be blocked until that I/O operationcompletes;
An asynchronous I/O operation does not cause the requesting process to be blocked;
两者的区别就在于synchronous IO做”IO operation”的时候会将process阻塞。按照这个定义,之前所述的blocking IO,non-blocking IO,IO multiplexing都属于synchronous IO。有人可能会说,non-blocking IO并没有被block啊。这里有个非常“狡猾”的地方,定义中所指的”IO operation”是指真实的IO操作,就是例子中的recvfrom这个system call。non-blocking IO在执行recvfrom这个system call的时候,如果kernel的数据没有准备好,这时候不会block进程。但是,当kernel中数据准备好的时候,recvfrom会将数据从kernel拷贝到用户内存中,这个时候进程是被block了,在这段时间内,进程是被block的。而asynchronous IO则不一样,当进程发起IO 操作之后,就直接返回再也不理睬了,直到kernel发送一个信号,告诉进程说IO完成。在这整个过程中,进程完全没有被block。
注意:由于咱们接下来要讲的select,poll,epoll都属于IO多路复用,而IO多路复用又属于同步的范畴,故,epoll只是一个伪异步而已。
各个IO Model的比较如图所示:
经过上面的介绍,会发现non-blocking IO和asynchronous IO的区别还是很明显的。在non-blocking IO中,虽然进程大部分时间都不会被block,但是它仍然要求进程去主动的check,并且当数据准备完成以后,也需要进程主动的再次调用recvfrom来将数据拷贝到用户内存。而asynchronous IO则完全不同。它就像是用户进程将整个IO操作交给了他人(kernel)完成,然后他人做完后发信号通知。在此期间,用户进程不需要去检查IO操作的状态,也不需要主动的去拷贝数据。
五种IO模型比较: