Socket 是用来通信、传输数据的对象上一篇已经研究了如果进行基本的通行和传输数据。因为在这个互
联网爆发的时代做为 Server 的 socket 要同时接收很多的请求。
通过阅读地址强烈推荐阅读原文。
整理了下面的文字如何创建一个 非阻塞的 server。
一、阻塞 Server
阻塞 Server 示例
为什么会出现阻塞
1.1 阻塞 Server 示例
下面就通过C/S模型展示阻塞状态
接收其它 socket 请求的 socket 叫做ServerS
请求 Server 的 socket 叫做ClientC
该代码片段分别是阻塞的 Server 和测试用的 Client
#!/usr/bin/env python# -*- coding:utf-8 -*-# # Author : XueWeiHan# Date : 17/2/25 上午10:39# Desc : 阻塞 serverimport socketimport time
SERVER_ADDRESS = (HOST, PORT) = '', 50007REQUEST_QUEUE_SIZE = 5def handle_request(client_connection):
""" 处理请求 """
request = client_connection.recv(1024) print('Server recv: {request_data}'.format(request_data=request.decode()))
time.sleep(10) # 模拟阻塞事件
http_response = "Hello, I'm server"
client_connection.sendall(http_response)def server():
listen_socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
listen_socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
listen_socket.bind(SERVER_ADDRESS)
listen_socket.listen(REQUEST_QUEUE_SIZE) print('Server on port {port} ...'.format(port=PORT)) while 1:
client_connection, client_address = listen_socket.accept()
handle_request(client_connection)
client_connection.close()if __name__ == '__main__':
server()REQUEST_QUEUE_SIZE在 sever 阻塞的时允许挂起几个连接。便于可以处理时直接从该队列中取得连接减少建立连接的时间time.sleep用于模拟阻塞
测试用的 Client
#!/usr/bin/env python# -*- coding:utf-8 -*-# # Author : XueWeiHan# Date : 17/2/25 上午11:13# Desc : 测试 clientimport socket SERVER_ADDRESS = (HOST, PORT) = '', 50007def send_message(s, message): """ 发送请求 """ s.sendall(message)def client(): message = "Hello, I'm client" s = socket.socket(socket.AF_INET, socket.SOCK_STREAM) s.connect(SERVER_ADDRESS) send_message(s, message) print 'Client is Waiting response...' data = s.recv(1024) s.close() print 'Client recv:', repr(data) # 打印从服务器接收回来的数据if __name__ == '__main__': client()
打开三个终端先运行 Server在另外两个终端运行 Client分别起名为client1、client2会发现
服务器先接收 client1 的数据然后返回响应。再此之前 client2 一直处于等待的状态。只有等 Server
处理完 client1 的请求后才会接收 client2 的数据。
这样一个个地接收请求、处理请求的 Server 就叫做 阻塞 Server。
1.2 为什么会出现阻塞
因为服务器处理请求是需要消耗时间的正如我上面的阻塞 Server 代码中的time.sleep(10)用于模拟
服务器处理请求消耗的时间。
在处理完上一个请求返回给 Client 数据的这段时间中服务器无法处理其它的请求只能让其它的 Client 等待。这样的效率是
极其低下的所以下面就介绍如何创建一个非阻塞的 Server
二、非阻塞 Server
需要知道的一些基本概念
非阻塞 Server 示例多进程
后面会用多进程实现 非阻塞socket在此之前需要了解一些基本知识和概念便于理解后面的代码。
2.1 需要知道的一些基本概念
Socket 处理请求的过程
进程
文件描述符
如何查看进程和用户资源
2.1.1 Socket 处理请求的过程
参照上面写的阻塞 Server 的代码可以看出服务器端的socket对象listen_socket 从不和客户端交换数据。它只会通过accept方法接受连接。然后创建一个新的socket对象client_connection用于和客户端通信。
所以服务器端的socket 分为接受请求的socketlisten_socket 和 与客户端传输数据的socketclient_connection。
正如上面说到的真正阻塞地方是与客户端传输数据的socketclient_connection 需要等待处理请求的结果然后返还给客户端结束这次通信才能处理后面的请求。
2.1.2 进程
存在硬盘中的叫做‘程序’*.py当程序运行加载到内存中的时候叫做‘进程’。系统会分配给每个进程一个唯一 ID
这个 ID 叫做PID 进程还分为父进程和子进程父进程PPID创建子进程PID。关系如下图
可以通过ps命令来查看进程的信息每天一个linux命令41ps命令
需要注意
子进程一定要关闭
子进程关闭一定要通知父进程否则会出现‘僵尸进程’
一定要先结束父进程再结束子进程否则会出现‘孤儿进程’
僵尸进程一个进程使用fork创建子进程如果子进程退出而父进程并没有调用wait或waitpid获取子进程的状态信息那么子进程的进程描述符仍然保存在系统中。这种进程称之为僵尸进程。系统所能使用的进程号是有限制的如果大量的产生僵死进程将因为没有可用的进程号而导致系统不能产生新的进程。则会抛出OSError: [Errno 35] Resource temporarily unavailable异常
孤儿进程一个父进程退出而它的一个或多个子进程还在运行那么那些子进程将成为孤儿进程。孤儿进程将被init进程(进程号为1)所收养并由init进程对它们完成状态收集工作。没有危害
2.1.3 文件描述符
在UNIX中一切都是一个文件当操作系统打开一存在的个文件的时候便会返回一个‘文件描述符’进程通过
操作该文件操作符从而实现对文件的读写。Socket 是一个操作文件描述符的进程Python 的 socket
模块提供了这些操作系统底层的实现。我们只需要调用socket对象的方式就可以了。
需要注意
文件描述符的回收机制是采用引用计数方式
每次操作完文件描述符需要调用
close()方法关闭文件描述符。道理和进程一样操作系统都会最多可创建的文本描述符的限制如果一直不关闭文本描述符的话导致数量太多无法创建新的就会抛出OSError: [Errno 24] Too many open file异常。
2.1.4 如何查看进程和用户资源极限
计算机的计算和存储能力都是有限的统称为计算机资源。
上面说了进程和文件描述符号都是有个最大数量极限下面就是用于查看和修改用户资源限制的命令——ulimit。
-a 列出所有当前资源极限。-c 以 512 字节块为单位指定核心转储的大小。-d 以 K 字节为单位指定数据区域的大小。-f 使用 Limit 参数时设定文件大小极限以块为单位或者在未指定参数时报告文件大小极限。缺省值为 -f 标志。-H 指定设置某个给定资源的硬极限。如果用户拥有 root 用户权限可以增大硬极限。任何用户均可减少硬极限。-m 以 K 字节为单位指定物理内存的大小驻留集合大小。系统未强制实施此限制。-n 指定一个进程可以拥有的文件描述符数的极限。-r 指定对进程拥有线程数的限制。-s 以 K 字节为单位指定堆栈的大小。-S 指定为给定的资源设置软极限。软极限可增大到硬极限的值。如果 -H 和 -S 标志均未指定极限适用于以上二者。-t 指定每个进程所使用的秒数。-u 指定对用户可以创建的进程数的限制。
常用命令如下
ulimit -a查看ulimit -n设置一个进程可拥有文件描述符数量ulimit -u最多可以创建多少个进程
2.2 Fork 方式的非阻塞 Server
采用 fork 的方式实现非阻塞 Server主要原理就是当 socket 接受到accept一个请求就 fork 出一个子进程
去处理这个请求。然后父进程继续接受请求。从而实现并发的处理请求不需要处理上一个请求才能接受、处理下一个请求。
import errnoimport osimport signalimport socket
SERVER_ADDRESS = (HOST, PORT) = '', 8888REQUEST_QUEUE_SIZE = 1024def grim_reaper(signum, frame):
while True: try:
pid, status = os.waitpid( -1, # Wait for any child process
os.WNOHANG # Do not block and return EWOULDBLOCK error
) except OSError: return
if pid == 0: # no more zombies
returndef handle_request(client_connection):
request = client_connection.recv(1024) print(request.decode())
http_response = b"""\HTTP/1.1 200 OKHello, World!"""
client_connection.sendall(http_response)def serve_forever():
listen_socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
listen_socket.setsockopt(socket.SOL_SOCKET, socket.SO_REUSEADDR, 1)
listen_socket.bind(SERVER_ADDRESS)
listen_socket.listen(REQUEST_QUEUE_SIZE) print('Serving HTTP on port {port} ...'.format(port=PORT))
signal.signal(signal.SIGCHLD, grim_reaper) while True: try:
client_connection, client_address = listen_socket.accept() except IOError as e:
code, msg = e.args # restart 'accept' if it was interrupted
if code == errno.EINTR: continue
else: raise
pid = os.fork() if pid == 0: # child
listen_socket.close() # close child copy
handle_request(client_connection)
client_connection.close()
os._exit(0) else: # parent
client_connection.close() # close parent copy and loop overif __name__ == '__main__':
serve_forever()如阅读代码时出现的问题可以参考下面的关键字
Python os.fork文件句柄引用计数、子进程pid==0
error.EINTR慢系统调用可能永远阻塞的系统调用例如socket
因为过多的子进程并发开始同时结束会并发的发出结束的信号父进程的 signal 一瞬间接收过多的信号导致了有的信号丢失这种情况还是会遗留一些僵尸进程。这个时候就需要写一个handle信号的方法。采用
waitpid的os.WHOHANG选项进行死循环。以确保获取到所有 signalOSError 因为
waitpid的os.WNOHANG选项不会阻塞但是如果没有子进程退出会抛出OSError需要 catch 到这个异常保证父进程接收到了每个子进程的结束信息从而保证没有僵尸进程。
waitpid()函数的options选项os.WNOHANG - 如果没有子进程退出则不阻塞waitpid()调用os.WCONTINUED - 如果子进程从stop状态变为继续执行则返回进程自前一次报告以来的信息。os.WUNTRACED - 如果子进程被停止过而且其状态信息还没有报告过则报告子进程的信息。
最后
该非阻塞 Server 是通过操作系统级别的 fork 实现的用到了多进程和信号机制。
因为多进程解决非阻塞的问题很好理解但是十分消耗计算机资源的后面会介绍更加轻量级的——利用事件循环实现非阻塞 Server。
