多进程
要让Python实现多进程(multiprocessing)，我们先了解下下操作系统的知识。
Unix/Linux操作系统提供了一个fork()系统调用，它非常特殊。普通的函数调用一次返回一次，但是fork()调用一次，返回两次。因为操作系统自动把当前进程(父进程)复制了一份（子进程），然后，分别在父进程和子进程中返回。
子进程永远返回0，而父进程返回子进程的ID。这样做的理由，一个父进程可以fork()出很多子进程，所以，父进程要记住子进程的ID，而子进程只需要调用getppid()就可以得到父进程的ID。
Python的os模块封装了常见的系统调用，其中就包括fork，可以在Python程序中轻松创建子进程:
import os
print('Process (%s) start... '% os.getpid())
pid =os.fork()
if pid ==0:
print('I am child process (%s) and my parent is %s' % (os.getpid(),os.getppid()))
else:
print('I (%s) just creatd a child process %s'%(os.getpid(),pid))
运行结果如下:
Process (876) start... I (876) just created a child process (877). I am child process (877) and my parent is 876.
由于windows没有fork调用，上面的代码无法在windows上运行。
有了fork调用，一个进程在接到新任务时就会复制出一个子进程来处理新任务，常见的Apache服务器就是由父进程监听端口，每当有新的http请求，就fork出子进程来处理新的http请求。
multiprocessing
如果你打算编写多进程的服务程序，Unix/Linux无疑是最好的选择。由于windows没有fork调用，难道在windows上无法使用Python编写多进程的程序？
multiprocessing模块就是一个跨平台的多进程模块。
multiprocessing模块提供了一个process类来代表一个进程对象，下面的例子演示了启动一个子进程并等待其结束:
from multiprocess improt Process
import os
def run_proc(name):
print('run child process %s (%s)...'% (name,os.getpid()))
if __name__ == '__main__':
print('parent process %s'% os.getpid())
p =Process(target =run_proc,args =('test',))
print('child process will start')
p.start()
p.join()
print('child process end')
创建子进程时，只需要传入一个执行函数和函数的参数，创建一个Process实例，用start()方法启动，这样创建一个进程比fork()还简单。
join()方法可以等待子进程结束后继续往下运行，通常用于程序间的同步。
Pool
如果要启动大量的子进程，可以用进程池的方法大量创建子进程:
from multiprocessing import Pool
import os,time,random
def long_time_task(name):
print('run task %s (%s)' % (name,os.getpid()))
start =time.time()
time.sleep(random.random()*3)
end =time.time()
print('Task %s runs %0.2f seconds.'% (name,(end-start)))
if __name__ =='__main__':
print('Parent process %s' % os.getpid())
p =Pool(4)
for i in range(5):
p.apply_async(long_time_task,args =(i,))
print('waiting for all subprocess done...')
p.close()
p.join()
print('all subprocess done.')
执行结果:
Parent process 669.Waiting for all subprocesses done... Run task 0 (671)... Run task 1 (672)... Run task 2 (673)... Run task 3 (674)... Task 2 runs 0.14 seconds. Run task 4 (673)... Task 1 runs 0.27 seconds. Task 3 runs 0.86 seconds. Task 0 runs 1.41 seconds. Task 4 runs 1.91 seconds. All subprocesses done.
代码解读:
对Pool对象调用join()方法会等待所有子进程结束，调用join()之前必须先调用close()，调用close()之后就不能添加新的process了。
请注意输出的结果，task0，1，2，3是立即执行的，而task4要等待前面几个执行完才执行，这是因为Pool默认大小在我的电脑上是4，因此最多跑4个进程。这是Pool有意设计的，并不是操作系统的限制。如果改成:
p =Pool(5)
就可以同时跑5个线程。
由于Pool默认大小是CPU的核数，如果你拥有8核CPU，你要至少提交9个进程才能看到上面的等待结果。
子进程
很多时候子进程并不是本身，而是一个外部进程。我们创建子进程后，还需要控制子进程的输入和输出。
subprocess模块可以让我们非常方便的启动一个子进程，然后控制其输入输出。
下面的例子演示了如何在Python代码中运行命令nslookup www.python.org,这和命令行运行的效果是一样的:
import subprocess
print('$ nslookup www.python.org')
r =subprocess.call(['nslookup','www.python.org'])
print('Exit code:',r)
运行结果:
$nslookup www.python.org
Server: 202.99.96.68
Address: 202.99.96.68#53
Non-authoritative answer:
www.python.org canonical name = python.map.fastly.net.
Name: python.map.fastly.net
Address: 103.245.222.223
如果子进程还需要输入，则可以通过communicate()方法输入:
import subprocess
print('$nslookup')
p =subprocess.Popen(['nslookup',stdin =subprocess.PIPE,stderr =subprocess.PIPE])
output,err =p.communicate(b'set q =mx\npython.org\nexit\n')
print(output.decode('utf-8'))
print('exit code:',p.returncode)
上面的代码相当于在命令行执行nslookup，然后手动输入：
set q=mx
python.org
exit运行结果如下:
$nslookup
*** Invalid option: q
Server: 202.99.96.68
Address: 202.99.96.68#53
Non-authoritative answer:
Name: python.org
Address: 104.130.43.121
exit code: 0
进程间的通信
Ptocess间肯定要通信，操作系统提供了很多机制实现进程间的通信。Python的multiprocessing模块包装了底层的机制，提供了Queue、pipes等多种方式来交换数据。
我们以Queue为例，在父进程中创建两个子进程，一个往Queue内写输入，一个从Queue读数据:
from multiproessing import Process,Queue
import os,time,random
def write(q):
print('Proccess to write: %s'% os.getpid())
for value in ['A','B','C']:
print('Put %s to Queue...'% value)
q.put(value)
time.sleep(random.random())
def read(q):
print('Process to read: %s '% os.getpid())
while True:
value =q.get(True)
print('Get %s from Queue' % value)
if __name__ =='__main__':
#父进程创建Queue,并创建给各个子进程:
q =Queue()
pw =Process(target =write,args(q,))
pr =Process(target =read,args(q,))
#启动子进程，写入数据:
pw.start()
#启动子进程，读出数据:
pr.start()
#等待pw结束
pw.join()
#pr进程是死循环，无法等待其结束，只能强行终止。
pr.terminate()
运行结果如下:
Process to write: 7565
Process to read: 7566
Put A to queue...
Get A from Queue.
Put B to queue...
Get B from Queue.
Put C to queue...
Get C from Queue.
在Unix/Linux下，multiprocessing模块封装了fork()方法，是我们不需要关注fork()细节。由于window没有fork()调用，因此，multiprocessing需要模拟出fork()效果，父进程所有的Python对象都必须通过pickle序列化再传到子进程中，所以，如果multiprocessing在window下调用失败，要先考虑是不是pickle失败。
小结:
在Unix/Linux下，可以使用fork()调用实现多线程。
要实现跨平台多线程，可以使用multiproessing模块。
进程间通信是通过Queue、Pipes等实现的。
