Python程序中的进程操作--—--开启多进程

之前我们已经了解了很多进程相关的理论知识,了解进程是什么应该不再困难了,刚刚我们已经了解了,运行中的程序就是一个进程。所有的进程都是通过它的父进程来创建的。因此,运行起来的python程序也是一个进程,那么我们也可以在程序中再创建进程。多个进程可以实现并发效果,也就是说,当我们的程序中存在多个进程的时候,在某些时候,就会让程序的执行速度变快。以我们之前所学的知识,并不能实现创建进程这个功能,所以我们就需要借助python中强大的模块。

一、multiprocess模块

仔细说来,multiprocess不是一个模块而是python中一个操作、管理进程的包。 之所以叫multi是取自multiple的多功能的意思,在这个包中几乎包含了和进程有关的所有子模块。由于提供的子模块非常多,为了方便大家归类记忆,我将这部分大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享。

二、multiprocess中process模块

process模块是一个创建进程的模块,借助这个模块,就可以完成进程的创建。

Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动)

强调:

  1. 需要使用关键字的方式来指定参数
  2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号

参数介绍:

  • group参数未使用,值始终为None
  • target表示调用对象,即子进程要执行的任务
  • args表示调用对象的位置参数元组,args=(1,2,'egon',)
  • kwargs表示调用对象的字典,kwargs={'name':'egon','age':18}
  • name为子进程的名称

3.1 方法介绍

  • p.start():启动进程,并调用该子进程中的p.run()
  • p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法
  • p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁
  • p.is_alive():如果p仍然运行,返回True
  • p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程

3.2 属性介绍

  • p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置
  • p.name:进程的名称
  • p.pid:进程的pid
  • p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可)
  • p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)

3.3 在windows中使用process模块注意事项

在Windows操作系统中由于没有fork(linux操作系统中创建进程的机制),在创建子进程的时候会自动 import 启动它的这个文件,而在 import 的时候又执行了整个文件。因此如果将process()直接写在文件中就会无限递归创建子进程报错。所以必须把创建子进程的部分使用if __name__ =='__main__' 判断保护起来,import 的时候,就不会递归运行了。

四、使用process模块创建进程

在一个python进程中开启子进程,start方法和并发效果。

4.1在python创建子进程方式一

import time
from multiprocessing import Process

def f(name):
    print('hello', name)
    print('我是子进程')
"""
创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次
接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次
""" 
print('进程测试')

if __name__ == '__main__':
    # args表示传递的参数
    p = Process(target=f, args=('bob',))
    p.start()
    time.sleep(1)
    print('执行主进程的内容了')
import time
from multiprocessing import Process

def f(name):
    print('hello', name)
    print('我是子进程')
"""
创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次
接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次
""" 
print('进程测试')

if __name__ == '__main__':
    # args表示传递的参数
    p = Process(target=f, args=('bob',))
    p.start()
    time.sleep(1)
    print('执行主进程的内容了')

4.2 在python中创建子进程方式二

from multiprocessing import Process
import time
class Task(Process):
    def __init__(self, name):
        # self.name = name   # 这样赋值添加属性,在super()__init__时候有重新初始化了,所以要在init下面修改值

        super().__init__()
        self.name = name

    def run(self):
        print(f"子进程的名称{self.name}")
        time.sleep(0.03)
        print("子进程结束")

if __name__ == '__main__':
    p = Task('randy')

    p.start()  # 想操作系统, 发送开启子进程的请求
    print("主进程")


from multiprocessing import Process
import time
class Task(Process):
    def __init__(self, name):
        # self.name = name   # 这样赋值添加属性,在super()__init__时候有重新初始化了,所以要在init下面修改值

        super().__init__()
        self.name = name

    def run(self):
        print(f"子进程的名称{self.name}")
        time.sleep(0.03)
        print("子进程结束")

if __name__ == '__main__':
    p = Task('randy')

    p.start()  # 想操作系统, 发送开启子进程的请求
    print("主进程")

4.3 python中子进程和主进程的内存空间是隔离的

from multiprocessing import Process
import time

x = 10

def task():
    global x
    x = 100
    print(f"子进程中的x: {x}")

if __name__ == '__main__':

    p = Process(target=task)
    p.start()
    time.sleep(0.5)
    print(f"全局x的值: {x}")
from multiprocessing import Process
import time

x = 10

def task():
    global x
    x = 100
    print(f"子进程中的x: {x}")

if __name__ == '__main__':

    p = Process(target=task)
    p.start()
    time.sleep(0.5)
    print(f"全局x的值: {x}")

4.4 join方法使用

from multiprocessing import Process
import time
def task(x):
    print(f"{x}进程开始")

    time.sleep(3)
    print(f"{x}进程结束")


"""
创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次
接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次
""" 
print('进程测试')

if __name__ == '__main__':

    p1 = Process(target=task, args=(1, ))
    p1.start()
    # join会阻塞住主进程在等待子进程结束,然后在执行join下面的代码(内部会调用wait)
    p1.join() 
    print("主进程")
    # p1 = Process(target=task, args=(1, ))
    # p1.start()
    # p2 = Process(target=task, args=(2, ))
    # p2.start()
    # p1.join()
    # p2.join()


from multiprocessing import Process
import time
def task(x):
    print(f"{x}进程开始")

    time.sleep(3)
    print(f"{x}进程结束")


"""
创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次
接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次
""" 
print('进程测试')

if __name__ == '__main__':

    p1 = Process(target=task, args=(1, ))
    p1.start()
    # join会阻塞住主进程在等待子进程结束,然后在执行join下面的代码(内部会调用wait)
    p1.join() 
    print("主进程")
    # p1 = Process(target=task, args=(1, ))
    # p1.start()
    # p2 = Process(target=task, args=(2, ))
    # p2.start()
    # p1.join()
    # p2.join()

4.5 join多个进程时间统计

# 实现并行
from multiprocessing import Process
import time
def task(x):
    print(f"{x}进程开始")

    time.sleep(x)
    print(f"{x}进程结束")


"""
创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次
接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次
""" 
print('进程测试')

if __name__ == '__main__':

    p1 = Process(target=task, args=(1, ))
    
    p2 = Process(target=task, args=(2, ))
    
    p3 = Process(target=task, args=(3, ))

    # 开始时间
    start = time.time()
    p1.start()
    p2.start()
    p3.start()

    # join会阻塞住主进程在等待子进程结束,然后在执行join下面的代码(内部会调用wait)
    p1.join()
    p2.join()
    p3.join()

    end = time.time()

    """
    程序运行的时间为3s多,主要是因为创建的三个子进程会同时启动
    会以时间最长的进程为基准,
    """
    print("程序运行时间%s" %(end-start))



# 实现串行
from multiprocessing import Process
import time
def task(x):
    print(f"{x}进程开始")

    time.sleep(x)
    print(f"{x}进程结束")


"""
创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次
接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次
""" 
print('进程测试')

if __name__ == '__main__':

    p1 = Process(target=task, args=(1, ))   
    p2 = Process(target=task, args=(2, ))   
    p3 = Process(target=task, args=(3, ))

    # 开始时间
    start = time.time()
    # 实现串行,线程会一个一个的执行线程,一个线程执行完之后才会执行下一个线程
    p1.start()
    p1.join()

    p2.start()
    p2.join()

    p3.start()
    p3.join()

    end = time.time()

    """
    程序运行的时间为6s多,主要是因为创建的三个子进程会同时启动
    会以时间最长的进程为基准,
    """
    print("程序运行时间%s" %(end-start))



# 实现并行
from multiprocessing import Process
import time
def task(x):
    print(f"{x}进程开始")

    time.sleep(x)
    print(f"{x}进程结束")


"""
创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次
接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次
""" 
print('进程测试')

if __name__ == '__main__':

    p1 = Process(target=task, args=(1, ))
    
    p2 = Process(target=task, args=(2, ))
    
    p3 = Process(target=task, args=(3, ))

    # 开始时间
    start = time.time()
    p1.start()
    p2.start()
    p3.start()

    # join会阻塞住主进程在等待子进程结束,然后在执行join下面的代码(内部会调用wait)
    p1.join()
    p2.join()
    p3.join()

    end = time.time()

    """
    程序运行的时间为3s多,主要是因为创建的三个子进程会同时启动
    会以时间最长的进程为基准,
    """
    print("程序运行时间%s" %(end-start))



# 实现串行
from multiprocessing import Process
import time
def task(x):
    print(f"{x}进程开始")

    time.sleep(x)
    print(f"{x}进程结束")


"""
创建进程这个print语句会执行两次, 原因是创建进程首先执行了当前程序的代码,则会执行一次
接着创建进程就是复制了一份代码,在子进程中还会在执行一次,所以就会执行打印两次
""" 
print('进程测试')

if __name__ == '__main__':

    p1 = Process(target=task, args=(1, ))   
    p2 = Process(target=task, args=(2, ))   
    p3 = Process(target=task, args=(3, ))

    # 开始时间
    start = time.time()
    # 实现串行,线程会一个一个的执行线程,一个线程执行完之后才会执行下一个线程
    p1.start()
    p1.join()

    p2.start()
    p2.join()

    p3.start()
    p3.join()

    end = time.time()

    """
    程序运行的时间为6s多,主要是因为创建的三个子进程会同时启动
    会以时间最长的进程为基准,
    """
    print("程序运行时间%s" %(end-start))

4.6 多个进程同时运行

from multiprocessing import Process
import time
def task(x):
    print(f"{x}进程开始")

    time.sleep(x)
    print(f"{x}进程结束")

print('进程测试')

if __name__ == '__main__':
    start = time.time()
    p_list = []
    # 创建并启动线程
    for i in range(1,5):
        p = Process(target=task, args=(i, ))
        p.start()
        p_list.append(p)

    # 使用join方法
    for p in p_list:
        p.join()
    end = time.time()
    print("程序运行时间%s" %(end-start))


from multiprocessing import Process
import time
def task(x):
    print(f"{x}进程开始")

    time.sleep(x)
    print(f"{x}进程结束")

print('进程测试')

if __name__ == '__main__':
    start = time.time()
    p_list = []
    # 创建并启动线程
    for i in range(1,5):
        p = Process(target=task, args=(i, ))
        p.start()
        p_list.append(p)

    # 使用join方法
    for p in p_list:
        p.join()
    end = time.time()
    print("程序运行时间%s" %(end-start))

4.7 查看主进程和子进程的进程号

from multiprocessing import Process,current_process
import time
import os
def task():
    print("进程开始")
    time.sleep(0.2)
    # 在子进程查看自己的pid
    print(f'在子进程中查看自己的pid: {current_process().pid}')
    # 在子进程中查看父进程pid
    print(f'在子进程中查看父进程pid: {os.getppid()}')
    print("进程结束")
if __name__ == '__main__':
    p = Process(target=task)
    p.start()

    print(f"在主进程中查看子进程的pid:{p.pid}")
    print(f'主进程的pid: {os.getpid()}')

    print(f'主进程中父进程pid: {os.getppid()}')

    """
    在window中的进程创建查看pid号他的顺序是从小到大排序,主线程pid大于子线程的pid
    os.getpid() 获取当前进程的pid
    os.getppid() 获取当前进程的父进程
    子进程对象.pid 获取当前进程的子进程的pid    
    """
from multiprocessing import Process,current_process
import time
import os
def task():
    print("进程开始")
    time.sleep(0.2)
    # 在子进程查看自己的pid
    print(f'在子进程中查看自己的pid: {current_process().pid}')
    # 在子进程中查看父进程pid
    print(f'在子进程中查看父进程pid: {os.getppid()}')
    print("进程结束")
if __name__ == '__main__':
    p = Process(target=task)
    p.start()

    print(f"在主进程中查看子进程的pid:{p.pid}")
    print(f'主进程的pid: {os.getpid()}')

    print(f'主进程中父进程pid: {os.getppid()}')

    """
    在window中的进程创建查看pid号他的顺序是从小到大排序,主线程pid大于子线程的pid
    os.getpid() 获取当前进程的pid
    os.getppid() 获取当前进程的父进程
    子进程对象.pid 获取当前进程的子进程的pid    
    """

进阶,多个进程同时运行(注意,子进程的执行顺序不是根据启动顺序决定的)

4.8 process中常用的属性

from multiprocessing import Process,current_process
import time
import os
def task():
    print("进程开始")

    time.sleep(0.2)

    # 在子进程查看自己的pid
    print(f'在子进程中查看自己的pid: {current_process().pid}')
    
    print("进程结束")
if __name__ == '__main__':
    p = Process(target=task)
    p.start()
    # 1 查看进程的名称
    print(p.name)
    # 2 判断进程是否还存在
    print(p.is_alive())
    time.sleep(3)
    print(p.is_alive())

    # 3 告诉操作系统结束之后关闭进程
    p2 = Process(target=task)
    p2.start()
    p2.terminate()

    print("terminate: ", p2.is_alive())
    p2.join()
    print("terminate: ", p2.is_alive())



from multiprocessing import Process,current_process
import time
import os
def task():
    print("进程开始")

    time.sleep(0.2)

    # 在子进程查看自己的pid
    print(f'在子进程中查看自己的pid: {current_process().pid}')
    
    print("进程结束")
if __name__ == '__main__':
    p = Process(target=task)
    p.start()
    # 1 查看进程的名称
    print(p.name)
    # 2 判断进程是否还存在
    print(p.is_alive())
    time.sleep(3)
    print(p.is_alive())

    # 3 告诉操作系统结束之后关闭进程
    p2 = Process(target=task)
    p2.start()
    p2.terminate()

    print("terminate: ", p2.is_alive())
    p2.join()
    print("terminate: ", p2.is_alive())

五、守护进程

会随着主进程的结束而结束。

主进程创建守护进程

  其一:守护进程会在主进程代码执行结束后就终止

  其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children

注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止。

5.1 守护进程的启动

import os
import time
from multiprocessing import Process

class Myprocess(Process):
    def __init__(self,person):
        super().__init__()
        self.person = person
    def run(self):
        print(os.getpid(),self.name)
        print('%s正在和女主播聊天' %self.person)


p=Myprocess('哪吒')
p.daemon=True # 一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
p.start()
time.sleep(10)  # 在sleep时查看进程id对应的进程ps -ef|grep id
print('主')
import os
import time
from multiprocessing import Process

class Myprocess(Process):
    def __init__(self,person):
        super().__init__()
        self.person = person
    def run(self):
        print(os.getpid(),self.name)
        print('%s正在和女主播聊天' %self.person)


p=Myprocess('哪吒')
p.daemon=True # 一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
p.start()
time.sleep(10)  # 在sleep时查看进程id对应的进程ps -ef|grep id
print('主')

5.2主进程代码执行结束守护进程立即结束

from multiprocessing import Process

def foo():
    print(123)
    time.sleep(1)
    print("end123")

def bar():
    print(456)
    time.sleep(3)
    print("end456")


p1=Process(target=foo)
p2=Process(target=bar)

p1.daemon=True
p1.start()
p2.start()
time.sleep(0.1)
print("main-------")  # 打印该行则主进程代码结束,则守护进程p1应该被终止.#可能会有p1任务执行的打印信息123,因为主进程打印main----时,p1也执行了,但是随即被终止
from multiprocessing import Process

def foo():
    print(123)
    time.sleep(1)
    print("end123")

def bar():
    print(456)
    time.sleep(3)
    print("end456")


p1=Process(target=foo)
p2=Process(target=bar)

p1.daemon=True
p1.start()
p2.start()
time.sleep(0.1)
print("main-------")  # 打印该行则主进程代码结束,则守护进程p1应该被终止.#可能会有p1任务执行的打印信息123,因为主进程打印main----时,p1也执行了,但是随即被终止

六、socket聊天并发实例

6.1 使用多进程是新socket聊天并发-server端

from socket import *
from multiprocessing import Process

server=socket(AF_INET,SOCK_STREAM)
server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)
server.bind(('127.0.0.1',8080))
server.listen(5)

def talk(conn,client_addr):
    while True:
        try:
            # 注意在这里不能使用input进行交互信息,因为是在子进程中输入的,所以你输入不对
            msg=conn.recv(1024)
            if not msg:break
            conn.send(msg.upper())
        except Exception:
            break

if __name__ == '__main__': # windows下start进程一定要写到这下面
    while True:
        conn,client_addr=server.accept()
        p=Process(target=talk,args=(conn,client_addr))
        p.start()
from socket import *
from multiprocessing import Process

server=socket(AF_INET,SOCK_STREAM)
server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)
server.bind(('127.0.0.1',8080))
server.listen(5)

def talk(conn,client_addr):
    while True:
        try:
            # 注意在这里不能使用input进行交互信息,因为是在子进程中输入的,所以你输入不对
            msg=conn.recv(1024)
            if not msg:break
            conn.send(msg.upper())
        except Exception:
            break

if __name__ == '__main__': # windows下start进程一定要写到这下面
    while True:
        conn,client_addr=server.accept()
        p=Process(target=talk,args=(conn,client_addr))
        p.start()

6.1 使用多进程是新socket聊天并发-client端

from socket import *

client=socket(AF_INET,SOCK_STREAM)
client.connect(('127.0.0.1',8080))


while True:
    msg=input('>>: ').strip()
    if not msg:continue

    client.send(msg.encode('utf-8'))
    msg=client.recv(1024)
    print(msg.decode('utf-8'))
from socket import *

client=socket(AF_INET,SOCK_STREAM)
client.connect(('127.0.0.1',8080))


while True:
    msg=input('>>: ').strip()
    if not msg:continue

    client.send(msg.encode('utf-8'))
    msg=client.recv(1024)
    print(msg.decode('utf-8'))