线程和进程
1. 同步和异步
针对结果
- 同步 - 多任务,多个任务执行的时候有先后的顺序, 必须一个先执行后, 另外一个才能继续执行, 只有一条运行主线
- 异步 - 多任务, 多个任务之间执行没有想先后顺序, 可以同时运行, 执行时先后顺序不会对程序有什么影响, 存在多条运行主线
2. 阻塞和非阻塞
针对运行状态 线程的状态(就绪、运行、阻塞)
- 阻塞 - 从调用者的角度出发, 如果在调用的时候, 被卡住, 不能再继续往下执行, 需要等待, 就是 阻塞
- 非阻塞 - 从调用者的角度出发, 如果在调用的时候, 没有被卡住, 能够继续向下执行, 无需等待, 就是 非阻塞
3. 并发和并行
- 并发 - 同时进行
- 并行 - 切换处理, 类似线程之间不断切换
下面这篇文章可以参考
进程和线程使用
- 进程:内存独立, 线程共享同一进程的内存, 一个进程就像是一个应用程序(app)
- 进程是资源的组合, 线程是执行的单位
- 进程之间不能直接相互访问, 同一进程中的线程可以相互通讯
- 创建新的进程很消耗系统资源, 线程非常轻量, 只需要保存线程运行时的必要数据, 如上下文, 程序的堆栈信息
- 同一进程里的线程可以相互控制, 父进程可以控制子进程
开多进程
- redis 缓存问题 读写分离, 单独设置缓存服务器来保存缓存, 读写都在该服务器上进行
关于 IO 密集型任务 和 计算密集型任务
- CPU密集型 - 多进程 计算
- IO密集型 - 多线程 文本操作
如果多线程的进程是CPU密集型的,那多线程并不能有多少效率上的提升,相反还可能会因为线程的频繁切换,导致效率下降,推荐使用多进程;如果是IO密集型,多线程进程可以利用IO阻塞等待时的空闲时间执行其他线程,提升效率。所以我们根据实验对比不同场景的效率
线程常用方法
t.start() 激活线程 (开始)
t.getName() 获取线程名称
t.setName() 设置
t.name : 获取或设置线程的名称
t.is_alive() : 判断线程是否为激活状态
t.isAlive() :判断线程是否为激活状态
t.setDaemon() 设置为后台线程或前台线程(默认:False);通过一个布尔值设置线程是否为守护线程,必须在执行start()方法之后才可以使用。如果是后台线程,主线程执行过程中,后台线程也在进行,主线程执行完毕后,后台线程不论成功与否,均停止;如果是前台线程,主线程执行过程中,前台线程也在进行,主线程执行完毕后,等待前台线程也执行完成后,程序停止
t.isDaemon() : 判断是否为守护线程
t.ident :获取线程的标识符。线程标识符是一个非零整数,只有在调用了start()方法之后该属性才有效,否则它只返回None。
t.join() :逐个执行每个线程,执行完毕后继续往下执行,该方法使得多线程变得无意义
t.run() :线程被cpu调度后自动执行线程对象的run方法
进程
import os
import time
import random
from multiprocessing import Process
def coding():
while True:
print('AAAAAA, 进程号:%s' % os.getpid())
time.sleep(random.randint(1, 5))
print('BBBBBBB, 进程号:%s' % os.getpid())
def play():
while True:
print('1111111111, 进程号:%s' % os.getpid())
time.sleep(random.randint(1, 5))
print('2222222222, 进程号:%s' % os.getpid())
def main():
p1 = Process(target=coding)
p2 = Process(target=play)
p1.start() # 进程之间在不阻塞的情况下是没有影响的,
# 阻塞 等执行完才会进行下一个
# p1.join()
# p2.join(timeout=3) # 设置超时时间
p2.start()
if __name__ == '__main__':
main()
线程
import threading
import time
class Study(threading.Thread):
def __init__(self, name):
super(Study, self).__init__()
self.s_name = name
def run(self): # 重构方法
print('当前线程名称- %s' % threading.current_thread().name)
print('开始学习!- %s' % self.s_name)
time.sleep(3)
print('学习结束')
print('当前线程名称- %s' % threading.current_thread().name)
# print('---' * 20)
def main():
s1 = Study('语文')
s2 = Study('数学')
# 守护线程 在 start 前 主线程结束 子线程会被强制结束
# s1.daemon = True
# s2.daemon = True
# s1.start()
# 阻塞
# s1.join() # 阻塞在这里 等 s1 结束 再向下执行程序
# s2.start()
s1.run() # 都变为主线程 程序会顺序执行, 不存在同时执行
s2.run() # 相当于只是在执行函数, 并没有使用 多线程
print('测试结束-----')
# s1.run()
if __name__ == '__main__':
main()
- 线程锁
多线程会共享资源, 需要线程锁, 当多个线程需要对同一资源进行修改时, 需要线程锁来保护资源, 避免操作资源出错
未加锁
import threading
class MyThread(threading.Thread):
def __init__(self):
super(MyThread, self).__init__()
# self.s_name = s_name
def run(self):
global n
print('number: %s, threading name: %s'% (n, self.name))
n += 1
def main():
thread_list = []
for i in range(20):
t1 = MyThread()
thread_list.append(t1)
for t in thread_list:
t.start()
if __name__ == '__main__':
n = 0
main()
加线程锁
- Lock() 和 RLock()
lock = threading.RLock()
- 允许加多把锁
lock = threading.Lock()
lock = threading.BoundedSemaphore(3)
锁的本质是内部有一个计数器,调用 acquire() 会使这个计数器 -1,release() 则是+1.计数器的值永远不会小于 0,当计数器到 0 时,再调用 acquire() 就会阻塞,直到其他线程来调用release()
import threading
mylock = threading.Lock() # 添加锁
class MyThread(threading.Thread):
def __init__(self):
super(MyThread, self).__init__()
# self.s_name = s_name
def run(self):
if mylock.acquire(): # 锁定
global n
print('number: %s, threading name: %s'% (n, self.name))
n += 1
mylock.release() #释放锁
def main():
thread_list = []
for i in range(20):
t1 = MyThread()
thread_list.append(t1)
for t in thread_list:
t.start()
if __name__ == '__main__':
n = 0
main()
事件Event
python线程的事件用于主线程控制其他线程的执行,事件主要提供了三个方法 set、wait、clear。
事件处理的机制:全局定义了一个“Flag”,如果“Flag”值为 False,那么当程序执行 event.wait 方法时就会阻塞,如果“Flag”值为True,那么event.wait 方法时便不再阻塞。
- clear:将“Flag”设置为False
- set:将“Flag”设置为True
- Event.isSet() :判断标识位是否为Ture
1 # 事件 event
2 lock = threading.Event()
3 def task(arg):
4 time.sleep(1)
5 # 锁住所有的线程
6 lock.wait()
7 print(arg)
8 for i in range(10):
9 t = threading.Thread(target=task,args=(i,))
10 t.start()
11 while 1:
12 value = input('>>:').strip()
13 if value == '1':
14 lock.set() # 打开锁,执行上面的print
15 # lock.clear() # 再锁上
线程池
- 会让线程 更具线程池设置的个数进行 执行, 每次同时执行的个数是设置的个数
import time
from concurrent.futures import ThreadPoolExecutor
def task(i):
time.sleep(2)
print('hello!, 编号:', i)
pool = ThreadPoolExecutor(3)
for i in range(50):
pool.submit(task, i) # 每次输出 三个 hello
线程池的回调函数
- 将前面函数的返回值作为后面的结果进行传递
future.add_done_callback(add1000)
num = future.result()
import time
from concurrent.futures import ThreadPoolExecutor
def add100(num):
print('我是 100 ')
return num + 100
def add1000(future):
print('我是 + 1000')
num = future.result()
time.sleep(5)
print(num + 1000)
def main():
pool = ThreadPoolExecutor(3)
for num in range(1,50):
print('开始计算数字:%s !' % num)
future = pool.submit(add100, num)
future.add_done_callback(add1000) # 前面的结果返回后进行下个函数的调用
if __name__ == '__main__':
main()
多进程
- 多进程之间可以数据共享
import time
from multiprocessing import Process
def task():
time.sleep(1)
print('hello!')
def main():
for i in range(10):
p = Process(target=task)
# p.daemon = True
p.start()
# p.join()
print('主进程结束!!!')
if __name__ == '__main__':
main()
### 数据共享
import time
from multiprocessing import Process, Array
def task(num, li):
time.sleep(1)
li[num] = num
print(list(li))
def main():
li = Array('i', 10)
for i in range(10):
p = Process(target=task, args=(i, li))
# p.daemon = True
p.start()
# p.join()
print('主进程结束!!!')
if __name__ == '__main__':
main()
进程池
和线程池差不多
from concurrent.futures import ProcessPoolExecutor as PPE
#基本用法
def task(arg):
time.sleep(1)
print(arg)
pool = PPE(5)
for i in range(10):
pool.submit(task,i)
# 进程池回调
def call(arg):
data = arg.result()
print(data)
def task(arg):
print(arg)
return arg+100
pool = PPE(5)
for i in range(10):
obj = pool.submit(task,i)
obj.add_done_callback(call)