之前我们已经了解了很多进程相关的理论知识,了解进程是什么应该不再困难了,刚刚我们已经了解了,运行中的程序就是一个进程。所有的进程都是通过它的父进程来创建的。因此,运行起来的python程序也是一个进程,那么我们也可以在程序中再创建进程。多个进程可以实现并发效果,也就是说,当我们的程序中存在多个进程的时候,在某些时候,就会让程序的执行速度变快。以我们之前所学的知识,并不能实现创建进程这个功能,所以我们就需要借助python中强大的模块。
一、multiprocess模块
仔细说来,multiprocess不是一个模块而是python中一个操作、管理进程的包。 之所以叫multi是取自multiple的多功能的意思,在这个包中几乎包含了和进程有关的所有子模块。由于提供的子模块非常多,为了方便大家归类记忆,我将这部分大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享。
二、multiprocess.process模块
process模块是一个创建进程的模块,借助这个模块,就可以完成进程的创建。
三、process模块介绍
Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动)
强调:
- 需要使用关键字的方式来指定参数
- args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
参数介绍:
- group参数未使用,值始终为None
- target表示调用对象,即子进程要执行的任务
- args表示调用对象的位置参数元组,
args=(1,2,'egon',)
- kwargs表示调用对象的字典,
kwargs={'name':'egon','age':18}
- name为子进程的名称
3.1 方法介绍
p.start():启动进程,并调用该子进程中的p.run()
p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法
p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁
p.is_alive():如果p仍然运行,返回True
p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程
3.2 属性介绍
p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置
p.name:进程的名称
p.pid:进程的pid
p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可)
p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)
3.3 在windows中使用process模块的注意事项
在Windows操作系统中由于没有fork(linux操作系统中创建进程的机制),在创建子进程的时候会自动 import 启动它的这个文件,而在 import 的时候又执行了整个文件。因此如果将process()直接写在文件中就会无限递归创建子进程报错。所以必须把创建子进程的部分使用if \_\_name\_\_ =='\_\_main\_\_' 判断保护起来,import 的时候,就不会递归运行了。
四、使用process模块创建进程
在一个python进程中开启子进程,start方法和并发效果。
4.1 在Python中启动的第一个子进程
1 2 3 4 5 6 7 8 9 10 11 12
|
import time from multiprocessing import Process
def f(name): print('hello', name) print('我是子进程')
if __name__ == '__main__': p = Process(target=f, args=('bob',)) p.start() time.sleep(1) print('执行主进程的内容了')
|
4.2 join方法
1 2 3 4 5 6 7 8 9 10 11 12 13 14
|
import time from multiprocessing import Process
def f(name): print('hello', name) time.sleep(1) print('我是子进程')
if __name__ == '__main__': p = Process(target=f, args=('bob',)) p.start()
|
4.3 查看主进程和子进程的进程号
1 2 3 4 5 6 7 8 9 10 11 12 13
|
import os from multiprocessing import Process
def f(x): print('子进程id :',os.getpid(),'父进程id :',os.getppid()) return x*x
if __name__ == '__main__': print('主进程id :', os.getpid()) p_lst = [] for i in range(5): p = Process(target=f, args=(i,)) p.start()
|
进阶,多个进程同时运行(注意,子进程的执行顺序不是根据启动顺序决定的)
4.4 多个进程同时运行
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
|
import time from multiprocessing import Process
def f(name): print('hello', name) time.sleep(1)
if __name__ == '__main__': p_lst = [] for i in range(5): p = Process(target=f, args=('bob',)) p.start() p_lst.append(p)
|
4.5 多个进程同时运行,再谈join方法(1)
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18
|
import time from multiprocessing import Process
def f(name): print('hello', name) time.sleep(1)
if __name__ == '__main__': p_lst = [] for i in range(5): p = Process(target=f, args=('bob',)) p.start() p_lst.append(p) p.join()
|
4.6 多个进程同时运行,再谈join方法(2)
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
|
import time from multiprocessing import Process
def f(name): print('hello', name) time.sleep(1)
if __name__ == '__main__': p_lst = [] for i in range(5): p = Process(target=f, args=('bob',)) p.start() p_lst.append(p)
|
除了上面这些开启进程的方法,还有一种以继承Process类的形式开启进程的方式
4.7 通过继承Process类开启进程
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27
|
import os from multiprocessing import Process
class MyProcess(Process): def __init__(self,name): super().__init__() self.name=name def run(self): print(os.getpid()) print('%s 正在和女主播聊天' %self.name)
p1=MyProcess('wupeiqi') p2=MyProcess('yuanhao') p3=MyProcess('nezha')
p1.start()
|
进程之间的数据隔离问题
4.8 进程之间的数据隔离问题
1 2 3 4 5 6 7 8 9 10 11 12 13
|
from multiprocessing import Process
def work(): global n n=0 print('子进程内: ',n)
if __name__ == '__main__': n = 100 p=Process(target=work) p.start() print('主进程内: ',n)
|
五、守护进程
会随着主进程的结束而结束。
主进程创建守护进程
其一:守护进程会在主进程代码执行结束后就终止
其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children
注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止。
5.1 守护进程的启动
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18
|
import os import time from multiprocessing import Process
class Myprocess(Process): def __init__(self,person): super().__init__() self.person = person def run(self): print(os.getpid(),self.name) print('%s正在和女主播聊天' %self.person)
p=Myprocess('哪吒') p.daemon=True
|
5.2 主进程代码执行结束守护进程立即结束
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21
|
from multiprocessing import Process
def foo(): print(123) time.sleep(1) print("end123")
def bar(): print(456) time.sleep(3) print("end456")
p1=Process(target=foo) p2=Process(target=bar)
p1.daemon=True p1.start() p2.start() time.sleep(0.1) print("main-------")
|
六、socket聊天并发实例
6.1 使用多进程实现socket聊天并发-server端
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22
|
from socket import * from multiprocessing import Process
server=socket(AF_INET,SOCK_STREAM) server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1) server.bind(('127.0.0.1',8080)) server.listen(5)
def talk(conn,client_addr): while True: try: msg=conn.recv(1024) if not msg:break conn.send(msg.upper()) except Exception: break
if __name__ == '__main__':
|
6.2 使用多进程实现socket聊天并发-client端
1 2 3 4 5 6 7 8 9 10 11 12 13
|
from socket import *
client=socket(AF_INET,SOCK_STREAM) client.connect(('127.0.0.1',8080))
while True: msg=input('>>: ').strip() if not msg:continue
client.send(msg.encode('utf-8')) msg=client.recv(1024) print(msg.decode('utf-8'))
|
七、多进程中的其他方法
7.1 进程对象的其他方法:terminate和is_alive
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23
|
from multiprocessing import Process import time import random
class Myprocess(Process): def __init__(self,person): self.name=person super().__init__()
def run(self): print('%s正在和网红脸聊天' %self.name) time.sleep(random.randrange(1,5)) print('%s还在和网红脸聊天' %self.name)
p1=Myprocess('哪吒') p1.start()
p1.terminate()
|
7.2 进程对象的其他属性:pid和name
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17
|
class Myprocess(Process): def __init__(self,person): self.name=person
|