协程
进程是资源分配最小的单元,线程是cpu调度的最小单位,cpu得到了很大的提高,但是无论创建多进程还是创建多线程来解决问题,都要消耗一定的时间来创建进程、创建线程,以及管理之间的切换,线程有五种状态:初始化--》可运行--》运行中--》阻塞--》销毁(可运行,运行中,阻塞三者互通传递),JVM需要通过操作系统内核中的TCB(Thread Control Block)来改变线程状态,这一过程消耗一定的cpu资源
进程和线程的痛点:若干个生产者线程向队列写入数据,若干个消费者线程从队列中消费数据,这并不是一个高性能的实现:原因如下;
涉及到同步锁;涉及到线程阻塞状态和可运行状态之间的切换;涉及到线程上下文的切换;非常的耗费性能
cpu正在运行一个任务,会在两种情况下切走去执行其他的任务(切换有操作系统强制控制),一种情况是进程为等待输入而阻塞,该任务发生了阻塞;另一种情况是调度程序选择另一个进程,该任务计算的时间过长
在介绍进程理论时,提及进程的三种执行状态(就绪、执行、阻塞(正在执行的进程由于某种原因而暂时无法继续执行,便放弃处理机而处于暂停状态,即进程执行受阻,通常导致进程阻塞的典型事件有:请求I/O,申请缓存空间等)),而线程才是执行单位,所以也可以把其理解为线程的三种状态
第一种情况的切换,在任务一遇到IO情况下,切到任务二去执行,这样就可以利用任务一阻塞的时间完成任务二的计算,效率的提升在此
基于单线程来实现并发成为一个新课题,即只有一个主线程(可利用的cpu只有一个)情况下实现并发,可以节省创建线进程所消耗的时间
并发的本质:切换+保存状态
协程(coroutines),是一种比线程更加轻量级的存在,正如一个进程有多个线程,一个线程也可以拥有多个协程,最重要的是,协程不是被操作系统内核所管理,而是完全由程序所控制(也就是在用户态执行),性能得到了提升,不会像线程切换那样消耗资源
其中第二种情况是任务计算的时间过长,只是为了让cpu能够雨露均沾,实现看起来所有任务都被‘同时’执行的效果,如果多个任务都是纯计算的,这种切换反而会降低效率
通过yield验证,yield本身是一种在单线程下可以保存任务状态的方法(yield可以保存状态,yield的状态保存与操作系统的线程状态很像,但是yield是代码级别控制的,更轻量级;send可以把一个函数的结果传给另一个函数,以此实现单线程内程序之间的切换)
#串行执行 import time def consumer(res): #任务1:接收数据,处理数据 pass def producer(): #任务二:生产数据 res = [] for i in range(10000000): res.append(i) return res start = time.time() #串行执行,这个执行完了然后去执行那个 res = producer() consumer(res) #写成consumer(producer())会降低执行效率 stop = time.time() print(stop - start) #结果:1.1800 #基于yield并发执行 import time def consumer(): #任务1:接受数据,处理数据 while True: x = yield def producer() #任务2:生产数据 g = consumer() next(g) for i in range(10000000): g.send(i) start = time.time() #基于yield保存状态,实现两个任务直接来回切换,即并发的效果 #ps:如果每个任务中都加上打印,那么明显看到领个任务的打印是你一次我一次,并发执行的 producer() stop = time.time() print(stop - start) #结果:1.48
对于单线程,不可避免程序中出现io操作,但如果能在自己的程序中(即用户程序级别,而非操作系统级别)控制单线程下的多个任务能在一个任务遇到io阻塞时就切换到另一个任务去计算,这样就保证了该线程能够最大限度处于就绪状态,即随时都可以被cpu执行的状态,相当于在用户程序级别将自己的io操作最大限度的隐藏起来,从而可以迷惑操作系统,让其看到:该线程好像是一直在计算,io比较少,从而更多的将cpu的执行权限分配给我们的线程
协程的本质就是在单线程下,由用户自己控制一个任务遇到io阻塞就切换另一个任务去执行,以此来提升效率。为了实现它,我们需要找寻一种可以同时满足一下条件的解决方案:
1)可以控制多个任务之间的切换,切换之前将任务的状态保存下来,以便重新运行时,可以基于暂停的位置继续执行
2)作为1的补充:可以检测io操作,在遇到io操作的情况下才发生切换
协程介绍
协程是单线程下的并发,又称微线程,协程是一种用户态的轻量级线程,即协程是由用户程序自己控制调度的
需要强调的是:1)python的线程属于内核级别的,即由操作系统控制调度(如单线程遇到io或执行时间时间过程就会被迫交出cpu执行权限,切换其他线程运行)
2)单线程内开启协程,一旦遇到io,就会从应用程序级别(而非操作系统)控制切换,以此来提升效率(非io操作的切换与效率无关)
对比操作系统控制协程的切换,用户在单线程内控制协程的切换
优点如下:1)协程的切换开销更小,属于程序级别的切换,操作系统完全感知不到,因而更加轻量级
2)单线程内就可以实现并发的效果,最大限度的利用cpu
缺点如下:1)协程的本质是单线程下,无法利用多核,可以是一个程序开启多个进程,每个进程内开启多个线程,每个线程内开启线程
2)协程指的是单个线程,因而一旦协程出现阻塞,将会阻塞整个线程
总结协程的特点:
1)必须在只有一个单线程里实现并发
2)修改共享数据不需加锁
3)用户程序里自己保存多个控制流的上下文栈
4)附加:一个协程遇到IO操作自动切换到其他协程(如何实现检测IO,yield、greenlet都无法实现,就用到了gevent模块(select机制))
Gevent模块
Gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet,Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式的调度
#遇到io主动切换 from gevent import monkey;monkey.patch_all() import threading import gevent def eat(name): print('%s eat 1'%name) gevent.sleep(2) print('%s eat 2'%name) def play(name): print(threading.current_thread().getName()) #查看g1,g2,查看结果为DummyThread-n,即假线程 print('%s play 1'%name) gevent.sleep(1) print('%s play 2'%name) g1 = gevent.spawn(eat,'egon') #g1 = gevent.spawnfunc,1,2,3,x=4,y=5)创建一个协程对象g1,spawn括号内第一个参数是函数名,后面有多个参数位置,可以是位置实参或关键字实参,都是传给func的 g2 = gevent.spawn(play,name = 'egon') g1.join() g2.join() #或者gevent.joinall([g1,g2]) print('主')
egon eat 1 egon play 1 egon play 2 egon eat 2 主
Gevent之同步与异步
#协程同步异步的性能区别,异步遇到阻塞自动切换 from gevent import spawn, joinall, monkey;monkey.patch_all() import gevent import time def task(pid): time.sleep(0.5) print('Task %s done' % pid) def synchronous(): # 同步 for i in range(10): task(i) def asynchronous(): # 异步 g_l = [gevent.spawn(task,i) for i in range(10)] gevent.joinall(g_l) print('DONE') if __name__ == '__main__': print('Synchronous:') synchronous() print('Asynchronous:') asynchronous()
Synchronous: Task 0 done Task 1 done Task 2 done Task 3 done Task 4 done Task 5 done Task 6 done Task 7 done Task 8 done Task 9 done Asynchronous: Task 0 done Task 1 done Task 2 done Task 3 done Task 4 done Task 5 done Task 6 done Task 7 done Task 8 done Task 9 done DONE
Gevent之应用举例:待补充

浙公网安备 33010602011771号