协程

  进程是资源分配最小的单元,线程是cpu调度的最小单位,cpu得到了很大的提高,但是无论创建多进程还是创建多线程来解决问题,都要消耗一定的时间来创建进程、创建线程,以及管理之间的切换,线程有五种状态:初始化--》可运行--》运行中--》阻塞--》销毁(可运行,运行中,阻塞三者互通传递),JVM需要通过操作系统内核中的TCB(Thread Control Block)来改变线程状态,这一过程消耗一定的cpu资源

  进程和线程的痛点:若干个生产者线程向队列写入数据,若干个消费者线程从队列中消费数据,这并不是一个高性能的实现:原因如下;

  涉及到同步锁;涉及到线程阻塞状态和可运行状态之间的切换;涉及到线程上下文的切换;非常的耗费性能

  cpu正在运行一个任务,会在两种情况下切走去执行其他的任务(切换有操作系统强制控制),一种情况是进程为等待输入而阻塞,该任务发生了阻塞;另一种情况是调度程序选择另一个进程,该任务计算的时间过长

  在介绍进程理论时,提及进程的三种执行状态(就绪、执行、阻塞(正在执行的进程由于某种原因而暂时无法继续执行,便放弃处理机而处于暂停状态,即进程执行受阻,通常导致进程阻塞的典型事件有:请求I/O,申请缓存空间等)),而线程才是执行单位,所以也可以把其理解为线程的三种状态

  第一种情况的切换,在任务一遇到IO情况下,切到任务二去执行,这样就可以利用任务一阻塞的时间完成任务二的计算,效率的提升在此

  基于单线程来实现并发成为一个新课题,即只有一个主线程(可利用的cpu只有一个)情况下实现并发,可以节省创建线进程所消耗的时间

  并发的本质:切换+保存状态

  协程(coroutines),是一种比线程更加轻量级的存在,正如一个进程有多个线程,一个线程也可以拥有多个协程,最重要的是,协程不是被操作系统内核所管理,而是完全由程序所控制(也就是在用户态执行),性能得到了提升,不会像线程切换那样消耗资源

  其中第二种情况是任务计算的时间过长,只是为了让cpu能够雨露均沾,实现看起来所有任务都被‘同时’执行的效果,如果多个任务都是纯计算的,这种切换反而会降低效率

  通过yield验证,yield本身是一种在单线程下可以保存任务状态的方法(yield可以保存状态,yield的状态保存与操作系统的线程状态很像,但是yield是代码级别控制的,更轻量级;send可以把一个函数的结果传给另一个函数,以此实现单线程内程序之间的切换)

#串行执行
import time
def consumer(res):
    #任务1:接收数据,处理数据
    pass
def producer():
    #任务二:生产数据
    res = []
    for i in range(10000000):
        res.append(i)
    return res
start = time.time()
#串行执行,这个执行完了然后去执行那个
res = producer()
consumer(res) #写成consumer(producer())会降低执行效率
stop = time.time()
print(stop - start)
#结果:1.1800

#基于yield并发执行
import time
def consumer():
    #任务1:接受数据,处理数据
    while True:
        x = yield
def producer()
    #任务2:生产数据
    g = consumer()
    next(g)
    for i in range(10000000):
        g.send(i)
start = time.time()
#基于yield保存状态,实现两个任务直接来回切换,即并发的效果
#ps:如果每个任务中都加上打印,那么明显看到领个任务的打印是你一次我一次,并发执行的
producer()
stop = time.time()
print(stop - start)
#结果:1.48

 

  

 

  对于单线程,不可避免程序中出现io操作,但如果能在自己的程序中(即用户程序级别,而非操作系统级别)控制单线程下的多个任务能在一个任务遇到io阻塞时就切换到另一个任务去计算,这样就保证了该线程能够最大限度处于就绪状态,即随时都可以被cpu执行的状态,相当于在用户程序级别将自己的io操作最大限度的隐藏起来,从而可以迷惑操作系统,让其看到:该线程好像是一直在计算,io比较少,从而更多的将cpu的执行权限分配给我们的线程

  协程的本质就是在单线程下,由用户自己控制一个任务遇到io阻塞就切换另一个任务去执行,以此来提升效率。为了实现它,我们需要找寻一种可以同时满足一下条件的解决方案:

  1)可以控制多个任务之间的切换,切换之前将任务的状态保存下来,以便重新运行时,可以基于暂停的位置继续执行

  2)作为1的补充:可以检测io操作,在遇到io操作的情况下才发生切换

  

  协程介绍

  协程是单线程下的并发,又称微线程,协程是一种用户态的轻量级线程,即协程是由用户程序自己控制调度的

  需要强调的是:1)python的线程属于内核级别的,即由操作系统控制调度(如单线程遇到io或执行时间时间过程就会被迫交出cpu执行权限,切换其他线程运行)

         2)单线程内开启协程,一旦遇到io,就会从应用程序级别(而非操作系统)控制切换,以此来提升效率(非io操作的切换与效率无关)

  对比操作系统控制协程的切换,用户在单线程内控制协程的切换

  优点如下:1)协程的切换开销更小,属于程序级别的切换,操作系统完全感知不到,因而更加轻量级

       2)单线程内就可以实现并发的效果,最大限度的利用cpu

  缺点如下:1)协程的本质是单线程下,无法利用多核,可以是一个程序开启多个进程,每个进程内开启多个线程,每个线程内开启线程

       2)协程指的是单个线程,因而一旦协程出现阻塞,将会阻塞整个线程

  总结协程的特点:

  1)必须在只有一个单线程里实现并发

  2)修改共享数据不需加锁

  3)用户程序里自己保存多个控制流的上下文栈

  4)附加:一个协程遇到IO操作自动切换到其他协程(如何实现检测IO,yield、greenlet都无法实现,就用到了gevent模块(select机制))

  

  Gevent模块

  Gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet,Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式的调度

#遇到io主动切换
from gevent import monkey;monkey.patch_all()
import threading
import gevent
def eat(name):
    print('%s eat 1'%name)
    gevent.sleep(2)
    print('%s eat 2'%name)
def play(name):
    print(threading.current_thread().getName()) #查看g1,g2,查看结果为DummyThread-n,即假线程
    print('%s play 1'%name)
    gevent.sleep(1)
    print('%s play 2'%name)
g1 = gevent.spawn(eat,'egon')
#g1 = gevent.spawnfunc,1,2,3,x=4,y=5)创建一个协程对象g1,spawn括号内第一个参数是函数名,后面有多个参数位置,可以是位置实参或关键字实参,都是传给func的
g2 = gevent.spawn(play,name = 'egon')
g1.join()
g2.join()
#或者gevent.joinall([g1,g2])
print('')
egon eat 1
egon play 1
egon play 2
egon eat 2
主

  

  Gevent之同步与异步

#协程同步异步的性能区别,异步遇到阻塞自动切换
from gevent import spawn, joinall, monkey;monkey.patch_all()
import gevent
import time
def task(pid):
    time.sleep(0.5)
    print('Task %s done' % pid)
def synchronous():  # 同步
    for i in range(10):
        task(i)
def asynchronous():  # 异步
    g_l = [gevent.spawn(task,i) for i in range(10)]
    gevent.joinall(g_l)
    print('DONE')
if __name__ == '__main__':
    print('Synchronous:')
    synchronous()
    print('Asynchronous:')
    asynchronous()
Synchronous:
Task 0 done
Task 1 done
Task 2 done
Task 3 done
Task 4 done
Task 5 done
Task 6 done
Task 7 done
Task 8 done
Task 9 done
Asynchronous:
Task 0 done
Task 1 done
Task 2 done
Task 3 done
Task 4 done
Task 5 done
Task 6 done
Task 7 done
Task 8 done
Task 9 done
DONE

  Gevent之应用举例:待补充

posted @ 2019-12-18 11:51  瞧我这个笨脑袋  阅读(176)  评论(0)    收藏  举报