32-1 协程

 

一、什么是协程

协程,又称微线程,纤程。英文名Coroutine。一句话说明什么是线程:协程是一种用户态的轻量级线程

协程拥有自己的寄存器上下文和栈。协程调度切换时,将寄存器上下文和栈保存到其他地方,在切回来的时候,恢复先前保存的寄存器上下文和栈。因此:

协程能保留上一次调用时的状态(即所有局部状态的一个特定组合),每次过程重入时,就相当于进入上一次调用的状态,换种说法:进入上一次离开时所处逻辑流的位置。

 

二、协程的优缺点

1. 优点

  • 无需线程上下文切换的开销
  • 无需原子操作锁定及同步的开销
  • 方便切换控制流,简化编程模型
  • 高并发+高扩展性+低成本:一个CPU支持上万的协程都不是问题。所以很适合用于高并发处理。

2. 缺点

  • 无法利用多核资源,因为协程的本质是个单线程。但如果和进程配合就可以运行在多CPU上.当然我们日常所编写的绝大部分应用都没有这个必要,除非是cpu密集型应用。
  • 进行阻塞(Blocking)操作(如IO时)会阻塞掉整个程序。

 

三、协程的实现

1. yield

import time


def consumer(name):
    print("--->starting...")
    while True:
        new_baozi = yield
        print("[%s] is eating baozi %s" % (name, new_baozi))
        time.sleep(1)


def producer():
    r = next(con)
    r = next(con2)
    n = 0
    while n < 5:
        n += 1
        print("\033[32;1m[producer]\033[0m is making baozi %s" % n)
        con.send(n)
        con2.send(n)

if __name__ == '__main__':
    con = consumer("c1")      # 定义一个生成器对象con
    con2 = consumer("c2")
    p = producer()            # 执行 producer 函数

2. greenlet

greenlet是一个用C实现的协程模块,相比与python自带的yield,它可以使你在任意函数之间随意切换,而不需把这个函数先声明为generator

(需要先安装第三方模块gevent) 

from greenlet import greenlet


def test1():
    print(12)
    gr2.switch()         # 第二步:切换到test2函数执行
    print(34)
    gr2.switch()         # 第四步:切换到test2函数执行


def test2():
    print(56)
    gr1.switch()         # 第三步:切换到test1函数执行
    print(78)


gr1 = greenlet(test1)    # 创建一个greenlet对象
gr2 = greenlet(test2)
gr1.switch()             # 第一步:切换到test1函数执行

感觉确实用着比generator还简单了呢,但好像还没有解决一个问题,就是遇到IO操作,自动切换,对不对?

3. gevent

gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度。

import gevent


def func1():
    print('\033[31;1m李闯在跟海涛搞...\033[0m')
    gevent.sleep(2)                                    # 遇到IO阻塞,立即切换
    print('\033[31;1m李闯又回去跟继续跟海涛搞...\033[0m')


def func2():
    print('\033[32;1m李闯切换到了跟海龙搞...\033[0m')
    gevent.sleep(1)
    print('\033[32;1m李闯搞完了海涛,回来继续跟海龙搞...\033[0m')


gevent.joinall([
    gevent.spawn(func1),
    gevent.spawn(func2),
])

 

import gevent


def task(pid):
    gevent.sleep(0.5)
    print('Task %s done' % pid)


def synchronous():
    for i in range(1,10):
        task(i)


def asynchronous():
    threads = [gevent.spawn(task, i) for i in range(10)]
    gevent.joinall(threads)


print('Synchronous:')    
synchronous()            # 先执行此函数,过程是串行的。结果一个一个的出

print('Asynchronous:')   
asynchronous()           # 再执行这个函数,过程是并行的。结果一下出来 
同步与异步的性能区别
from gevent import monkey
import gevent
from urllib.request import urlopen


monkey.patch_all()


def f(url):
    print('GET: %s' % url)
    resp = urlopen(url)
    data = resp.read()
    print('%d bytes received from %s.' % (len(data), url))

gevent.joinall([
        gevent.spawn(f, 'https://www.python.org/'),
        gevent.spawn(f, 'https://www.yahoo.com/'),
        gevent.spawn(f, 'https://github.com/'),
])

# 遇到IO阻塞时会自动切换任务
简单爬虫

 

参考:

http://www.cnblogs.com/alex3714/articles/5248247.html

posted @ 2017-07-29 10:09  seaidler  阅读(105)  评论(0)    收藏  举报