Gevent工作原理(转)

作者:大U哥
链接:https://www.zhihu.com/question/20703476/answer/15911452
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

gevent 比起其他框架(比如tornado,twisted)的一个巨大优势就是:用同步的方法(自然没有回调函数)写异步应用,因为同步的方式更接近开发人员的编程思维。
gevent可以用一句话向pythoner阐述:使用多路IO复用对文件描述符的事件监听,从而撬动协程的“透明”切换。这句话说起来容易,但是阐述起来就复杂些:
  1. 底层(或者说主协程)自然有一个多路IO复用循环(linux上是epoll,unix是kqueue,以下统一用epoll代替描述)
  2. 当处理一个socket链接时,就创建一个协程greenlet去处理。
  3. 当socket遇到阻塞的时候,比如等待数据的返回或者发送,此时gevent做了很关键的两步:
    1. 为这个socket的fd在epoll上添加可读或者可写事件回调,而这个回调函数便是 gevent.getcurrent().switch
    2. 通过 get_hub().switch() 切换到主协程。切换回主协程,去干其他事情了。但是当该socket可读或者可写,epoll自然会调用上述添加的回调函数,从而切换回socket的处理协程,从上次悬挂点接着往下执行。
之所以做到透明,是因为python socket上打了patch。所谓打patch,就是自己实现了一个socket模块替换了python的标准socket模块。
def patch_socket():
from gevent import socket
_socket = __import__('socket')
_socket.socket = socket.socket
...
gevent实现的socket模块,比起python的标准socket模块,做了以下修改:
  1. 将所有的socket设置成非阻塞。
  2. 修改关键函数,比如send,recv,发生阻塞(捕获到异常 EWOULDBLOCK)时,在socket的fd添加回调函数,并跳回到主协程。

综上所述,gevent不是没有事件监听回调,而是通过给python socket打patch,使其透明化,最终达到让编程人员用同步的思维去开发。
ps,给python socket打patch,固然好,但是有个小缺点,就是:python c扩展模块中的socket并不受gevent的管制和调度,因此用在gevent中的网络库,都尽量使用纯python库
posted @ 2019-12-20 19:10  奋斗终生  Views(...)  Comments(...Edit  收藏