sunny-cheng  

随笔分类 -  并发编程

  • IO模型《七》selectors模块
    摘要:一 了解select,poll,epoll 二 selectors模块 这三种IO多路复用模型在不同的平台有着不同的支持,而epoll在windows下就不支持,好在我们有selectors模块,帮我们默认选择当前平台下最合适的 基于selectors模块实现并发的FTP 参考:链接: https: 阅读全文
    posted @ 2018-12-11 16:46 sunny-cheng 阅读(155) 评论(0) 推荐(0)
  • IO模型《五》异步IO
    摘要:Linux下的asynchronous IO其实用得不多,从内核2.6版本才开始引入。先看一下它的流程: 用户进程发起read操作之后,立刻就可以开始去做其它的事。而另一方面,从kernel的角度,当它受到一个asynchronous read之后,首先它会立刻返回,所以不会对用户进程产生任何blo 阅读全文
    posted @ 2018-12-11 16:44 sunny-cheng 阅读(173) 评论(0) 推荐(0)
  • IO模型《六》IO模型比较分析
    摘要:IO模型比较分析 到目前为止,已经将四个IO Model都介绍完了。现在回过头来回答最初的那几个问题:blocking和non-blocking的区别在哪,synchronous IO和asynchronous IO的区别在哪。先回答最简单的这个:blocking vs non-blocking。前 阅读全文
    posted @ 2018-12-11 16:44 sunny-cheng 阅读(123) 评论(0) 推荐(0)
  • IO模型《四》多路复用IO
    摘要:多路复用IO(IO multiplexing) IO multiplexing这个词可能有点陌生,但是如果我说select/epoll,大概就都能明白了。有些地方也称这种IO方式为事件驱动IO (event driven IO)。我们都知道,select/epoll的好处就在于单个process就可 阅读全文
    posted @ 2018-12-11 16:43 sunny-cheng 阅读(186) 评论(0) 推荐(0)
  • IO模型《三》非阻塞IO
    摘要:非阻塞IO(non-blocking IO) Linux下,可以通过设置socket使其变为non-blocking。当对一个non-blocking socket执行读操作时,流程是这个样子: 从图中可以看出,当用户进程发出read操作时,如果kernel中的数据还没有准备好,那么它并不会bloc 阅读全文
    posted @ 2018-12-11 16:42 sunny-cheng 阅读(189) 评论(0) 推荐(0)
  • 多进程《三》join方法
    摘要:一 Process对象的join方法 在主进程运行过程中如果想并发地执行其他的任务,我们可以开启子进程,此时主进程的任务与子进程的任务分两种情况 情况一:在主进程的任务与子进程的任务彼此独立的情况下,主进程的任务先执行完毕后,主进程还需要等待子进程执行完毕,然后统一回收资源。 情况二:如果主进程的任 阅读全文
    posted @ 2018-12-11 14:42 sunny-cheng 阅读(171) 评论(0) 推荐(0)
  • IO模型《二》阻塞IO
    摘要:阻塞IO(blocking IO) 在linux中,默认情况下所有的socket都是blocking,一个典型的读操作流程大概是这样: 当用户进程调用了recvfrom这个系统调用,kernel就开始了IO的第一个阶段:准备数据。对于network io来说,很多时候数据在一开始还没有到达(比如,还 阅读全文
    posted @ 2018-11-20 11:18 sunny-cheng 阅读(172) 评论(0) 推荐(0)
  • IO模型《一》IO模型介绍
    摘要:IO模型介绍 为了更好地了解IO模型,我们需要事先回顾下:同步、异步、阻塞、非阻塞 同步(synchronous) IO和异步(asynchronous) IO,阻塞(blocking) IO和非阻塞(non-blocking)IO分别是什么,到底有什么区别?这个问题其实不同的人给出的答案都可能不同 阅读全文
    posted @ 2018-11-20 11:17 sunny-cheng 阅读(196) 评论(0) 推荐(0)
  • 协程《三》gevent模块
    摘要:一 gevent模块 Gevent 是一个第三方库,可以轻松通过gevent实现并发同步或异步编程,在gevent中用到的主要模式是Greenlet, 它是以C扩展模块形式接入Python的轻量级协程。 Greenlet全部运行在主程序操作系统进程的内部,但它们被协作式地调度。 遇到IO阻塞时会自动 阅读全文
    posted @ 2018-11-19 22:43 sunny-cheng 阅读(187) 评论(0) 推荐(0)
  • 协程《二》greenlet模块
    摘要:一 greenlet模块 如果我们在单个线程内有20个任务,要想实现在多个任务之间切换,使用yield生成器的方式过于麻烦(需要先得到初始化一次的生成器,然后再调用send。。。非常麻烦),而使用greenlet模块可以非常简单地实现这20个任务直接的切换 单纯的切换(在没有io的情况下或者没有重复 阅读全文
    posted @ 2018-11-19 21:15 sunny-cheng 阅读(283) 评论(0) 推荐(0)
  • 协程《一》什么是协程
    摘要:一 引子 一:其中第二种情况并不能提升效率,只是为了让cpu能够雨露均沾,实现看起来所有任务都被“同时”执行的效果,如果多个任务都是纯计算的,这种切换反而会降低效率。为此我们可以基于yield来验证。yield本身就是一种在单线程下可以保存任务运行状态的方法,我们来简单复习一下: 单纯地切换反而会降 阅读全文
    posted @ 2018-11-19 16:09 sunny-cheng 阅读(242) 评论(0) 推荐(0)
  • 多线程《九》进程池与线程池
    摘要:一 进程池与线程池 在刚开始学多进程或多线程时,我们迫不及待地基于多进程或多线程实现并发的套接字通信,然而这种实现方式的致命缺陷是:服务的开启的进程数或线程数都会随着并发的客户端数目地增多而增多,这会对服务端主机带来巨大的压力,甚至于不堪重负而瘫痪,于是我们必须对服务端开启的进程数或线程数加以控制, 阅读全文
    posted @ 2018-11-19 16:01 sunny-cheng 阅读(232) 评论(0) 推荐(0)
  • 多线程《八》线程queue
    摘要:一 线程queue queue is especially useful in threaded programming when information must be exchanged safely between multiple threads. 有三种不同的用法 class queue. 阅读全文
    posted @ 2018-11-19 10:44 sunny-cheng 阅读(126) 评论(0) 推荐(0)
  • 多线程《七》信号量,Event,定时器
    摘要:一 信号量 信号量也是一把锁,可以指定信号量为5,对比互斥锁同一时间只能有一个任务抢到锁去执行,信号量同一时间可以有5个任务拿到锁去执行,如果说互斥锁是合租房屋的人去抢一个厕所,那么信号量就相当于一群路人争抢公共厕所,公共厕所有多个坑位,这意味着同一时间可以有多个人上公共厕所,但公共厕所容纳的人数是 阅读全文
    posted @ 2018-11-19 09:53 sunny-cheng 阅读(146) 评论(0) 推荐(0)
  • 多线程《六》死锁现象与递归锁
    摘要:一 死锁现象 所谓死锁: 是指两个或两个以上的进程或线程在执行过程中,因争夺资源而造成的一种互相等待的现象,若无外力作用,它们都将无法推进下去。此时称系统处于死锁状态或系统产生了死锁,这些永远在互相等待的进程称为死锁进程,如下就是死锁 执行效果 二 递归锁 解决方法,递归锁,在Python中为了支持 阅读全文
    posted @ 2018-11-18 21:22 sunny-cheng 阅读(265) 评论(0) 推荐(0)
  • 多线程《五》GIL全局解释器锁
    摘要:一 引子 首先需要明确的一点是GIL并不是Python的特性,它是在实现Python解析器(CPython)时所引入的一个概念。就好比C++是一套语言(语法)标准,但是可以用不同的编译器来编译成可执行代码。>有名的编译器例如GCC,INTEL C++,Visual C++等。Python也一样,同样 阅读全文
    posted @ 2018-11-18 20:58 sunny-cheng 阅读(173) 评论(0) 推荐(0)
  • 多线程《四》Thread对象的其他属性和方法
    摘要:Thread对象的其他属性或方法 介绍 验证 执行结果 主线程等待子线程结束 执行结果 阅读全文
    posted @ 2018-11-18 12:27 sunny-cheng 阅读(145) 评论(0) 推荐(0)
  • 多线程《三》进程与线程的区别
    摘要:#1 进程的开销大于线程# from threading import Thread# import time## def task(name):# print('%s is running'%name)# time.sleep(3)# print('%s is done'%name)## if _ 阅读全文
    posted @ 2018-11-18 12:01 sunny-cheng 阅读(173) 评论(0) 推荐(0)
  • 多线程《二》开启线程的两种方式
    摘要:一 threading模块介绍 multiprocess模块的完全模仿了threading模块的接口,二者在使用层面,有很大的相似性,因而不再详细介绍 二 开启线程的两种方式 方式一 方式二 阅读全文
    posted @ 2018-11-18 11:35 sunny-cheng 阅读(155) 评论(0) 推荐(0)
  • 多线程《一》线程理论
    摘要:一 什么是线程 在传统操作系统中,每个进程有一个地址空间,而且默认就有一个控制线程 线程顾名思义,就是一条流水线工作的过程(流水线的工作需要电源,电源就相当于cpu),而一条流水线必须属于一个车间,一个车间的工作过程是一个进程,车间负责把资源整合到一起,是一个资源单位,而一个车间内至少有一条流水线。 阅读全文
    posted @ 2018-11-18 11:04 sunny-cheng 阅读(151) 评论(0) 推荐(0)