Python 怎样选择多进程(multiprocessing)、多线程(Threading)、多协程(asyncio)

Python 并发编程的三种方式

  1. 多线程 Thread

  2. 多进程 Process

  3. 多协程 Coroutine

CPU密集型计算、IO密集型计算

  1. CPU密集型( CPU-bound) :

    • CPU密集型也叫计算密集型,是指I/O在很短的时间就可以完成,CPU需要大量的计算和处理,特点是CPU占用率相当高

    • 例如:压缩解压缩、加密解密、正则表达式搜索

  2. IO密集型( I/0 bound ) :

    • IO密集型指的是系统运作大部分的状况是CPU在等I/O (硬盘/内存)的读/写操作,CPU占用率仍然较低。

    • 例如:文件处理程序、网络爬虫程序、读写数据库程序

多线程、多进程、多协程的对比

类型 优缺点
多进程 Process(multiprocessing) 优点:可以利用多核CPU并行运算
缺点:占用资源最多、可启动数目比线程少

适用于:CPU密集型计算
多线程 Thread(threading) 优点:相比进程,更轻量级、占用资源少
缺点:
       相比进程:多线程只能并发执行,不能利用多CPU (GIL )
       相比协程:启动数目有限制,占用内存资源,有线程切换开销

适用于: I0密集型计算、同时运行的任务数目要求不多
多协程 Coroutine(asyncio) 优点:内存开销最少、启动协程数量最多
缺点:支持的库有限制(aiohttp VS requests)、代码实现复杂

适用于: I0密集型计算、需要超多任务运行、但有现成库支持的场景
  • 一个进程中可以启动N个线程

  • 一个线程中可以启动N个协程

posted @ 2021-06-26 15:39  廿九九  阅读(688)  评论(0)    收藏  举报