【Netty】5种I/O模型

文章参考博客：https://www.cnblogs.com/fanzhidongyzby/p/4098546.html?hmsr=toutiao.io&utm_medium=toutiao.io&utm_source=toutiao.io

5种I/O模型：https://blog.csdn.net/super_little_newbie/article/details/84787754 

（1）同步阻塞IO（Blocking IO）：即传统的IO模型。

（2）同步非阻塞IO（Non-blocking IO）：默认创建的socket都是阻塞的，非阻塞IO要求socket被设置为NONBLOCK。注意这里所说的NIO并非Java的NIO（New IO）库。

（3）IO多路复用（IO Multiplexing）：即经典的Reactor设计模式，有时也称为异步阻塞IO，Java中的Selector和Linux中的epoll都是这种模型。

（4）异步IO（Asynchronous IO）：即经典的Proactor设计模式，也称为异步非阻塞IO。

 

同步和异步的概念描述的是用户线程与内核的交互方式：同步是指用户线程发起IO请求后需要等待或者轮询内核IO操作完成后才能继续执行；而异步是指用户线程发起IO请求后仍继续执行，当内核IO操作完成后会通知用户线程，或者调用用户线程注册的回调函数。

阻塞和非阻塞的概念描述的是用户线程调用内核IO操作的方式：阻塞是指IO操作需要彻底完成后才返回到用户空间；而非阻塞是指IO操作被调用后立即返回给用户一个状态值，无需等到IO操作彻底完成。

一、五种I/O模型概念

cpu和硬件对于I/O操作的工作内容分配：

cpu负责纯内存操作，性能是 DMA(硬件控制器)操作的千倍以上。https://blog.csdn.net/beyondfengyu/article/details/107560827

 

 

 

 

异步I/O模型和信号驱动I/O模型的区别：

1、信号驱动I/O由内核通知我们何时可以开始一个I/O操作

2、异步I/O，内核通知我们I/O操作何时已经完成

 

二、5中I/O模型的示意图

（1）阻塞I/O模型

如图1所示，用户线程通过系统调用read发起IO读操作，由用户空间转到内核空间。内核等到数据包到达后，然后将接收的数据拷贝到用户空间，完成read操作。

用户线程使用同步阻塞IO模型的伪代码描述为：

{

read(socket, buffer);

process(buffer);

}

即用户需要等待read将socket中的数据读取到buffer后，才继续处理接收的数据。整个IO请求的过程中，用户线程是被阻塞的，这导致用户在发起IO请求时，不能做任何事情，对CPU的资源利用率不够。

 

（2）非阻塞I/O模型

 

如图2所示，由于socket是非阻塞的方式，因此用户线程发起IO请求时立即返回。但并未读取到任何数据，用户线程需要不断地发起IO请求，直到数据到达后，才真正读取到数据，继续执行。

用户线程使用同步非阻塞IO模型的伪代码描述为：

{

while(read(socket, buffer) != SUCCESS)

;

process(buffer);

}

即用户需要不断地调用read，尝试读取socket中的数据，直到读取成功后，才继续处理接收的数据。整个IO请求的过程中，虽然用户线程每次发起IO请求后可以立即返回，但是为了等到数据，仍需要不断地轮询、重复请求，消耗了大量的CPU的资源。一般很少直接使用这种模型，而是在其他IO模型中使用非阻塞IO这一特性。

 

（3）I/O复用模型

 

IO多路复用模型是建立在内核提供的多路分离函数select基础之上的，使用select函数可以避免同步非阻塞IO模型中轮询等待的问题。

如图3所示，用户首先将需要进行IO操作的socket添加到select中，然后阻塞等待select系统调用返回。当数据到达时，socket被激活，select函数返回。用户线程正式发起read请求，读取数据并继续执行。

从流程上来看，使用select函数进行IO请求和同步阻塞模型没有太大的区别，甚至还多了添加监视socket，以及调用select函数的额外操作，效率更差。但是，使用select以后最大的优势是用户可以在一个线程内同时处理多个socket的IO请求。用户可以注册多个socket，然后不断地调用select读取被激活的socket，即可达到在同一个线程内同时处理多个IO请求的目的。而在同步阻塞模型中，必须通过多线程的方式才能达到这个目的。

用户线程使用select函数的伪代码描述为

{
    
    //将socket注册到selector上
    select(socket);

    while(1) {

       //selector基于内核支持，会监听发生在该socket上的网络通信事件（一个请求会被封装成一个socket返回），这块代码是会阻塞的
        sockets = select();
       //处理网络请求
        for(socket in sockets) {

            if(can_read(socket)) {

            read(socket, buffer);

            process(buffer);

        }

}

}

}                            

其中while循环前将socket添加到select监视中，然后在while内一直调用select获取被激活的socket，一旦socket可读，便调用read函数将socket中的数据读取出来。

然而，使用select函数的优点并不仅限于此。虽然上述方式允许单线程内处理多个IO请求，但是每个IO请求的过程还是阻塞的（在select函数上阻塞），平均时间甚至比同步阻塞IO模型还要长。如果用户线程只注册自己感兴趣的socket或者IO请求，然后去做自己的事情，等到数据到来时再进行处理，则可以提高CPU的利用率。

IO多路复用模型使用了Reactor设计模式实现了这一机制。

如图4所示，EventHandler抽象类表示IO事件处理器，它拥有IO文件句柄Handle（通过get_handle获取），以及对Handle的操作handle_event（读/写等）。继承于EventHandler的子类可以对事件处理器的行为进行定制。Reactor类用于管理EventHandler（注册、删除等），并使用handle_events实现事件循环，不断调用同步事件多路分离器（一般是内核）的多路分离函数select，只要某个文件句柄被激活（可读/写等），select就返回（阻塞），handle_events就会调用与文件句柄关联的事件处理器的handle_event进行相关操作。

如图5所示，通过Reactor的方式，可以将用户线程轮询IO操作状态的工作统一交给handle_events事件循环进行处理。用户线程注册事件处理器之后可以继续执行做其他的工作（异步），而Reactor线程负责调用内核的select函数检查socket状态。当有socket被激活时，则通知相应的用户线程（或执行用户线程的回调函数），执行handle_event进行数据读取、处理的工作。由于select函数是阻塞的，因此多路IO复用模型也被称为异步阻塞IO模型。注意，这里的所说的阻塞是指select函数执行时线程被阻塞，而不是指socket。一般在使用IO多路复用模型时，socket都是设置为NONBLOCK的，不过这并不会产生影响，因为用户发起IO请求时，数据已经到达了，用户线程一定不会被阻塞。

用户线程使用IO多路复用模型的伪代码描述为：

void UserEventHandler::handle_event() {

        if(can_read(socket)) {

        read(socket, buffer);

        process(buffer);

    }

}

{

    Reactor.register(new UserEventHandler(socket));

}    

用户需要重写EventHandler的handle_event函数进行读取数据、处理数据的工作，用户线程只需要将自己的EventHandler注册到Reactor即可。Reactor中handle_events事件循环的伪代码大致如下。

Reactor::handle_events() {

    while(1) {

            sockets = select();

           for(socket in sockets) {

                get_event_handler(socket).handle_event();
    
            }

    }

}

事件循环不断地调用select获取被激活的socket，然后根据获取socket对应的EventHandler，执行器handle_event函数即可。

IO多路复用是最常使用的IO模型，但是其异步程度还不够“彻底”，因为它使用了会阻塞线程的select系统调用。因此IO多路复用只能称为异步阻塞IO，而非真正的异步IO。

 

（4）信号驱动I/O模型

 

（5）异步I/O模型

 

 

六、概念澄清

1、异步非阻塞I/O

• NIO编程中的Selector:这个是I/O复用模型，是非阻塞的I/O。不能叫异步非阻塞I/O.  相对于同步阻塞I/O而言，它不会阻塞，且各个动作是由异步线程（用户自定义线程）做处理，习惯上叫异步非阻塞I/0
• JDK1.7提供了NIO 2.0新增了异步套接字通道，它是真正的异步I/O.在异步I/O操作的时候可以传递信号变量，当操作完成字后会回调相关的方法，异步I/O，也被称为AIO.

2、多路复用器Selector

一般翻译为选择器，但不合适。多路复用的核心就是通过Selector来轮询注册在其上的Channel.当发现某个或多个Channel处于就绪状态，从阻塞状态返回就绪的Channel的选择键集合进行I/O操作。

 

七、几种I/O模型的功能和特性对比

	同步阻塞I/0(BIO)	伪异步I/O	非阻塞I/O(NIO)	异步I/O(AIO)
客户端个数：I/O线程	1：1	M:N(其中M可以大于N)	M:1(1个I/O线程处理多个客户端连接)	M:0(不需要额外启动I/O线程,被动回调)
I/O类型（阻塞）	阻塞I/O	阻塞I/O	非阻塞I/O	非阻塞I/O
I/O类型（同步）	同步I/O	同步I/O	同步I/O(I/O多路复用)	异步I/O
api使用难度	简单	简单	非常复杂	复杂
调试难度	简单	简单	复杂	复杂
可靠性	非常差	差	高	高
吞吐量	低	中	高	高