Java NIO学习与记录(六): NIO线程模型

 上一篇说的是基于操作系统的IO处理模型,那么这一篇来介绍下服务器端基于IO模型和自身线程的处理方式。

一、基于BIO下的线程处理模式

这种处理模型是基于阻塞IO进行的,上一篇讲过,阻塞IO会阻塞每一个IO操作,直到事件就绪,下面来看下阻塞IO下的服务端线程模型:

图1

如上图所示,该线程模型基于阻塞IO模型实现,针对每个请求都需要抽出来一个线程进行处理读入数据、业务处理数据、返回响应结果给客户端,这个过程中读、写操作均会阻塞,且跟业务处理串行执行,该模式下,并发量过大时会大量创建线程,发生的大量上下文切换,从而导致CPU资源占用过大,当连接建立后,若当前线程暂无可读数据,则线程会一直阻塞在读操作上,造成线程资源浪费,即便使用线程池进行优化,虽然避免了大量创建线程,但也会出现线程资源浪费的问题,高并发下可能会造成排队、响应不及时的问题。

具体BIO服务器的实现参考:SocketChannel与BIO服务器

二、基于NIO下的Reactor线程模型

利用操作系统NIO的API实现,Java对其API的调用进行了封装(select等),这里先不探讨怎么利用java的api去调用,先来看看它的基本流程是怎样的,Reactor模式下的县线程模型又会根据线程数量、线程池数量的不同,细分了三种线程模型。 

2.1:单Reactor单线程模型

这是最简单的Reactor模型,整个过程中的事件处理全部发生在一个线程里:

图2

上图示意就是个简单的NIO单Reactor单线程处理模型,流程如下:

①Reactor对象通过select监听客户端的请求事件,收到事件消息后通过dispatch进行任务分发。

②如果是建连请求,则交由Acceptor对象处理连接请求,然后创建一个Handler对象继续完成后续处理

③若不是建连请求,则dispatch会调用对应连接的Handler进行处理,Handle负责完成连接成功后的后续处理(读操作、写操作、业务处理等)

此模型很简单,易于理解,但是存在一定的问题,比如单线处理程模型下,无法发挥多核CPU的性能,如果Handler上的业务处理很慢,则意味着整个程序无法处理其他连接事件,造成性能问题。

适用于业务处理快速、客户端连接较少的情况。

2.2:单Reactor多线程模型

相较于上面的模型,对业务处理模块进行了异步处理,流程图如下:

图3

上图示意属于单Reactor多线程处理模型,流程如下:

①Reactor对象通过select监听客户端的请求事件,收到事件消息后通过dispatch进行任务分发。

②如果是建连请求,则交由Acceptor对象处理连接请求,然后创建一个Handler对象继续完成后续处理

③若不是建连请求,则dispatch会调用对应连接的Handler进行处理,Handle负责完成连接成功后的读操作,读出来数据后的业务处理部分交由线程池异步处理,业务处理完成后发送给Handler处理完成的消息,然后再由Handler发送处理响应信息给对应的Client。

本模型充分利用了多核CPU的处理能力,降低了由业务处理引起的性能问题,Reactor线程仅负责接收连接、读写操作。但是Reactor除了负责连接处理外仍然负责读写操作,大量的请求下仍然可能仍然存在性能问题。 

2.3:主从Reactor多线程模型

这个模型中将会独立出另一个Reactor对象来处理非连接处理的其他处理,命名为从Reactor(SubReactor),流程图如下:

图4

上图示意属于主从Reactor多线程处理模型,流程如下:

①主Reactor对象(MainReactor)通过select监听客户端的连接事件,收到连接事件后交由Acceptor处理。

②Acceptor处理完成后,MainReactor将此连接分配给SubReactor处理,SubReactor将此连接加入连接队列进行事件监听并建立Handler进行后续的各种操作,同上面的模型一致,SubReactor会监听新的事件,如果有新的事件发生,则调用Handler进行相应的处理。

③Handler读出来数据后的业务处理部分交由线程池异步处理,业务处理完成后发送给Handler处理完成的消息,然后再由Handler发送处理响应信息给对应的Client。

该模型存在两个线程分别处理Reactor事件,主线程只负责处理连接事件,子线程只负责处理读写事件,这样主线程可以处理更多的连接,而不用关心子线程里的读写处理是否会影响到自己。目前这种模型被广泛使用在各种项目中(如Netty、Memcached等)。

 

以上的线程模型都是基于同步IO,异步IO这里不作说明,目前大部分项目都采用NIO的API进行实现(该模式下又分成了上述3种线程处理模型)。

下一篇将会针对NIO下的三种线程处理模型,介绍下Selector,以及利用Selector来写一下具体的实现代码。

posted @ 2019-03-20 23:12  胖虎1993  阅读(1113)  评论(0编辑  收藏