并发模型SEDA

参考：https://blog.csdn.net/codewar/article/details/51217738

　　    https://blog.csdn.net/zhihui1017/article/details/50502825

1、多线程并发模型

应用程序开发中经常会采用多线程模型，其工作原理一般是对于每一个request，dispatcher会为其创建并分配一个线程。该线程负责这个请求的处理。这种模式的有点事处理逻辑清晰，容易开发，处理粒度是整个完整的处理流程。

 

但是这么做也有明显的缺陷，随着处理请求不断增加，会导致并发执行的线程数量过多（虽然成熟的框架爱都会对线程池规模进行控制，但是线程池数量的控制也是一个技术活），过多的线程的数量会导致系统在线程调度和资源征用抢占上开销过大（线程上下文切换代价很高），引起系统性能急剧下降，如下图所示：

 

2、事件驱动模型   

       同时，我们也能看到，很多系统也倾向于使用事件驱动模型，该模型的模型图如下图所示：

        该模型的思想为：将处理流程分割成多个步骤，每一个步骤都实现为一个有限状态机（FSM），所有的处理请求会作为事件进入系统，由调度器负责传递给相应的状态机，状态机的处理结果也以事件的形式传给调度器，新的事件将再次被调度器转发给下一个状态机进行处理，直至处理完成。该模型的优点在于，由于将各个处理步骤独立实现，可以很容易的进行系统监测和调整。但是其缺点也不容忽视，即：由于Scheduler的设计和实现过于复杂，针对于不同的应用和系统的逻辑变更需要不同的实现，导致采用这一模型构建出的系统将十分庞大和难以控制。
      

阶段性事件驱动（SEDA）模型   

       针对上述现有主流并发架构之缺陷，若能够实现一种良好支持高并发，并且能够对性能需求自适应的架构，则将在很大程度上优化和提升服务器性能，既能够提高运行速度，又可以减少服务器压力，实现了公司利益与用户体验的双赢。因此，为汲取多线程与事件驱动模型之优点，最大程度规避这两者之缺点，以实现较好的高并发服务器架构，SEDA便应运而生。
       SEDA(Staged Event Driven Architecture)是一种阶段性事件驱动的服务器应用程序架构。它是Matt Welsh博士于加州大学伯克利分校提出的一个高性能应用服务器模型。SEDA架构整合了多线程的服务器模型和事件驱动的服务器模型的优势，它可以高效地管理和控制服务器资源，良好地适应高并发环境，SEDA被设计成一个可伸缩的高可用服务器架构。 
应用服务器之请求处理步骤通常是复杂的、基于事件驱动处理的有穷状态机（FSM），所以实现服务器程序过程就类似用程序实现有穷状态机过程。下图所示的即是一基于SEDA模型http服务器有穷机状态图：


        SEDA架构能对有穷状态机进行分析，尔后将相关状态聚集在同一Stage中，Stage间采用队列的方式来进行通信。每一个Stage皆完全独立，均拥有自己的线程池，以及为了专门处理到达这一步骤所必须进行的工作。所有的Stage均通过自身事件队列连接在一起，构成完整的请求处理网络。性能控制器和动态线程池依请求的繁忙程度动态来调整线程池的大小，以达到系统资源的最有分配。每一个Stage由下述四部分组成：
       (1)    事件队列：用以维持Stage间之通信。
       (2)    事件处理器：用以执行请求到这一个Stage中所应执行的工作。
       (3)    线程池：用以提供事件处理器且可以并发执行事件处理之环境。
       (4)    性能控制器：用以对该Stage资源（线程数、队列长度等等）进行调整。
       通过这四部分的协作配合，每一个Stage都可以很好地运行，并且可以控制资源的使用。已经过Stage处理完，若没有后续工作，即可以回收线程池中的线程，来供给其他Stage使用。Stage结构如下图所示。
       在SEDA架构中，基本的处理单元称为阶段（Stage），一个阶段由事件队列、动态线程池、事件处理器和一个性能控制器四个组件构成。SEDA将一个请求的处理过程分解为一系列的阶段，阶段之间通过事件队列联系，开发人员只负责每个阶段的服务逻辑以及阶段间的连接逻辑，而由各个阶段自身负责资源管理以及负载适应功能。使用这种解耦拆分可以使系统达到高并发性、对负载变化的良好适应性以及高度的可缩放性。