三、Netty高性能架构设计

@

三、Netty高性能架构设计

1、Netty概述

本文源码:

1.1、原生NIO存在的问题

  • NIO 的类库和 API 繁杂,使用麻烦:需要熟练掌握 SelectorServerSocketChannelSocketChannelByteBuffer 等。
  • 需要具备其他的额外技能:要熟悉 Java 多线程编程,因为 NIO 编程涉及到 Reactor 模式,你必须对多线程和网络编程非常熟悉,才能编写出高质量的 NIO 程序。
  • 开发工作量和难度都非常大:例如客户端面临断连重连网络闪断半包读写失败缓存网络拥塞和异常流的处理等等。
  • JDK NIO 的 Bug:例如臭名昭著的 Epoll Bug,它会导致 Selector 空轮询,最终导致 CPU 100%。直到 JDK 1.7 版本该问题仍旧存在,没有被根本解决。

1.2、Netty优点

NettyJDK自带的NIOAPI进行了封装,解决了上述问题。

  • 设计优雅:适用于各种传输类型的统一 API 阻塞和非阻塞 Socket;基于灵活且可扩展的事件模型,可以清晰地分离关注点;高度可定制的线程模型 - 单线程,一个或多个线程池.
  • 安全:完整的 SSL/TLSStartTLS 支持
  • 高性能、吞吐量更高:延迟更低;减少资源消耗;最小化不必要的内存复制。

2、I/O线程模型

  • 目前存在的线程模型主要有:
    • 传统阻塞I/O服务模型
    • Reactor模式
  • 根据Reactor的数量和处理资源池线程的数量不同,有如下3种典型的实现
    • Reactor单线程
    • Reactor多线程
    • 主从Reactor多线程
  • Netty线程模型主要基于主从Reactor多线程模型做了一定的改进,其中主从Reactor多线程模型有多个Reactor

2.1、传统阻塞I/O服务模型

在这里插入图片描述

图解说明:黄色的框表示对象,蓝色的框表示线程、白色的框表示方法(API)。之后的图相同。

2.1.1、模型分析

模型特点:

  • 采用阻塞IO模式获取输入的数据
  • 每个链接都需要独立的线程完成数据的输入,业务处理、数据返回。

问题分析:

  • 当并发数很大,就会创建大量的线程,占用很大系统资源
  • 连接创建后,如果当前线程暂时没有数据可读,该线程会阻塞在read操作,造成线程资源浪费。

2.1.2、模型实现代码示例

由于模型的逻辑主要集中在服务端,所以所有模型代码示例基本上都是服务端的示例

public static void main(String[] args) throws IOException {
    //1、创建一个线程池
    //2、如果有客户端连接,就创建一个线程,与之通讯(单独写一个方法)
    ExecutorService executorService = Executors.newCachedThreadPool();

    //创建ServerSocket
    ServerSocket serverSocket = new ServerSocket(6666);
    System.out.println("服务器启动了");

    while (true) {
        //监听,等待客户端连接
        final Socket socket = serverSocket.accept();
        System.out.println("连接到一个客户端");
        //创建一个线程,与之通讯
        executorService.execute(() -> {
            //重写Runnable方法,与客户端进行通讯
            handler(socket);
        });
    }
}

//编写一个Handler方法,和客户端通讯。主要进行数据的读取和业务处理。
public static void handler(Socket socket) {
    try {
        byte[] bytes = new byte[1024];
        //通过socket获取输入流
        InputStream inputStream = socket.getInputStream();
        //循环的读取客户端发送的数据
        while (true){
            int read = inputStream.read(bytes);
            if (read != -1){
                System.out.println(new String(bytes, 0, read));//输出客户端发送的数据
            } else {
                break;
            }
        }
    } catch (IOException e) {
        e.printStackTrace();
    } finally {
        System.out.println("关闭和client的连接");
        try {
            socket.close();
        } catch (IOException e) {
            e.printStackTrace();
        }
    }
}

2.2、Reactor模型概述

针对传统阻塞I/O服务模型的2个缺点,解决方案如下:

  • 基于 I/O 复用模型:多个连接共用一个阻塞对象,应用程序只需要在一个阻塞对象等待,无需阻塞等待所有连接。当某个连接有新的数据可以处理时,操作系统通知应用程序,线程从阻塞状态返回,开始进行业务处理。Reactor 对应的叫法: 1. 反应器模式 2. 分发者模式(Dispatcher) 3. 通知者模式(notifier)
  • 基于线程池复用线程资源:不必再为每个连接创建线程,将连接完成后的业务处理任务分配给线程进行处理,一个线程可以处理多个连接的业务。

I/O复用结合线程池,就是Reactor模式基本设计思想,如图所示:
在这里插入图片描述

  • Reactor模式,通过一个或多个输入同时传递给服务处理器的模式(基于事件驱动)
  • 服务器端程序处理传入的多个请求,并将它们同步分派到响应的处理线程,因此Reactor模式也叫Dispatcher模式。
  • Reactor模式使用IO复用监听事件,收到事件后,分发的某个线程(进程),这点就是网络服务高并发处理的关键。

Reactor模式中的核心组成部分:

在一个单独的线程中运行,负责监听和分发事件,分发给适当的处理程序来对
事件作出反应。

  • 我的理解是将Reactor理解成一个Selector,它可以对建立新的连接,也可以将产生的读写事件交换给Handler进行处理

  • Handlers:处理程序执行I/O事件要完成的实际事件,类似于客户想要与之交谈的公司中的实际官员。Reactor通过调度适当的处理程序来响应I/O事件,处理程序执行非阻塞操作。

2.3、单Reactor单线程模式

类似于nio中的Selector(选择器) 根据事件驱动 处理不同的连接请求
在这里插入图片描述

方案说明:

  • Select 是前面 I/O 复用模型介绍的标准网络编程 API,可以实现应用程序通过一个阻塞对象监听多路连接请求
  • Reactor 对象通过 Select 监控客户端请求事件,收到事件后通过 Dispatch 进行分发
  • 如果是建立连接请求事件,则由 Acceptor 通过 Accept 处理连接请求,然后创建一个 Handler 对象处理连接完成后的后续业务处理
  • 如果不是建立连接事件,则 Reactor 会分发调用连接对应的 Handler 来响应
  • Handler 会完成 Read→业务处理→Send 的完整业务流程

结合实例:服务器端用一个线程通过多路复用搞定所有的 IO 操作(包括连接,读、写等),编码简单,清晰明了,但是如果客户端连接数量较多,将无法支撑,前面的 NIO 案例就属于这种模型。

2.2.1、模型分析

  • 优点:模型简单,没有多线程、进程通信、竞争的问题,全部都在一个线程中完成
  • 缺点:性能问题,只有一个线程,无法完全发挥多核 CPU 的性能。Handler 在处理某个连接上的业务时,整个进程无法处理其他连接事件,很容易导致性能瓶颈
  • 缺点:可靠性问题,线程意外终止,或者进入死循环,会导致整个系统通信模块不可用,不能接收和处理外部消息,造成节点故障
  • 使用场景:客户端的数量有限,业务处理非常快速,比如 Redis在业务处理的时间复杂度 O(1) 的情况

2.2.2、模型实现代码示例

这里面我为了简便,我将Reactor和Acceptor和Handler三个对象搞成了方法。

public class SReactorSThread {
    private Selector selector;
    private ServerSocketChannel serverSocketChannel;
    private int PORT = 6666;

    public SReactorSThread() {
        try {
            selector = Selector.open();
            serverSocketChannel = ServerSocketChannel.open();
            serverSocketChannel.bind(new InetSocketAddress(PORT));
            serverSocketChannel.configureBlocking(false);
            serverSocketChannel.register(selector, SelectionKey.OP_ACCEPT);
        } catch (IOException e) {
            e.printStackTrace();
        }
    }

    //对客户端进行监听
    public void listen() {
        try {
            while (true) {
                int count = selector.select();
                //表示有客户端产生事件
                if (count > 0) {
                    Set<SelectionKey> selectionKeys = selector.selectedKeys();//取出产生事件的Channel
                    Iterator<SelectionKey> iterator = selectionKeys.iterator();//准备对其进行遍历
                    while (iterator.hasNext()) {
                        SelectionKey key = iterator.next();
                        //将key交给dispatch去处理
                        dispatch(key);
                        iterator.remove();
                    }
                }
            }
        } catch (Exception e) {
            e.printStackTrace();
        }
    }

    //dispatch
    private void dispatch(SelectionKey key) {
        if (key.isAcceptable()){
            accept(key);
        }else {
            handler(key);
        }
    }

    //建立新的连接
    private void accept(SelectionKey key) {
        try {
            SocketChannel socketChannel = serverSocketChannel.accept();
            socketChannel.configureBlocking(false);
            socketChannel.register(selector, SelectionKey.OP_READ);
        } catch (IOException e) {
            e.printStackTrace();
        }
    }

    //对请求进行处理,接收消息---业务处理---返回消息
    private void handler(SelectionKey key) {
        SocketChannel channel = null;
        try {
            channel = (SocketChannel) key.channel();
            ByteBuffer buffer = ByteBuffer.allocate(3);
            StringBuilder msg = new StringBuilder();
            while (channel.read(buffer) > 0) {
                msg.append(new String(buffer.array()));
                buffer.clear();
            }
            System.out.println("接收到消息:" + msg.toString());
            //发送消息
            String ok = "OK";
            buffer.put(ok.getBytes());
            //这个flip非常重要哦,是将position置0,limit置于position的位置,以便下面代码进行写入操作能够正确写入buffer中的所有数据
            buffer.flip();  
            channel.write(buffer);
            buffer.clear();
        } catch (IOException e) {
            try {
                System.out.println(channel.getRemoteAddress() + "离线了");
                //取消该通道的注册并关闭通道,这里非常重要,没有这一步的话当客户端断开连接就会不断抛出IOException
                //是因为,select会一直产生该事件。
                key.cancel();
                channel.close();
            } catch (IOException ex) {
                ex.printStackTrace();
            }
        }
    }
}

/********调用**************/

public static void main(String[] args) {
    SReactorSThread sReactorSThread = new SReactorSThread();
    sReactorSThread.listen();
}

这里有更牛逼更完整的Reactor单线程模型的代码案例https://www.cnblogs.com/hama1993/p/10611229.html
https://www.cnblogs.com/eason-ou/p/11910484.html

2.4、单Reactor多线程模型

在这里插入图片描述

方案说明:

  • Reactor 对象通过select 监控客户端请求事件, 收到事件后,通过dispatch进行分发
  • 如果建立连接请求, 则右Acceptor 通过accept 处理连接请求, 然后创建一个Handler对象处理完成连接后的各种事件
  • 如果不是连接请求,则由reactor分发调用连接对应的handler 来处理
  • handler 只负责响应事件,不做具体的业务处理, 通过read 读取数据后,会分发给后面的worker线程池的某个线程处理业务
  • worker 线程池会分配独立线程完成真正的业务,并将结果返回给handler
  • handler收到响应后,通过send 将结果返回给client

2.4.1、模型分析

  • 优点:可以充分的利用多核cpu 的处理能力
  • 缺点:多线程数据共享和访问比较复杂, reactor 处理所有的事件的监听和响应,在单线程运行, 在高并发场景容易出现性能瓶颈.

2.4.2、模型实现代码示例

参考 https://www.cnblogs.com/eason-ou/p/11910523.html
也就是每次读写操作利用线程池开个线程来进行读写操作 主线程继续监听事件
不知道为什么要

  • 在写完成之后切换为读事件
  • 在读事件之后切换为写事件
    //读完后,将通道注册为写
    Selector selector = selectionKey.selector();
    SelectionKey sk = sc.register(selector, SelectionKey.OP_WRITE);

上述问题 的原因在于sun.nio.ch.SelectionKeyImpl#nioInterestOps(int ops)方法

  • 可以看到直接覆盖了之前设置的interestOps,也就是说我们在客户端完成连接,设置SelectionKey.OP_READ事件,其READ实已经把之前的事件全部覆盖了。

问题又来了

  • 为什么不在连接事件触发 并且连接成功的时候注册
    SelectionKey sk = sc.register(selector, SelectionKey.OP_READ);
    直接注册两个事件呢? -> SelectionKey.OP_READ | SelectionKey.OP_WRITE

最终解决问题:

2.5、主从Reactor多线程

在这里插入图片描述

方案说明:

  • Reactor主线程 MainReactor 对象就只注册一个用于监听连接请求的ServerSocketChannel,通过select 监听连接事件, 收到事件后,通过Acceptor 处理连接事件
  • Acceptor 处理连接事件后,MainReactor 通过accept获取新的连接,并将连接注册到SubReactor
  • subreactor 将连接加入到连接队列进行监听,并创建handler进行各种事件处理
  • 当有新事件发生时, subreactor 就会调用对应的handler处理
  • handler 通过read 读取数据,分发给后面的worker 线程处理
  • worker 线程池分配独立的worker 线程进行业务处理,并返回结果
  • handler 收到响应的结果后,再通过send 将结果返回给client
  • Reactor 主线程可以对应多个Reactor 子线程, 即MainRecator 可以关联多个SubReactor

2.5.1、模型分析

  • 优点:父线程与子线程的数据交互简单职责明确,父线程只需要接收新连接,子线程完成后续的业务处理。
  • 优点:父线程与子线程的数据交互简单,Reactor 主线程只需要把新连接传给子线程,子线程无需返回数据
  • 缺点:编程复杂度较高
  • 结合实例:这种模型在许多项目中广泛使用,包括 Nginx 主从 Reactor 多进程模型,Memcached 主从多线程,Netty 主从多线程模型的支持

2.5.2、模型实现代码示例

还是去看别人大佬写的吧。https://www.cnblogs.com/eason-ou/p/11912010.html

3种模式用生活案例来理解

  • 1)单Reactor单线程,前台接待员和服务员是同一个人,全程为顾客服
  • 2)单Reactor多线程,1个前台接待员,多个服务员,接待员只负责接待
  • 3)主从Reactor多线程,多个前台接待员,多个服务生

3、Netty模型

3.1、主从Reactor进阶

Netty主要是基于主从Reactor多线程模式做了一定的改进,其中主从Reactor都有单一的一个变成了多个。下面是简单的改进图。
在这里插入图片描述

  • 如图所示,增加了BossGroup来维护多个主Reactor,主Reactor还是只关注连接的Accept;增加了WorkGroup来维护多个从Reactor,从Reactor将接收到的请求交给Handler进行处理。
  • 在主Reactor中接收到Accept事件,获取到对应的SocketChannelNetty会将它进一步封装成NIOSocketChannel对象,这个封装后的对象还包含了该Channel对应的SelectionKey、通信地址等详细信息
  • Netty会将装个封装后的Channel对象注册到WorkerGroup中的从Reactor中。
  • WorkerGroup中的从Reactor监听到事件后,就会将之交给与此Reactor对应的Handler进行处理。

3.2、再进阶版

在这里插入图片描述

  • NettySelector以及Selector相关的事件及任务封装了NioEventLoop,这样BossGroup就可以通过管理NioEventLoop去管理各个Selector
  • 同时,Netty模型中主要存在两个大的线程池组BossGroupWorkerGroup,用于管理主Reactor线程和从Reactor线程。

3.3、Netty模型

在这里插入图片描述

  • Netty抽象出两组线程池,BossGroup专门负责接收客户端的连接,WorkerGroup专门负责网络的读写

  • BossGroupWorkerGroup类型的本质都是NioEventLoopGroup类型。

  • NioEventLoopGroup相当于一个线程管理器(类似于ExecutorServevice),它下面维护很多个NioEventLoop线程。(我认为图中的NioEventGroup的地方应该改成NioEventLoop,可能我的理解有点差错吧)

    • 在初始化这两个Group线程组时,默认会在每个Group中生成CPU*2NioEventLoop线程
    • n个连接来了,Group默认会按照连接请求的顺序分别将这些连接分给各个NioEventLoop去处理。
    • 同时Group还负责管理EventLoop的生命周期。
  • NioEventLoop表示一个不断循环的执行处理任务的线程

    • 它维护了一个线程和任务队列。
    • 每个NioEventLoop都包含一个Selector,用于监听绑定在它上面的socket通讯。
    • 每个NioEventLoop相当于Selector,负责处理多个Channel上的事件
    • 每增加一个请求连接,NioEventLoopGroup就将这个请求依次分发给它下面的NioEventLoop处理。
  • 每个Boss NioEventLoop循环执行的步骤有3步:

    • 轮询accept事件
    • 处理accept事件,与client建立连接,生成NioSocketChannel,并将其注册到某个Worker NioEventLoopselector上。
    • 处理任务队列到任务,即runAllTasks
  • 每个Worker NioEventLoop循环执行的步骤:

    • 轮询readwrite事件
    • 处理I/O事件,即readwrite事件,在对应的NioSocketChannel中进行处理
    • 处理任务队列的任务,即runAllTasks
  • 每个 Worker NioEventLoop处理业务时,会使用pipeline(管道),pipeline中维护了一个ChannelHandlerContext链表,而ChannelHandlerContext则保存了Channel相关的所有上下文信息,同时关联一个ChannelHandler对象。如图所示,Channelpipeline一一对应,ChannelHandler和ChannelHandlerContext一一对应。

    img

  • ChannelHandler是一个接口,负责处理或拦截I/O操作,并将其转发到Pipeline中的下一个处理Handler进行处理。

                                                     I/O Request
                                                via Channel or
                                            ChannelHandlerContext
                                                          |
      +---------------------------------------------------+---------------+
      |                           ChannelPipeline         |               |
      |                                                  \|/              |
      |    +---------------------+            +-----------+----------+    |
      |    | Inbound Handler  N  |            | Outbound Handler  1  |    |
      |    +----------+----------+            +-----------+----------+    |
      |              /|\                                  |               |
      |               |                                  \|/              |
      |    +----------+----------+            +-----------+----------+    |
      |    | Inbound Handler N-1 |            | Outbound Handler  2  |    |
      |    +----------+----------+            +-----------+----------+    |
      |              /|\                                  .               |
      |               .                                   .               |
      | ChannelHandlerContext.fireIN_EVT() ChannelHandlerContext.OUT_EVT()|
      |        [ method call]                       [method call]         |
      |               .                                   .               |
      |               .                                  \|/              |
      |    +----------+----------+            +-----------+----------+    |
      |    | Inbound Handler  2  |            | Outbound Handler M-1 |    |
      |    +----------+----------+            +-----------+----------+    |
      |              /|\                                  |               |
      |               |                                  \|/              |
      |    +----------+----------+            +-----------+----------+    |
      |    | Inbound Handler  1  |            | Outbound Handler  M  |    |
      |    +----------+----------+            +-----------+----------+    |
      |              /|\                                  |               |
      +---------------+-----------------------------------+---------------+
                      |                                  \|/
      +---------------+-----------------------------------+---------------+
      |               |                                   |               |
      |       [ Socket.read() ]                    [ Socket.write() ]     |
      |                                                                   |
      |  Netty Internal I/O Threads (Transport Implementation)            |
      +-------------------------------------------------------------------+
    
    

3.4、代码示例

服务端代码:

public class NettyServer {
    public static void main(String[] args) throws InterruptedException {
        //创建BossGroup 和 WorkerGroup
        //1、创建两个线程组,bossGroup 和 workerGroup
        //2、bossGroup 只是处理连接请求,真正的和客户端业务处理,会交给 workerGroup 完成
        //3、两个都是无限循环
        //4、bossGroup 和 workerGroup 含有的子线程(NioEventLoop)个数为实际 cpu 核数 * 2
        EventLoopGroup bossGroup = new NioEventLoopGroup();
        EventLoopGroup worderGroup = new NioEventLoopGroup();

        try {
            //创建服务器端的启动对象,配置参数
            ServerBootstrap bootstrap = new ServerBootstrap();

            //使用链式编程来进行设置,配置
            bootstrap.group(bossGroup, worderGroup) //设置两个线程组
                    .channel(NioServerSocketChannel.class) //使用 NioServerSocketChannel 作为服务器的通道实现
                    .option(ChannelOption.SO_BACKLOG, 128) //设置线程队列得到连接个数
                    .childOption(ChannelOption.SO_KEEPALIVE, true) //设置保持活动连接状态
                    .childHandler(new ChannelInitializer<SocketChannel>() { //为accept channel的pipeline预添加的handler
                        //给 pipeline 添加处理器,每当有连接accept时,就会运行到此处。
                        @Override
                        protected void initChannel(SocketChannel socketChannel) throws Exception {
                            socketChannel.pipeline().addLast(new NettyServerHandler());
                        }
                    }); //给我们的 workerGroup 的 EventLoop 对应的管道设置处理器

            System.out.println("........服务器 is ready...");
            //绑定一个端口并且同步,生成了一个ChannelFuture 对象
            //启动服务器(并绑定端口)
            ChannelFuture future = bootstrap.bind(6668).sync();

            //对关闭通道进行监听
            future.channel().closeFuture().sync();
        } finally {
            bossGroup.shutdownGracefully();
            worderGroup.shutdownGracefully();
        }
    }
}

服务端Handler处理:

public class NettyServerHandler extends ChannelInboundHandlerAdapter {

    /**
     *读取客户端发送过来的消息
     * @param ctx 上下文对象,含有 管道pipeline,通道channel,地址
     * @param msg 就是客户端发送的数据,默认Object
     * @throws Exception
     */
    @Override
    public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
        System.out.println("服务器读取线程:" + Thread.currentThread().getName());
        System.out.println("server ctx = " + ctx);
        //看看Channel和Pipeline的关系
        Channel channel = ctx.channel();
        ChannelPipeline pipeline = ctx.pipeline(); //本质是个双向链表,出栈入栈

        //将msg转成一个ByteBuf,比NIO的ByteBuffer性能更高
        ByteBuf buf = (ByteBuf)msg;
        System.out.println("客户端发送的消息是:" + buf.toString(CharsetUtil.UTF_8));
        System.out.println("客户端地址:" + ctx.channel().remoteAddress());
    }

    //数据读取完毕
    @Override
    public void channelReadComplete(ChannelHandlerContext ctx) throws Exception {
        //它是 write + flush,将数据写入到缓存buffer,并将buffer中的数据flush进通道
        //一般讲,我们对这个发送的数据进行编码
        ctx.writeAndFlush(Unpooled.copiedBuffer("hello, 客户端~", CharsetUtil.UTF_8));
    }

    //处理异常,一般是关闭通道
    @Override
    public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
        ctx.close();
    }
}

客户端:

public class NettyClient {
    public static void main(String[] args) throws InterruptedException {
        //客户端需要一个事件循环组
        EventLoopGroup group = new NioEventLoopGroup();
        try {
            //创建客户端启动对象
            //注意:客户端使用的不是 ServerBootStrap 而是 Bootstrap
            Bootstrap bootstrap = new Bootstrap();

            //设置相关参数
            bootstrap.group(group) //设置线程组
                    .channel(NioSocketChannel.class) //设置客户端通道的实现类(使用反射)
                    .handler(new ChannelInitializer<SocketChannel>() {
                        @Override
                        protected void initChannel(SocketChannel socketChannel) throws Exception {
                            socketChannel.pipeline().addLast(new NettyClientHandler()); //加入自己的处理器
                        }
                    });
            System.out.println("客户端 OK...");

            //启动客户端去连接服务器端
            //关于 channelFuture 涉及到 netty 的异步模型
            ChannelFuture channelFuture = bootstrap.connect("127.0.0.1", 6668).sync();
            //给关闭通道进行监听
            channelFuture.channel().closeFuture().sync();
        } finally {
            group.shutdownGracefully();
        }
    }
}

客户端Handler处理:

public class NettyClientHandler extends ChannelInboundHandlerAdapter {
    /**
     * 当通道就绪就会触发
     * @param ctx
     * @throws Exception
     */
    @Override
    public void channelActive(ChannelHandlerContext ctx) throws Exception {
        System.out.println("client: " + ctx);
        ctx.writeAndFlush(Unpooled.copiedBuffer("hello, server", CharsetUtil.UTF_8));
    }

    /**
     * 当通道有读取事件时,会触发
     * @param ctx
     * @param msg
     * @throws Exception
     */
    @Override
    public void channelRead(ChannelHandlerContext ctx, Object msg) throws Exception {
        ByteBuf buf = (ByteBuf)msg;
        System.out.println("服务器回复的消息:" + buf.toString(CharsetUtil.UTF_8));
        System.out.println("服务器的地址:" + ctx.channel().remoteAddress());
    }

    @Override
    public void exceptionCaught(ChannelHandlerContext ctx, Throwable cause) throws Exception {
        cause.printStackTrace();
        ctx.close();
    }
}

3.5、任务队列

任务队列由NioEventLoop维护并不断执行。当我们就收到请求之后,在当前channel对应的pipeline中的各个Handler里面进行业务处理和请求过滤。当某些业务需要耗费大量时间的时候,我们可以将任务提交到由NioEventLoop维护的taskQueuescheduleTaskQueue中,让当前的NioEventLoop线程在空闲时间去执行这些任务。下面将介绍提交任务的3种方式

用户程序自定义的普通任务:

该方式会将任务提交到taskQueue队列中。提交到该队列中的任务会按照提交顺序依次执行
例如: 提交两个任务到队列中 第一个任务消耗10秒 第二个任务消耗20秒

  • 先执行第一个任务用时10秒 -->0-10秒第一个任务
  • 第一个任务完成后才执行第二个 -->10秒-30秒第二个任务
  • 总共耗时30秒
channelHandlerContext.channel().eventLoop().execute(new Runnable(){
    @Override
    public void run() {
        //...
    }
});

用户自定义的定时任务:

该方式会将任务提交到scheduleTaskQueue定时任务队列中。该队列是底层是优先队列PriorityQueue实现的,固该队列中的任务会按照时间的先后顺序定时执行。

channelHandlerContext.channel().eventLoop().schedule(new Runnable() {
    @Override
    public void run() {

    }
}, 60, TimeUnit.SECONDS);

为其他EventLoop线程对应的Channel添加任务
可以在ChannelInitializer中,将刚创建的各个Channel以及对应的标识加入到统一的集合中去,然后可以根据标识获取Channel以及其对应的NioEventLoop,然后就课程调用execute()或者schedule()方法。

3.6、异步模型

基本介绍

  • 异步的概念和同步相对。当一个异步过程调用发出后,调用者不能立刻得到结果。实际处理这个调用的组件在完成后,通过状态、通知和回调来通知调用者。
  • Netty 中的 I/O 操作是异步的,包括 BindWriteConnect 等操作会简单的返回一个 ChannelFuture
  • 调用者并不能立刻获得结果,而是通过 Future-Listener 机制,用户可以方便的主动获取或者通过通知机制获得 IO 操作结果
  • Netty 的异步模型是建立在 futurecallback 的之上的。callback 就是回调。重点说 Future,它的核心思想是:假设一个方法 fun,计算过程可能非常耗时,等待 fun返回显然不合适。那么可以在调用 fun 的时候,立马返回一个 Future,后续可以通过 Future去监控方法 fun 的处理过程(即 : Future-Listener 机制)

Future说明

  • 表示异步的执行结果, 可以通过它提供的方法来检测执行是否完成,比如检索计算等等.
  • ChannelFuture 是一个接口 : public interface ChannelFuture extends Future。我们可以添加监听器,当监听的事件发生时,就会通知到监听器

工作原理示意图
在这里插入图片描述
在这里插入图片描述

  • 在使用 Netty 进行编程时,拦截操作和转换出入站数据只需要您提供 callback 或利用future 即可。这使得链式操作简单、高效, 并有利于编写可重用的、通用的代码。
  • Netty 框架的目标就是让你的业务逻辑从网络基础应用编码中分离出来、解脱出来

Future-Listener机制

  • Future 对象刚刚创建时,处于非完成状态,调用者可以通过返回的 ChannelFuture 来获取操作执行的状态,注册监听函数来执行完成后的操作。

  • 常用方法如下:

    方法名称 方法作用
    isDone() 判断当前操作是否完成
    isSuccess() 判断已完成的当前操作是否成功
    getCause() 获取已完成当前操作失败的原因
    isCancelled() 判断已完成的当前操作是否被取消
    addListener() 注册监听器,当前操作(Future)已完成,将会通知指定的监听器

举例说明
绑定端口操作时异步操作,当绑定操作处理完,将会调用相应的监听器处理逻辑。

serverBootstrap.bind(port).addListener(future -> {
       if(future.isSuccess()) {
           System.out.println(newDate() + ": 端口["+ port + "]绑定成功!");
       } else{
           System.err.println("端口["+ port + "]绑定失败!");
       }
   });

3.7、快速入门实例-HTTP HelloWorld

浏览器访问Netty服务器后,返回HelloWorld

  1. 每个浏览器的pipeline和Handler是独立的不是共享的
  2. 同一个浏览器关闭后 再打开 也是独立的不是共享的
  3. HTTP协议用完就断掉 ,TCP协议要保持连接
  4. 课上演示刷新时 也会是新的pipeline和Handler ,自己测试发现没有更换 不知原因

在这里插入图片描述

启动

public static void main(String[] args) throws InterruptedException {
    NioEventLoopGroup bossGroup = new NioEventLoopGroup(1);
    NioEventLoopGroup workerGroup = new NioEventLoopGroup();

    try {
        ServerBootstrap bootstrap = new ServerBootstrap();
        bootstrap.group(bossGroup, workerGroup)
            .channel(NioServerSocketChannel.class)
            .childHandler(new TestServerInitializer());
        ChannelFuture channelFuture = bootstrap.bind(8080).sync();
        channelFuture.channel().closeFuture().sync();
    } finally {
        bossGroup.shutdownGracefully();
        workerGroup.shutdownGracefully();
    }
}

定义ChannelInitializer

用于给Channel对应的pipeline添加handler。该ChannelInitializer中的代码在SocketChannel被创建时都会执行

public class TestServerInitializer extends ChannelInitializer<SocketChannel> {
    @Override
    protected void initChannel(SocketChannel socketChannel) throws Exception {
        //向管道加入处理器

        //得到管道
        ChannelPipeline pipeline = socketChannel.pipeline();
        //加入一个 netty 提供的 httpServerCodec:codec => [coder - decoder]
        //1、HttpServerCodec 是 netty 提供的处理http的编解码器
        pipeline.addLast("MyHttpServerCodec", new HttpServerCodec());
        //2、增加自定义的Handler
        pipeline.addLast("MyTestHttpServerHandler", new TestHttpServerHandler());
    }
}

自定义Handler

public class TestHttpServerHandler extends SimpleChannelInboundHandler<HttpObject> {
    /**
     * 读取客户端数据。
     *
     * @param channelHandlerContext
     * @param httpObject            客户端和服务器端互相通讯的数据被封装成 HttpObject
     * @throws Exception
     */
    @Override
    protected void channelRead0(ChannelHandlerContext channelHandlerContext, HttpObject httpObject) throws Exception {

        //判断 msg 是不是 HTTPRequest 请求
        if (httpObject instanceof HttpRequest) {
            System.out.println("msg 类型 = " + httpObject.getClass());
            System.out.println("客户端地址:" + channelHandlerContext.channel().remoteAddress());
            //获取
            HttpRequest request = (HttpRequest) httpObject;
            //获取uri,进行路径过滤
            URI uri = new URI(request.uri());
            if ("/favicon.ico".equals(uri.getPath())) {
                System.out.println("请求了 favicon.ico,不做响应");
            }

            //回复信息给浏览器[http协议]
            ByteBuf content = Unpooled.copiedBuffer("HelloWorld", CharsetUtil.UTF_8);
            //构造一个http的响应,即HTTPResponse
            DefaultFullHttpResponse response = new DefaultFullHttpResponse(HttpVersion.HTTP_1_1, HttpResponseStatus.OK, content);
            response.headers().set(HttpHeaderNames.CONTENT_TYPE, "text/plain");
            response.headers().set(HttpHeaderNames.CONTENT_LENGTH, content.readableBytes());

            //将构建好的 response 返回
            channelHandlerContext.writeAndFlush(response);
        }
    }
}

原文连接:https://blog.csdn.net/qq_35751014/article/details/104443715
本文在原文的基础上添加一下自己的理解和笔记

posted @ 2020-11-05 15:10  IT夏天  阅读(145)  评论(0编辑  收藏  举报