Netty学习--基础组件
使用netty的开源框架
Dubbo:阿里开源的高性能rpc通讯框架
RocketMQ:阿里出品的高性能消息队列
Spark:为大规模数据处理设计的一款计算引擎
Elasticsearch,Cassandra,Flink,Netty-SocketIO,Spring5,Play,Grpc...
Netty是什么
- 异步事件驱动框架,用户快速开发高性能服务端和客户端
- 封装了JDK底层BIO和NIO模型,提供高可用的API
- 自带编解码器解决拆包粘包问题,用户只用关心业务逻辑
- 精心设计的reactor线程模型支持高并发海量连接
- 自带各种协议栈可以在处理任何一种通用协议都不用亲自动手
Netty基本组件
在没有netty的情况下,客户端和服务端的通信
public class ServerBoot { private static final int PORT = 8000; public static void main(String[] args) {
// 启动一个server Server server = new Server(PORT); server.start(); } }
Server端的代码如下:
public class Server {
private ServerSocket serverSocket;
public Server(int port) {
try {
// 根据端口号绑定端口
this.serverSocket = new ServerSocket(port);
System.out.println("服务端启动成功,端口:" + port);
} catch (IOException exception) {
System.out.println("服务端启动失败");
}
}
// 避免创建server的程序阻塞ServerBoot的主线程,所以把端口监听放到一个独立的线程中
public void start() {
new Thread(new Runnable() {
@Override
public void run() {
doStart();
}
}).start();
}
// 接收客户端的连接
private void doStart() {
while (true) {
try {
// 接收到客户端连接,accept是个阻塞方法,当一个客户端过来后才创建socket
Socket client = serverSocket.accept();
// 避免socket读写阻塞serverSocket.accept,所以ClientHandler需要新建一个线程
new ClientHandler(client).start();
} catch (IOException e) {
System.out.println("服务端异常");
}
}
}
}
ClientHandler代码如下:
public class ClientHandler {
public static final int MAX_DATA_LEN = 1024;
// 保存客户端socket
private final Socket socket;
public ClientHandler(Socket socket) {
this.socket = socket;
}
public void start() {
System.out.println("新客户端接入");
new Thread(new Runnable() {
@Override
public void run() {
doStart();
}
}).start();
}
private void doStart() {
try {
InputStream inputStream = socket.getInputStream();
// 客户端与服务端通信
while (true) {
byte[] data = new byte[MAX_DATA_LEN];
int len;
while ((len = inputStream.read(data)) != -1) {
String message = new String(data, 0, len);
System.out.println("客户端传来消息: " + message);
socket.getOutputStream().write(data);
}
}
} catch (IOException e) {
e.printStackTrace();
}
}
}
客户端Client的代码如下:
public class Client {
private static final String HOST = "127.0.0.1";
private static final int PORT = 9010;
private static final int SLEEP_TIME = 5000;
public static void main(String[] args) throws IOException {
final Socket socket = new Socket(HOST, PORT);
new Thread(new Runnable() {
@Override
public void run() {
System.out.println("客户端启动成功!");
while (true) {
try {
String message = "hello world";
System.out.println("客户端发送数据: " + message);
socket.getOutputStream().write(message.getBytes());
} catch (Exception e) {
System.out.println("写数据出错!");
}
sleep();
}
}
}).start();
}
private static void sleep() {
try {
Thread.sleep(SLEEP_TIME);
} catch (InterruptedException e) {
e.printStackTrace();
}
}
}
客户端与服务端通信的逻辑:

服务端视角:
- 服务端首先监听端口
- 通过while(true)不断accept链接,如果客户端创建新的连接,服务端拿到连接,然后由处理器去处理客户端连接
- 服务端接收数据
- 服务端做业务逻辑处理
- 服务端发送数据给客户端
以上过程跟netty组件对应起来的关系如下:

1.监听端口,有两层含义:server在某一个端口监听新用户连接,新用户连接建立完成之后在端口不断监听新连接的数据
对应Server类中的doStart方法的while循环,以阻塞的方式接受新用户连接。
ClientHandler方法的doStart方法中的while循环,不断监听连接上是否有读写
对应netty中的NioEventLoop,字面意思就是nio的事件循环,主要包括:新连接的接入,当前连接上的数据流的读写
2.新用户的连接在java的底层是当做一个socket,在netty中对应的组件为Channel,是对socket的一个抽象。
3.服务端接收客户端数据流的载体都是基于ByteBuf,ByteBuf封装了一些好用的api,可以跟底层连接的数据流进行通信
4.数据流到服务端之后,服务端要处理业务逻辑,对应ClientHnadler中的doStart方法中的处理。客户端与服务端通信一般会定义一个二进制协议,要对二进制协议的数据包进行拆分,拆分之后对于每个不同类型的协议数据包都有不同的java对象,首先要把字节里面的字段读取出来转换成自定义的一个java对象。netty把每一个处理过程都当做一个ChannelHander,比如对数据包进行拆分,对数据包进行java对象的转换。
5.发送数据:服务端处理业务逻辑之后,将结果返回给客户端。整个执行流程与接收数据流程基本一致。

这个线程包括两部分,服务端接收客户端连接,及每个连接的读写(与上面socket通信对应)。而NioEventLoop同时做这两件事情
while(true)对应NioEventLoop的run方法

Server中的accept对应NioEventLoop中的Select操作,client中的getOutputStream,也对应select操作。
processSelectedKeys处理对应的连接。


一个channel对应一个socket。
在NioEventLoop类中的processSelectedKey方法中
if ((readyOps & (SelectionKey.OP_READ | SelectionKey.OP_ACCEPT)) != 0 || readyOps == 0) {
unsafe.read();
if (!ch.isOpen()) {
// Connection already closed - no need to handle write.
return;
}
}
其中unsafe.read() 有两个实现类 NioByteUnsafe和NioMessageUnsafe,前者对应客户端的channel的数据流读写,后者对应是否有新连接进入。
在NioServerSocketChannel类中的doReadMessages方法中是对新连接建立的处理
@Override
protected int doReadMessages(List<Object> buf) throws Exception {
SocketChannel ch = javaChannel().accept();
try {
if (ch != null) {
buf.add(new NioSocketChannel(this, ch));
return 1;
}
...
javaChannel对应一个ServerSocketChannel,对应底层nio模型中的socketchannel,也是对应了demo中的ServerSocket


protected AbstractChannel(Channel parent) {
this.parent = parent;
id = newId();
unsafe = newUnsafe();
pipeline = newChannelPipeline();
}
在每个channel中都有一个默认的pipeline(DefaultChannelPipeline)

在DefaultChannelPipeline中的addAfter方法对逻辑链进行动态增加
@Override
public final ChannelPipeline addAfter(
EventExecutorGroup group, String baseName, String name, ChannelHandler handler)
小结

最重要的就是NioEventLoop,起了两种类型的线程,一个是监听客户端连接,另一个是处理客户端读写
channel就是对一条连接的封装,在channel封装的api中可以进行数据读写
对数据的读写可以看做是逻辑处理的链(Pipeline),每一个的逻辑处理都是一个ChannelHandler
在一条channel中的数据读写都是基于ByteBuffer来操作的。
浙公网安备 33010602011771号