Tomcat Connector运行模式

转自：修改Tomcat Connector运行模式，优化Tomcat运行性能

 

Tomcat是一个小型的轻量级应用服务器，也是JavaEE开发人员最常用的服务器之一。不过，许多开发人员不知道的是，Tomcat Connector(Tomcat连接器)有bio、nio、apr三种运行模式，那么这三种运行模式有什么区别呢，我们又如何修改Tomcat Connector的运行模式来提高Tomcat的运行性能呢？

下面，我们先大致了解Tomcat Connector的三种运行模式。

• BIO：同步并阻塞 一个线程处理一个请求。缺点：并发量高时，线程数较多，浪费资源。Tomcat7或以下，在Linux系统中默认使用这种方式。

           配制项：protocol=”HTTP/1.1”

• NIO：同步非阻塞IO 利用Java的异步IO处理，可以通过少量的线程处理大量的请求，可以复用同一个线程处理多个connection(多路复用)。Tomcat8在Linux系统中默认使用这种方式。Tomcat7必须修改Connector配置来启动。

  配制项：protocol=”org.apache.coyote.http11.Http11NioProtocol”

  备注：我们常用的Jetty，Mina，ZooKeeper等都是基于java nio实现.    

• APR：即Apache Portable Runtime，从操作系统层面解决io阻塞问题。AIO方式，异步非阻塞IO(Java NIO2又叫AIO) 主要与NIO的区别主要是操作系统的底层区别.可以做个比喻:比作快递，NIO就是网购后要自己到官网查下快递是否已经到了(可能是多次)，然后自己去取快递；AIO就是快递员送货上门了(不用关注快递进度)。

  配制项：protocol=”org.apache.coyote.http11.Http11AprProtocol”

  备注：需在本地服务器安装APR库。Tomcat7或Tomcat8在Win7或以上的系统中启动默认使用这种方式。Linux如果安装了apr和native，Tomcat直接启动就支持apr。 

Java对BIO、NIO、AIO的支持：

• Java BIO ： 同步并阻塞，服务器实现模式为一个连接一个线程，即客户端有连接请求时服务器端就需要启动一个线程进行处理，如果这个连接不做任何事情会造成不必要的线程开销，当然可以通过线程池机制改善。

• Java NIO ： 同步非阻塞，服务器实现模式为一个请求一个线程，即客户端发送的连接请求都会注册到多路复用器上，多路复用器轮询到连接有I/O请求时才启动一个线程进行处理。

• Java AIO(NIO.2) ： 异步非阻塞，服务器实现模式为一个有效请求一个线程，客户端的I/O请求都是由OS先完成了再通知服务器应用去启动线程进行处理，

BIO、NIO、AIO适用场景分析:

BIO方式适用于连接数目比较小且固定的架构，这种方式对服务器资源要求比较高，并发局限于应用中，JDK1.4以前的唯一选择，但程序直观简单易理解.

NIO方式适用于连接数目多且连接比较短（轻操作）的架构，比如聊天服务器，并发局限于应用中，编程比较复杂，JDK1.4开始支持.

AIO方式使用于连接数目多且连接比较长（重操作）的架构，比如相册服务器，充分调用OS参与并发操作，编程比较复杂，JDK7开始支持.

bio

bio(blocking I/O)，顾名思义，即阻塞式I/O操作，表示Tomcat使用的是传统的Java I/O操作(即java.io包及其子包)。Tomcat在默认情况下，就是以bio模式运行的。遗憾的是，就一般而言，bio模式是三种运行模式中性能最低的一种。我们可以通过Tomcat Manager来查看服务器的当前状态。【点击这里可以查看Tomcat Manager用户配置的相关信息】

 

nio

nio(new I/O)，是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API，因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。

每个web客户端请求对于服务器端来说就一个单独的线程，客户端的请求数量增多将会导致线程数就上去了，CPU就忙着跟线程切换。

而NIO则是使用单线程(单个CPU)或者只使用少量的多线程(多CPU)来接受Socket，而由线程池来处理堵塞在pipe或者队列里的请求.这样的话，只要OS可以接受TCP的连接，web服务器就可以处理该请求。大大提高了web服务器的可伸缩性。 

大家都听说了在Apache Tomcat6 中支持了Java语言的特性 NIO( New I/O)，不管你对NIO的技术是否熟悉，但你肯定能想象的到NIO是一个好东西。的确，使用NIO在服务器端会有更好的性能，加强服务器端对并发处理的性能。  请注意：很抱歉，在tomcat6在默认的配置选项中是没有把NIO功能打开。所以很多正在使用Tomcat6的朋友们本以为能快活的使用上NIO。

配置：

 

1 2 3 4 5 6 7 8 9 10 11 12 13 14

<Connector port="8080"         protocol="org.apache.coyote.http11.Http11NioProtocol"         executor="tomcatThreadPool"         compression="on"         compressionMinSize="2048"         maxThreads="30000"         minSpareThreads="512"         maxSpareThreads="2048"         enableLookups="false"         redirectPort="8443"         acceptCount="35000"         debug="0"         connectionTimeout="40000"         disableUploadTimeout="true"URIEncoding="UTF-8"useBodyEncodingForURI="true" />

连接器使用的线程池的名子：executor="tomcatThreadPool"

连接器端口                         ：port="8090"

连接器使用的传输方式       ：protocol="org.apache.coyote.http11.Http11NioProtocol"

传输时是否支持压缩           ：compression="on"

压缩的大小                         ：compressionMinSize="2048"

设置Tomcat连接器池。

在配置文件中添加了如下配置：

 

1	<Executor name="tomcatThreadPool"namePrefix="catalina-exec-"maxThreads="1000"minSpareThreads="350" />

线程池名：           name="tomcatThreadPool"

线程前缀：           namePrefix="catalina-exec-"

最大产生线程数：maxThreads="1000"

最小初始现程数：minSpareThreads="350"

 

简单配置，只需要在Tomcat安装目录/conf/server.xml文件中将如下配置：

<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />

中的protocol属性值改为org.apache.coyote.http11.Http11NioProtocol即可：

<Connector port="8080" protocol="org.apache.coyote.http11.Http11NioProtocol"
connectionTimeout="20000"
redirectPort="8443" />

此时，我们就可以在Tomcat Manager中看到当前服务器状态页面的HTTP协议的Connector运行模式已经从http-bio-8080变成了http-nio-8080。

 

apr

apr(Apache Portable Runtime/Apache可移植运行时)，是Apache HTTP服务器的支持库。你可以简单地理解为，Tomcat将以JNI的形式调用Apache HTTP服务器的核心动态链接库来处理文件读取或网络传输操作，从而大大地提高Tomcat对静态文件的处理性能。 Tomcat apr也是在Tomcat上运行高并发应用的首选模式。如果我们的Tomcat不是在apr模式下运行，在启动Tomcat的时候，我们可以在日志信息中看到类似如下信息：

2013-8-6 16:17:49 org.apache.catalina.core.AprLifecycleListener init
信息: The APR based Apache Tomcat Native library which allows optimal performance in production environments was not found on the java.library.path: xxx/xxx(这里是路径信息)

Tomcat apr运行模式的配置是三种运行模式之中相对比较麻烦的一种。据官方文档所述，Tomcat apr需要以下三个组件的支持：

• APR library[APR库]
• JNI wrappers for APR used by Tomcat (libtcnative)[简单地说，如果是在Windows操作系统上，就是一个名为tcnative-1.dll的动态链接库文件]
• OpenSSL libraries[OpenSSL库]

此外，与配置nio运行模式一样，也需要将对应的Connector节点的protocol属性值改为org.apache.coyote.http11.Http11AprProtocol。 不过，上述繁琐的操作都是Tomcat 7.0.30之前的版本才需要这样配置，从Tomcat 7.0.30版本开始，Tomcat已经自带了tcnative-1.dll等文件，并且默认就是在Tomcat apr模式下运行，因此我们只需要下载最新版本的Tomcat直接使用即可。

此外，即使不使用Tomcat Manager，我们也可以区分出Tomcat当前的运行模式。如果以不同的Connector模式启动，在Tomcat的启动日志信息中一般会包含类似如下的不同内容，我们只需要根据这些信息即可判断出当前Tomcat的运行模式：

bio

信息: Starting ProtocolHandler ["http-bio-8080"] 2013-8-6 16:17:50 org.apache.coyote.AbstractProtocol start

nio

信息: Starting ProtocolHandler ["http-nio-8080"] 2013-8-6 16:59:53 org.apache.coyote.AbstractProtocol start

apr

信息: Starting ProtocolHandler ["http-apr-8080"] 2013-8-6 17:03:07 org.apache.coyote.AbstractProtocol start

Tomcat 6.x版本从6.0.32开始就默认支持apr。
Tomcat 7.x版本从7.0.30开始就默认支持apr。
这里关于默认支持apr的版本，存在疑问？？

解决Tomcat APR - tcnative-1.dll引起的 “Socket accept failed WSACancelBlockingCall”问题

问题描述：

系统环境（在 Tomcat Server Status 中直接复制过来）

Tomcat Version	JVM Version	JVM Vendor	OS Name	OS Version	OS Architecture
Apache Tomcat/6.0.32	1.6.0_20-b02	Sun Microsystems Inc.	Windows XP	5.1	x86

 

在 Tomcat 的 $CATALINA_HOME/bin 目录下加了 tcnative-1.dll ，结果关闭服务时出现如下错误。

Logs/catalina.2011-08-02.log 代码

 

1 2 3 4 5 6 7 8

2011-8-29:03:53org.apache.tomcat.util.net.AprEndpoint$Acceptor run   严重:Socket accept failed   org.apache.tomcat.jni.Error:Ablocking operation was interrupted byacall toWSACancelBlockingCall.   at org.apache.tomcat.jni.Socket.accept(NativeMethod)   at org.apache.tomcat.util.net.AprEndpoint$Acceptor.run(AprEndpoint.java:1109)   at java.lang.Thread.run(Thread.java:595)   2011-8-29:03:53org.apache.coyote.ajp.AjpAprProtocol destroy   信息:Stopping Coyote AJP/1.3on ajp-8009

解决：

问题根源 ：你下载的 tcnative-1.dll 文件不是 Tomcat 原始使用的那个版本文件

在 $CATALINA_HOME/webapps/docs/apr.html 打开其官方 Apache Portable Runtime (APR) 文档 描述，其 APR 包的源码在 bin/tomcat-native.tar.gz 归档文件中。所以，打开该文件就可以知道该 Tomcat native 的版本是多少，然后就到 Tomcat native 下载中心 下载相同版本的 tcnative-1.dll 和 openssl.exe 即可。问题搞定了， 就 这么简单！如果版本不一样，就可能会出现上面这个问题，这就是引起该问题的根源所在。

 

 

java NIO给我们带来了些什么：

• 事件驱动模型
• 避免多线程
• 单线程处理多任务
• 非阻塞I/O，I/O读写不再阻塞，而是返回0
• 基于block的传输，通常比基于流的传输更高效
• 更高级的IO函数，zero-copy
• IO多路复用大大提高了Java网络应用的可伸缩性和实用性

 

NIO存在的问题

使用NIO != 高性能，当连接数<1000，并发程度不高或者局域网环境下NIO并没有显著的性能优势。

NIO并没有完全屏蔽平台差异，它仍然是基于各个操作系统的I/O系统实现的，差异仍然存在。使用NIO做网络编程构建事件驱动模型并不容易，陷阱重重。

推荐大家使用成熟的NIO框架，如Netty，MINA等。解决了很多NIO的陷阱，并屏蔽了操作系统的差异，有较好的性能和编程模型。

 

java NIO优势

利用事件模型处理I/O，解决线程池瓶颈处理海量连接，包括利用面向事件的方式编写服务端/客户端程序

NIO在服务端对于解放线程，优化I/O和处理海量连接方面，确实有自己的用武之地。那么在客户端上，NIO又有什么使用场景呢?

常见的客户端BIO+连接池模型，可以建立n个连接，然后当某一个连接被I/O占用的时候，可以使用其他连接来提高性能。

但多线程的模型面临和服务端相同的问题：如果指望增加连接数来提高性能，则连接数又受制于线程数、线程很贵、无法建立很多线程，则性能遇到瓶颈。

参考资料：

1、http://www.tbdazhe.com/archives/486

2、Java NIO浅析

3、Tomcat 高性能实现关键点

4、[高并发Java 八] NIO和AIO