Tomcat Web应用服务器学习笔记

Tomcat 系统架构与原理剖析

1）浏览器访问服务器的流程

2）Tomcat 系统总体架构

HTTP 服务器接收到请求之后把请求交给Servlet容器来处理，Servlet 容器通过Servlet接⼝调⽤业务类。Servlet接⼝和Servlet容器这⼀整套内容叫作Servlet规范。

注意：Tomcat既按照Servlet规范的要求去实现了Servlet容器，同时它也具有HTTP服务器的功能。Tomcat的两个重要身份：是一个http服务器，也是⼀个Servlet容器。

3）Tomcat Servlet容器处理流程，当⽤户请求某个URL资源时

1）HTTP服务器会把请求信息使⽤ServletRequest对象封装起来

2）进⼀步去调⽤Servlet容器中某个具体的Servlet

3）在 2）中，Servlet容器拿到请求后，根据URL和Servlet的映射关系，找到相应的Servlet

4）如果Servlet还没有被加载，就⽤反射机制创建这个Servlet，并调⽤Servlet的init⽅法来完成初始化

5）接着调⽤这个具体Servlet的service⽅法来处理请求，请求处理结果使⽤ServletResponse对象封装

6）把ServletResponse对象返回给HTTP服务器，HTTP服务器会把响应发送给客户端

 

 

4）Tomcat 系统总体架构 

Tomcat 设计了两个核⼼组件连接器（Connector）和容器（Container）来完成 Tomcat 的两⼤核⼼功能。连接器，负责对外交流： 处理Socket连接，负责⽹络字节流与Request和Response对象的转化；

容器，负责内部处理：加载和管理Servlet，以及具体处理Request请求；

Tomcat 连接器组件 Coyote 简介：Coyote 是Tomcat 中连接器的组件名称 , 是对外的接⼝。客户端通过Coyote与服务器建⽴连接、发送请求并接受响应 。

（1）Coyote 封装了底层的⽹络通信（Socket 请求及响应处理）

（2）Coyote 使Catalina 容器（容器组件）与具体的请求协议及IO操作⽅式完全解耦

（3）Coyote 将Socket 输⼊转换封装为 Request 对象，进⼀步封装后交由Catalina 容器进⾏处理，处理请求完成后, Catalina 通过Coyote 提供的Response 对象将结果写⼊输出流

（4）Coyote 负责的是具体协议（应⽤层）和IO（传输层）相关内容

5）Tomcat Servlet 容器 Catalina

Tomcat是⼀个由⼀系列可配置（conf/server.xml）的组件构成的Web容器，⽽Catalina是Tomcat的servlet容器。从另⼀个⻆度来说，Tomcat 本质上就是⼀款 Servlet 容器， 因为 Catalina 才是 Tomcat 的核⼼ ， 其他模块都是为Catalina 提供⽀撑的。 ⽐如 ： 通过 Coyote 模块提供链接通信，Jasper 模块提供 JSP 引擎，Naming 提供JNDI 服务，Juli 提供⽇志服务。

Servlet 容器 Catalina 的结构 Tomcat（我们往往有⼀个认识，Tomcat就是⼀个Catalina的实例，因为Catalina是Tomcat的核⼼）

其实，可以认为整个Tomcat就是⼀个Catalina实例，Tomcat 启动的时候会初始化这个实例，Catalina实例通过加载server.xml完成其他实例的创建，创建并管理⼀个Server，Server创建并管理多个服务，每个服务⼜可以有多个Connector和⼀个Container。

⼀个Catalina实例（容器）有⼀个 Server实例（容器）多个Service实例（容器）。每⼀个Service实例下可以有多个Connector实例和⼀个Container实例。

Catalina：负责解析Tomcat的配置⽂件（server.xml） , 以此来创建服务器Server组件并进⾏管理。

Server：服务器表示整个Catalina Servlet容器以及其它组件，负责组装并启动Servlaet引擎,Tomcat连接器。Server通过实现Lifecycle接⼝，提供了⼀种优雅的启动和关闭整个系统的⽅式。

Service：服务是Server内部的组件，⼀个Server包含多个Service。它将若⼲个Connector组件绑定到⼀个容器上，是对外提供服务的。

Container：Container容器，负责处理⽤户的servlet请求，并返回对象给web⽤户的模块。

Container 组件的具体结构

Container组件下有⼏种具体的组件，分别是Engine、Host、Context和Wrapper。这4种组件（容器）是⽗⼦关系。Tomcat通过⼀种分层的架构，使得Servlet容器具有很好的灵活性。

Engine表示整个Catalina的Servlet引擎，⽤来管理多个虚拟站点，⼀个Service最多只能有⼀个Engine，但是⼀个引擎可包含多个Host。

Host代表⼀个虚拟主机，或者说⼀个站点，可以给Tomcat配置多个虚拟主机地址，⽽⼀个虚拟主机下可包含多个Context。

Context表示⼀个Web应⽤程序， ⼀个Web应⽤可包含多个Wrapper。

Wrapper表示⼀个Servlet，Wrapper 作为容器中的最底层，不能包含⼦容器上述组件的配置其实就体现在conf/server.xml中。

Tomcat 服务器核⼼配置详解

主要标签结构如下：

<!--Server 根元素，创建⼀个Server实例，⼦标签有 Listener、GlobalNamingResources、Service-->
<Server>
　　<!--定义监听器-->
　　<Listener/>
　　<!--定义服务器的全局JNDI资源 -->
　　<GlobalNamingResources/>
　　<!--定义⼀个Service服务，⼀个Server标签可以有多个Service服务实例-->
　　<Service/>
</Server>

Server 标签

<!--port：关闭服务器的监听端⼝ shutdown：关闭服务器的指令字符串-->
<Server port="8005" shutdown="SHUTDOWN">
　　<!-- 以⽇志形式输出服务器 、操作系统、JVM的版本信息 -->
　　<Listener className="org.apache.catalina.startup.VersionLoggerListener" />
　　<!-- Security listener. Documentation at /docs/config/listeners.html <Listener className="org.apache.catalina.security.SecurityListener" />-->
　　<!--APR library loader. Documentation at /docs/apr.html -->
　　<!-- 加载（服务器启动） 和 销毁 （服务器停⽌） APR。 如果找不到APR库， 则会输出⽇志， 并不影响 Tomcat启动 -->
　　<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" />
　　<!-- Prevent memory leaks due to use of particular java/javax APIs-->
　　<!-- 避免JRE内存泄漏问题 -->
　　<Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
　　<!-- 加载（服务器启动） 和 销毁（服务器停⽌） 全局命名服务 -->
　　<Listener className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
　　<!-- 在Context停⽌时重建 Executor 池中的线程， 以避免ThreadLocal 相关的内存泄漏 -->
　　Service 标签
　　Executor 标签
　　<Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
　　<!-- Global JNDI resources Documentation at /docs/jndi-resources-howto.html GlobalNamingResources 中定义了全局命名服务-->
　　<GlobalNamingResources>
　　<!-- Editable user database that can also be used by UserDatabaseRealm to authenticate users-->
　　　　<Resource name="UserDatabase" auth="Container" type="org.apache.catalina.UserDatabase" description="User database that can be updated and saved" factory="org.apache.catalina.users.MemoryUserDatabaseFactory" pathname="conf/tomcat-users.xml" />
　　</GlobalNamingResources>
　　<!-- A "Service" is a collection of one or more "Connectors" that share a single "Container" Note: A "Service" is not itself a "Container", so you may not define subcomponents such as "Valves" at this level. Documentation at /docs/config/service.html-->
　　<Service name="Catalina">
　　　　...
　　</Service>
</Server>

Service 标签

<!--该标签⽤于创建 Service 实例，默认使⽤ org.apache.catalina.core.StandardService。默认情况下，Tomcat 仅指定了Service 的名称， 值为 "Catalina"。Service ⼦标签为 ： Listener、Executor、Connector、Engine，其中：Listener ⽤于为Service添加⽣命周期监听器，Executor ⽤于配置Service 共享线程池，Connector ⽤于配置Service 包含的链接器，Engine ⽤于配置Service中链接器对应的Servlet 容器引擎-->
<Service name="Catalina">
...
</Service>

Executor 标签

<!--Connector 标签Connector 标签⽤于创建链接器实例默认情况下，server.xml 配置了两个链接器，⼀个⽀持HTTP协议，⼀个⽀持AJP协议⼤多数情况下，我们并不需要新增链接器配置，只是根据需要对已有链接器进⾏优化默认情况下，Service 并未添加共享线程池配置。 如果我们想添加⼀个线程池， 可以在<Service> 下添加如下配置：name：线程池名称，⽤于 Connector中指定namePrefix：所创建的每个线程的名称前缀，⼀个单独的线程名称为
namePrefix+threadNumber maxThreads：池中最⼤线程数 minSpareThreads：活跃线程数，也就是核⼼池线程数，这些线程不会被销毁，会⼀直存在 maxIdleTime：线程空闲时间，超过该时间后，空闲线程会被销毁，默认值为6000（1分钟），单位毫秒 maxQueueSize：在被执⾏前最⼤线程排队数⽬，默认为Int的最⼤值，也就是⼴义的⽆限。除⾮特殊情况，这个值 不需要更改，否则会有请求不会被处理的情况发⽣
prestartminSpareThreads：启动线程池时是否启动 minSpareThreads部分线程。默认值为false，即不启动 threadPriority：线程池中线程优先级，默认值为5，值从1到10
className：线程池实现类，未指定情况下，默认实现类为 org.apache.catalina.core.StandardThreadExecutor。如果想使⽤⾃定义线程池⾸先需要实现org.apache.catalina.Executor接⼝-->
<Executor name="commonThreadPool" namePrefix="thread-exec-" maxThreads="200" minSpareThreads="100" maxIdleTime="60000" maxQueueSize="Integer.MAX_VALUE"
prestartminSpareThreads="false" threadPriority="5" className="org.apache.catalina.core.StandardThreadExecutor"/>

Connector 标签 Connector 标签⽤于创建链接器实例。默认情况下，server.xml 配置了两个链接器，⼀个⽀持HTTP协议，⼀个⽀持AJP协议⼤多数情况下，我们并不需要新增链接器配置，只是根据需要对已有链接器进⾏优化

<!--port：端⼝号，Connector ⽤于创建服务端Socket 并进⾏监听， 以等待客户端请求链接。如果该属性设置为0， Tomcat将会随机选择⼀个可⽤的端⼝号给当前Connector 使⽤
protocol：当前Connector ⽀持的访问协议。 默认为 HTTP/1.1 ， 并采⽤⾃动切换机制选择⼀个基于 JAVA NIO 的链接器或者基于本地APR的链接器（根据本地是否含有Tomcat的本地库判定）
connectionTimeOut:Connector 接收链接后的等待超时时间， 单位为 毫秒。 -1 表示不超时。redirectPort：当前Connector 不⽀持SSL请求， 接收到了⼀个请求， 并且也符合security-constraint 约束，
需要SSL传输，Catalina⾃动将请求重定向到指定的端⼝。
executor：指定共享线程池的名称， 也可以通过maxThreads、minSpareThreads 等属性配置内部线程池。可以使⽤共享线程池Engine 标签 Engine 表示 Servlet 引擎 Host 标签 Host 标签⽤于配置⼀个虚拟主机
URIEncoding:⽤于指定编码URI的字符编码， Tomcat8.x版本默认的编码为 UTF-8 , Tomcat7.x版本默认为ISO-8859-1-->
<!--org.apache.coyote.http11.Http11NioProtocol ， ⾮阻塞式 Java NIO 链接器-->
<Connector port="8080" protocol="HTTP/1.1" connectionTimeout="20000" redirectPort="8443" />
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

可以使⽤共享线程池

<Connector port="8080" protocol="HTTP/1.1" executor="commonThreadPool" maxThreads="1000" minSpareThreads="100" acceptCount="1000" maxConnections="1000" connectionTimeout="20000" compression="on" compressionMinSize="2048" disableUploadTimeout="true" redirectPort="8443" URIEncoding="UTF-8" />

Engine 标签 Engine 表示 Servlet 引擎

<!--name： ⽤于指定Engine 的名称， 默认为CatalinadefaultHost：默认使⽤的虚拟主机名称， 当客户端请求指向的主机⽆效时， 将交由默认的虚拟主机处理， 默认为localhost-->
<Engine name="Catalina" defaultHost="localhost">
...
</Engine>

Host 标签 Host 标签⽤于配置⼀个虚拟主机

<Host name="localhost" appBase="webapps" unpackWARs="true" autoDeploy="true">
...
</Host>

Context 标签 Context 标签⽤于配置⼀个Web应⽤，如下：

<Host name="www.abc.com" appBase="webapps" unpackWARs="true" autoDeploy="true">
　　<!--docBase：Web应⽤⽬录或者War包的部署路径。可以是绝对路径，也可以是相对于 Host appBase的相对路径。path：Web应⽤的Context 路径。如果我们Host名为localhost， 则该web应⽤访问的根路径为：
http://localhost:8080/web_demo。-->
　　<Context docBase="/Users/yingdian/web_demo" path="/web3"></Context>
　　<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs" prefix="localhost_access_log" suffix=".txt" pattern="%h %l %u %t &quot;%r&quot; %s %b" />
</Host>

Tomcat 类加载机制剖析

JVM 的类加载机制

 

 

引导启动类加载器BootstrapClassLoader  c++编写，加载java核⼼库 java.*,⽐如rt.jar中的类，构造ExtClassLoader和AppClassLoader。

扩展类加载器 ExtClassLoader java编写，加载扩展库 JAVA_HOME/lib/ext⽬录下的jar中的类，如classpath中的jre ，javax.*或者java.ext.dir指定位置中的类。

 系统类加载器SystemClassLoader/AppClassLoader  默认的类加载器，搜索环境变量 classpath 中指明的路径。

加载机制：当 JVM 运⾏过程中，⽤户⾃定义了类加载器去加载某些类时，会按照下⾯的步骤（⽗类委托机制） ⽤户⾃⼰的类加载器，把加载请求传给⽗加载器，⽗加载器再传给其⽗加载器，⼀直到加载器树的顶层

最顶层的类加载器⾸先针对其特定的位置加载，如果加载不到就转交给⼦类；如果⼀直到底层的类加载都没有加载到，那么就会抛出异常 ClassNotFoundException因此，按照这个过程可以想到，如果同样classpath 指定的⽬录中和⾃⼰⼯作⽬录中存放相同的class，会优先加载 classpath ⽬录中的⽂件

双亲委派机制：当某个类加载器需要加载某个.class⽂件时，它⾸先把这个任务委托给他的上级类加载器，递归这个操作，如果上级的类加载器没有加载，⾃⼰才会去加载这个类。

双亲委派机制作用： 防⽌重复加载同⼀个.class。通过委托去向上⾯问⼀问，加载过了，就不⽤再加载⼀遍。保证数据安全。保证核⼼.class不能被篡改。通过委托⽅式，不会去篡改核⼼.class，即使篡改也不会去加载，即使加载也不会是同⼀个.class对象了。不同的加载器加载同⼀个.class也不是同⼀个.class对象。这样保证了class执⾏安全（如果⼦类加载器先加载，那么我们可以写⼀些与java.lang包中基础类同名的类， 然后再定义⼀个⼦类加载器，这样整个应⽤使⽤的基础类就都变成我们⾃⼰定义的类了。）

Tomcat类加载机制

 

 引导类加载器 和 扩展类加载器 的作⽤不变。系统类加载器正常情况下加载的是 CLASSPATH 下的类，但是 Tomcat 的启动脚本并未使⽤该变量，⽽是加载tomcat启动的类，⽐如bootstrap.jar，通常在catalina.bat或者catalina.sh中指定。位于CATALINA_HOME/bin下Common 通⽤类加载器加载Tomcat使⽤以及应⽤通⽤的⼀些类，位于CATALINA_HOME/lib下，⽐如servlet-api.jar。Catalina ClassLoader ⽤于加载服务器内部可⻅类，这些类应⽤程序不能访问。Shared ClassLoader ⽤于加载应⽤程序共享类，这些类服务器不会依赖。Webapp ClassLoader，每个应⽤程序都会有⼀个独⼀⽆⼆的Webapp ClassLoader，他⽤来加载本应⽤程序 /WEB-INF/classes 和 /WEB-INF/lib 下的类。tomcat 8.5 默认改变了严格的双亲委派机制，⾸先从 Bootstrap Classloader加载指定的类，如果未加载到，则从 /WEB-INF/classes加载，如果未加载到，则从 /WEB-INF/lib/*.jar 加载，如果未加载到，则依次从 System、Common、Shared 加载（在这最后⼀步，遵从双亲委派机制）

Tomcat 性能优化策略

虚拟机运⾏优化（参数调整）

参数                   　　　　参数作⽤                                                          　　优化建议

-server              　　　　启动Server，以服务端模式运⾏                            　　服务端模式建议开启

-Xms 　　　　　　　　　最⼩堆内存 　　　　　　　　　　　　　　　　　　　　建议与-Xmx设置相同

-Xmx 　　　　　　　　　最⼤堆内存　　　　　　　　　　　　　　　　　　 　　建议设置为可⽤内存的80%

-XX:MetaspaceSize  　　元空间初始值　　　　　　　　　　　　　　　　　 　　 -

XX:MaxMetaspaceSize　 元空间最⼤内存默认⽆限

-XX:NewRatio　　　　　年轻代和⽼年代⼤⼩⽐值，取值为整数，默认为2　　　　不需要修改

-XX:SurvivorRatio　　　 Eden区与Survivor区⼤⼩的⽐值，取值为整数，默认为8   不需要修改

jvm内存模型

参数调整示例

JAVA_OPTS="-server -Xms2048m -Xmx2048m -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m"

调整后查看可使⽤JDK提供的内存映射⼯具

垃圾回收（GC）策略

参数　　　　　　　　　　　　　　　　　　   描述

-XX:+UseSerialGC 　　　　　　　　　　　　启⽤串⾏收集器

-XX:+UseParallelGC　　　　　　　　　　　  启⽤并⾏垃圾收集器，配置了该选项，那么 -XX:+UseParallelOldGC默认启⽤

-XX:+UseParNewGC　　　　　　　　　　　 年轻代采⽤并⾏收集器，如果设置了 -XX:+UseConcMarkSweepGC选项，⾃动启⽤

-XX:ParallelGCThreads　　　　　　　　　　 年轻代及⽼年代垃圾回收使⽤的线程数。默认值依赖于JVM使⽤的CPU个数

-XX:+UseConcMarkSweepGC（CMS）　　    对于⽼年代，启⽤CMS垃圾收集器。 当并⾏收集器⽆法满⾜应⽤的延迟需求是，推荐使⽤CMS或G1收集器。启⽤该选项后，-XX:+UseParNewGC⾃动启⽤。

-XX:+UseG1GC　　　　　　　　　　　　　　启⽤G1收集器。 G1是服务器类型的收集器， ⽤于多核、⼤内存的机器。它在保持⾼吞吐量的情况下，⾼概率满⾜GC暂停时间的⽬标。

在bin/catalina.sh的脚本中 , 追加如下配置 :

JAVA_OPTS="-XX:+UseConcMarkSweepGC"

Tomcat 配置调优

调整tomcat线程池 

 

调整tomcat的连接器。调整tomcat/conf/server.xml 中关于链接器的配置可以提升应⽤服务器的性能。

参数　　　　　　　　　　　　　　　　说明

maxConnections　　　　　　　　　　 最⼤连接数，当到达该值后，服务器接收但不会处理更多的请求， 额外的请求将会阻塞直到连接数低于maxConnections 。可通过ulimit -a 查看服务器限制。对于CPU要求更⾼(计算密集型)时，建议不要配置过⼤ ; 对于CPU要求不是特别⾼时，建议配置在2000左右(受服务器性能影响)。 当然这个需要服务器硬件的⽀持

maxThreads 　　　　　　　　　　　　最⼤线程数,需要根据服务器的硬件情况，进⾏⼀个合理的设置

acceptCount　　　　　　　　　　　　最⼤排队等待数,当服务器接收的请求数量到达maxConnections ，此时Tomcat会将后⾯的请求，存放在任务队列中进⾏排序， acceptCount指的就是任务队列中排队等待的请求数 。 ⼀台Tomcat的最⼤的请求处理数量，是maxConnections+acceptCount

 

禁⽤AJP连接器

什么是AJP？在web用户和tomcat之间架设一个web服务器，用户首先请求Web服务器，然后由web服务器来请求tomcat,这样做的好处是在前面的web服务器可以做集群和缓存，如果web服务器和tomcat做的是短连接，这样的话就需要经常重新连接效率低，tomcat在这里做了一个优化，架设了一个连接器叫做ajp的长连接，这样就减少了创建连接和关闭连接的次数，但是AJP服务只有Apache服务器才能使用。我们一般不使用apache服务，我们一般是使用Nginx+tomcat的架构，所以用不着AJP协议，所以把AJP连接器禁用；其实换个角度想想如果一个AJP服务我们用不到但是开起着，肯定会造成资源的浪费

调整 IO 模式

Tomcat8之前的版本默认使⽤BIO（阻塞式IO），对于每⼀个请求都要创建⼀个线程来处理，不适合⾼并发；Tomcat8以后的版本默认使⽤NIO模式（⾮阻塞式IO）。

当Tomcat并发性能有较⾼要求或者出现瓶颈时，我们可以尝试使⽤APR模式，APR（Apache PortableRuntime）是从操作系统级别解决异步IO问题，使⽤时需要在操作系统上安装APR和Native（因为APR

原理是使⽤JNI技术调⽤操作系统底层的IO接⼝）。

 

动静分离

可以使⽤Nginx+Tomcat相结合的部署⽅案，Nginx负责静态资源访问，Tomcat负责Jsp等动态资源访问处理（因为Tomcat不擅⻓处理静态资源）。