Nginx + Tomcat 负载均衡、动静分离群集

一 Nginx负载均衡实现原理

Nginx实现负载均衡是通过反向代理实现

反向代理原理

反向代理的概念

反向代理（Reverse Proxy）方式是指以代理服务器来接受internet上的连接请求，然后将请求转发给内部网络上的服务器，并将从服务器上得到的结果返回给internet上请求连接的客户端，此时代理服务器对外就表现为一个反向代理服务器。

反向代理是为服务端服务的，反向代理可以帮助服务器接收来自客户端的请求，帮助服务器做请求转发，负载均衡等。

反向代理对服务端是透明的，对我们是非透明的，即我们并不知道自己访问的是代理服务器，而服务器知道反向代理在为他服务。

反向代理的优势

隐藏真实服务器；
负载均衡便于横向扩充后端动态服务；
动静分离，提升系统健壮性；

Nginx四层反向代理和七层反向代理

四层反向代理：是基于IP+PORT（TCP/UDP端口）转发
七层反向代理：基于http，https，mail代理转发

Nginx实现负载均衡的策略

轮询策略：默认情况下采用的策略，将所有客户端请求轮询分配给服务端。这种策略是可以正常工作的，但是如果其中某一台服务器压力太大，出现延迟，会影响所有分配在这台服务器下的用户。
最小连接数策略：将请求优先分配给压力较小的服务器，它可以平衡每个队列的长度，并避免向压力大的服务器添加更多的请求。
最快响应时间策略：优先分配给响应时间最短的服务器。
客户端 ip 绑定策略：来自同一个 ip 的请求永远只分配一台服务器，有效解决了动态网页存在的 session 共享问题。

Nginx负载均衡模式

1、rr负载均衡模式
每个请求按时间顺序逐一分配到不同的后端服务器，如果超过了最大失败次数后（max_fails，默认1），在失效时间内（fail_timeout，默认10秒），该节点失效权重变为0，超过失效时间后，则恢复正常，或者全部节点都为down后，那么将所有节点都恢复为有效继续探测，一般来说rr可以根据权重来进行均匀分配。

2、least_conn最少连接
优先将客户端请求调度到当前连接最少的服务器。

3、ip_hash负载均衡模式
每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session（会话状态）的问题，但是ip_hash会造成负载不均，有的服务请求接受多，有的服务请求接受少，所以不建议采用ip_hash模式

补充：session的概念
session共享问题可用后端服务的session共享代替nginx的ip_hash。ip_hash无法作用于四层反向代理，配置需要将其他模式删除例如weight删掉然后直接在加上
注释：
Session又称为会话状态，是Web系统中最常用的状态，用于维护和当前浏览器实例相关的一些信息。我们控制用户去权限中经常用到

Session来存储用户状态

session其实分为客户端Session和服务器端Session。

当用户首次与Web服务器建立连接的时候，服务器会给用户分发一个 SessionID作为标识。SessionID是一个由24个字符组成的随机字符串。用户每次提交页面，浏览器都会把这个SessionID包含在 HTTP头中提交给Web服务器，这样Web服务器就能区分当前请求页面的是哪一个客户端。这个SessionID就是保存在客户端的，属于客户端Session。

其实客户端Session默认是以cookie的形式来存储的，所以当用户禁用了cookie的话，服务器端就得不到SessionID。这时我们可以使用url的方式来存储客户端Session。也就是将SessionID直接写在了url中，当然这种方法不常用。

Session共享：指在一个浏览器对应多个Web服务时，服务端的Session数据需要共享。例如单点登录、Web服务器集群等场景都需要用到、多子服务。

4、fair（第三方）负载均衡模式
按后端服务器的响应时间来分配请求，响应时间短的优先分配。

5、url_hash（第三方）负载均衡模式
和ip hash算法类似，是对每个请求按url的hash结果分配，使每个URL定向到同一个后端服务器，但是也会造成分配不均的问题，这种模式后端服务器为缓存时比较好。

Nginx动静分离实现原理

动静分离的概念

动静分离是指在 web 服务器架构中，将静态页面与动态页面或者静态内容接口和动态内容接口分开不同系统访问的架构设计方法，进而提示整个服务的访问性和可维护性。

动静分离的原理

服务端接收来自客户端的请求中。既有静态资源也有动态资源，静态资源由Nginx提供服务，动态资源Nginx转发至后端

Nginx 静态处理优势

• Nginx处理静态页面的效率远高于Tomcat的处理能力

• 若Tomcat的请求量为1000次，则Nginx的请求量为6000次

• Tomcat每秒的吞吐量为0.6M，Nginx的每秒吞吐量为3.6M

• Nginx处理静态资源的能力是Tomcat处理的6倍

Nginx+Tomcat负载均衡、动静分离的操作步骤

准备三台服务器，Nginx作为负载均衡器，Tomcat作为应用服务器

Nginx 服务器：192.168.247.10:80
Tomcat服务器1：192.168.247.40:80
Tomcat服务器2：192.168.247.20:8080 192.168.247.20:8081

部署Nginx 负载均衡器 192.168.247.10:80

具体实验步骤看前面博客Nginx网站服务
systemctl stop firewalld
setenforce 0

yum -y install pcre-devel zlib-devel openssl-devel gcc gcc-c++ make

useradd -M -s /sbin/nologin nginx

cd /opt
tar zxvf nginx-1.12.0.tar.gz -C /opt/

cd nginx-1.12.0/
./configure
--prefix=/usr/local/nginx
--user=nginx
--group=nginx
--with-file-aio \
--with-http_stub_status_module \
--with-http_gzip_static_module \
--with-http_flv_module \
--with-http_ssl_module

./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-file-aio --with-http_stub_status_module --with-http_gzip_static_module --with-http_flv_module

make && make install

ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/

vim /lib/systemd/system/nginx.service
[Unit]
Description=nginx
After=network.target
[Service]
Type=forking
PIDFile=/usr/local/nginx/logs/nginx.pid
ExecStart=/usr/local/nginx/sbin/nginx
ExecrReload=/bin/kill -s HUP $MAINPID
ExecrStop=/bin/kill -s QUIT $MAINPID
PrivateTmp=true
[Install]
WantedBy=multi-user.target

chmod 754 /lib/systemd/system/nginx.service
systemctl start nginx.service
systemctl enable nginx.service

部署2台Tomcat 应用服务器

Tomcat服务器1：192.168.247.40:80 Tomcat的部署及优化

Tomcat服务器2：192.168.247.20:8080 192.168.247.20:8081 Tomcat的部署及优化

动静分离配置

Tomcat服务器1 server 配置

配置Tomcat1的动态网页显示内容

添加新的host内容

重启服务

Tomcat服务器2 server 配置

创建Tomcat实例1和Tomcat实例2的网页测试目录test和测试网页文件

Tomcat1主配置删除前面的 HOST 配置，添加新的HOST配置(vim /usr/local/tomcat/tomcat1/conf/server.xml)

重启服务

创建Tomcat实例2的测试网页文件

Tomcat2主配置删除前面的 HOST 配置，添加新的HOST配置