Haproxy配合Nginx搭建Web集群部署实验(图文详解)
一、常见的Web集群调度器
- 目前常见的Web集群调度器分为软件和硬件
- 软件通常使用开源的LVS、Haproxy、Nginx
- LVS性能最好,但是搭建相对复杂;Nginx的upstream模块支持集群功能,但是对集群节点健康检查功能不强,高并发没有Haproxy好
- 硬件一般使用的比较多的是F5,也有很多人使用梭子鱼、绿盟等国内产品
二、Haproxy应用分析
- LVS在企业应用中抗负载能力很强,但存在不足
- LVS不支持正则处理,不能实现动静分离
- 对于大型网站,LVS的实施配置复杂,维护成功相对较高
- Haproxy是一款可提供高可用性、负载均衡、及基于TCP和HTTP应用的代理的软件
- 适用于负载大的Web站点
- 运行在硬件上可支持数万计的并发连接的连接请求
三、Haproxy调度算法原理
Haproxy支持多种调度算法,最常用的有三种
- RR (Round Robin)
- RR算法是最简单常用的一种算法,即轮询调度
- LC(Least Connections)
- 最小连接数算法,根据后端的节点连接数大小动态分配前端请求。
- SH(Source Hashing)
- 基于来源访问调度算法,用于一些有Session会话记录在服务器端的场景,可以基于来源的IP、Cookie等做集群调度
四、Haproxy搭建 Web 群集
实验所需安装包
haproxy-1.5.19.tar.gz
nginx-1.12.0.tar.gz
主机 | 主机 | IP地址 | 所需软件/安装包/工具 |
Haproxy-Server | CentOS7 | 192.168.159.130 | haproxy-1.5.19.tar.gz |
Nginx-Server1 | CentOS7 | 192.168.159.14 | nginx-1.12.0.tar.gz |
Nginx-Server2 | CentOS7 | 192.168.159.11 | nginx-1.12.0.tar.gz |
客户端 | CentOS7 | ------------------------ |
1、部署haproxy服务器(192.168.184.10)
1.关闭防火墙,将安装Haproxy所需软件包传到/opt目录下
systemctl stop firewalld setenforce 0 cd /opt haproxy-1.5.19.tar.gz
2、编译安装 Haproxy
yum install -y pcre-devel bzip2-devel gcc gcc-c++ make tar zxvf haproxy-1.5.19.tar.gz cd haproxy-1.5.19/ make TARGET=linux2628 ARCH=x86_64 make install
参数说明
TARGET=linux26 | ARCH=x86_64 |
内核版本 | 系统位数,64位系统 |
使用uname -r查看内核,如:2.6.18-371.el5,此时该参数用TARGET=linux26;kernel大于2.6.28的用TARGET=linux2628
3、Haproxy服务器配置
mkdir /etc/haproxy cp examples/haproxy.cfg /etc/haproxy/ cd /etc/haproxy/ vim haproxy.cfg global
4~5行–修改,配置日志记录,local0为日志设备,默认存放到系统日志
log /dev/log local0 info log /dev/log local0 notice #log loghost local0 info maxconn 4096 #最大连接数,需考虑ulimit-n限制
8行–注释,chroot运行路径,为该服务自设置的根目录,一般需将此行注释掉
#chroot /usr/share/haproxy uid 99 #用户UID gid 99 #用户GID daemon #守护进程模式 defaults log global #定义日志为global配置中的日志定义 mode http #模式为http option httplog #采用http日志格式记录日志 option dontlognull #不记录健康检查日志信息 retries 3 #检查节点服务器失败次数,连续达到三次失败,则认为节点不可用 redispatch #当服务器负载很高时,自动结束当前队列处理比较久的连接 maxconn 2000 #最大连接数 contimeout 5000 #连接超时时间 clitimeout 50000 #客户端超时时间 srvtimeout 50000 #服务器超时时间
删除下面所有listen项–,添加
listen webcluster 0.0.0.0:80 option httpchk GET /test.html #检查服务器的test.html文件 balance roundrobin #负载均衡调度算法使用轮询算法roundrobin server inst1 192.168.184.20:80 check inter 2000 fall 3 #定义在线节点 server inst2 192.168.184.30:80 check inter 2000 fall 3
小问题:
这里的全局配置文件应该是:
log /dev/log
log /dev/log
启动服务失败自检得出
最后的写错了,应该是192.168.159.11
2、编译安装Nginx服务器(192.168.159.14、192.168.159.11)
systemctl stop firewalld setenforce 0 yum install -y pcre-devel zlib-devel gcc gcc-c++ make useradd -M -s /sbin/nologin nginx cd /opt tar zxvf nginx-1.12.0.tar.gz -C /opt/ cd nginx-1.12.0/ ./configure --prefix=/usr/local/nginx --user=nginx --group=nginx make && make install ln -s /usr/local/nginx/sbin/nginx /usr/local/sbin/ nginx #启动nginx 服务
192.168.159.14
echo "this is zc web" > /usr/local/nginx/html/test.html
192.168.159.11
echo "this is haha web" > /usr/local/nginx/html/test.html
nginx: [emerg] getpwnam("nginx") failed
nginx编译安装之后,启动出现了:nginx: [emerg] getpwnam("nginx") failed
这个是因为我编译安装nginx的时候指定了--user=nginx
和--group=nginx
,去除就没事了
但是出于安全性考虑,还是用独立权限的账户运行(root权限太大,web渗透的时候可利用的机会太多了)
启动Haproxy服务(192.168.184.10)
3、测试 Web集群
在客户端使用浏览器打开 http://192.168.159.130/test.html ,不断刷新浏览器测试负载均衡效果
五、日志定义
默认haproxy的日志是输出到系统的syslog中,查看起来不是非常方便,为了更好的管理haproxy的日志,我们在生产环境中一般单独定义出来。需要将haproxy的info及notice日志分别记录到不同的日志文件中。
vim /etc/haproxy/haproxy.cfg global log /dev/log local0 info log /dev/log local0 notice service haproxy restart
需要修改rsyslog配置,为了便于管理。将haproxy相关的配置独立定义到haproxy.conf,并放到/etc/rsyslog.d/下,rsyslog启动时会自动加载此目录下的所有配置文件。
vim /etc/rsyslog.d/haproxy.conf if ($programname == 'haproxy' and $syslogseverity-text == 'info') then -/var/log/haproxy/haproxy-info.log &~ if ($programname == 'haproxy' and $syslogseverity-text == 'notice') then -/var/log/haproxy/haproxy-notice.log &~
说明:
这部分配置是将haproxy的info日志记录到/var/log/haproxy/haproxy-info.log下,将notice日志记录到/var/log/haproxy/haproxy-notice.log下。“&~”表示当日志写入到日志文件后,rsyslog停止处理这个信息。
systemctl restart rsyslog.service tail -f /var/log/haproxy/haproxy-info.log #查看haproxy的访问请求日志信息