1 NFS高可用解决方案之DRBD+heartbeat搭建

preface

NFS作为业界常用的共享存储方案,被众多公司采用。我司也不列外,使用NFS作为共享存储,为前端WEB server提供服务,主要存储网页代码以及其他文件。

高可用方案

说道NFS,不得不说它的同步技术,同步技术有两种,

  • 第一种就是借助RSYNC+inotify来实现主从同步数据。
  • 第二种借助DRBD,实现文件同步。
    上诉两种方案都没有实现高可用,只是实现了两者数据同步。但是业务要求NFS服务器必须是高可用,所以我们在第二种同步方案的基础上,在结合heartbeat来实现高可用。
    具体架构如下:
    image

动手搭建

我们看看我们的服务器信息:

IP 角色
192.168.1.4 NFS-Client(App-Server)
192.168.1.7 NFS-Master
192.168.1.8 NFS-Backup
  • 以上系统版本都是CentOs6.6
  • heartbeat的VIP为192.168.1.100
  • 我们实验室环境采用都是单张网卡,所以heartbeat监听eth0
基础工作要到位
  • 确保所有服务器时间同步。
  • 确保所有服务器的防火墙,Selinux关闭了。
  • 且主机名配置到位,能够根据主机名知道服务器角色。
  • 确保所有服务器hosts里面能够解析任意一台服务器的hostname。

上面所有的基础工作我就不记录命令了,非常简单。

搭建DRBD

drbd的原理不赘述了,可以参考我的另一篇博文:http://www.cnblogs.com/liaojiafa/p/6118425.html 。这里我们采用C协议(backup端网络接收到后写入磁盘再返回OK状态给Master)。
开始动手配置它吧。

在nfs主备服务器都敲下面的命令

安装DRBD

[root@nfsmaster ~]# yum -y update kernel kernel-devel
[root@nfsmaster ~]# rpm -Uvh http://www.elrepo.org/elrepo-release-6-6.el6.elrepo.noarch.rpm
[root@nfsmaster ~]# yum -y install drbd84-utils kmod-drbd84

格式化磁盘

主备都安装drbd以后,我们就开始格式化磁盘。这里我把/dev/sdb直接分成主分区,大小为20G,在这基础之上,做了LVM卷,划分大小为10G。主备同时操作:

[root@nfsmaster ~]# fdisk /dev/sdb
[root@nfsmaster ~]# pvcreate /dev/sdb1
[root@nfsmaster ~]# vgcreate nfsdisk /dev/sdb1
[root@nfsmaster ~]# lvcreate -L 10G -n nfsvolume nfsdisk
[root@nfsmaster ~]# lvdisplay     # 刚才创建LVM卷的信息
  --- Logical volume ---
  LV Path                /dev/nfsdisk/nfsvolume
  LV Name                nfsvolume
  VG Name                nfsdisk
  LV UUID                ub6vWZ-kX6r-zNdz-mzRy-7z1w-QsKb-ke8QBO
  LV Write Access        read/write
  LV Creation host, time nfsmaster, 2016-12-03 16:06:41 +0800
  LV Status              available
  # open                 0
  LV Size                10.00 GiB
  Current LE             2560
  Segments               1
  Allocation             inherit
  Read ahead sectors     auto
  - currently set to     256
  Block device           253:0

配置完成后,把master的drbd相关配置文件直接copy到backup上面就行了,我使用的是SCP。

启动drbd
磁盘创建成功后,开始启动drbd了:·

[root@nfsbackup ~]# drbdadm create-md r0
[root@nfsmaster ~]# service  drbd start

[root@nfsmaster ~]# drbdadm primary r0    # 到这里报错了,一看DRBD状态,两者不同步的状态,所以无法切换到primary。
[root@nfsmaster ~]# service  drbd status
drbd driver loaded OK; device status:
version: 8.4.7-1 (api:1/proto:86-101)
GIT-hash: 3a6a769340ef93b1ba2792c6461250790795db49 build by mockbuild@Build64R6, 2016-01-12 13:27:11
m:res  cs         ro                   ds                         p  mounted  fstype
0:r0   Connected  Secondary/Secondary  Inconsistent/Inconsistent  C   # inconsisten是两者数据不同步状态。
[root@nfsmaster ~]# drbdadm -- --overwrite-data-of-peer primary all   #不同步的话,我们在master节点执行这条命令。意思是让备的数据和主的一致。
[root@nfsmaster ~]# drbd-overview                 # 此时能够看到同步状态了
 0:r0/0  SyncSource Primary/Secondary UpToDate/Inconsistent
	[================>...] sync'ed: 86.3% (1408/10236)M

[root@nfsmaster ~]# drbd-overview    # 这个时候的状态表示同步成功。
 0:r0/0  Connected Primary/Secondary UpToDate/UpToDate
[root@nfsmaster ~]# mkfs.ext4 /dev/drbd0   #格式化磁盘,待会准备使用
搭建heartbeat了

安装heartbeat

采用yum安装,

[root@nfsmaster ~]#  rpm -vih http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm
[root@nfsmaster ~]# yum -y install heartbeat heartbeat-devel heartbeat-stonith heartbeat-pils

配置heartbeat

[root@nfsmaster ~]# cp /usr/share/doc/heartbeat-3.0.4/ha.cf /etc/ha.d/
[root@nfsmaster ~]#  cp /usr/share/doc/heartbeat-3.0.4/haresources /etc/ha.d/
[root@nfsmaster ~]# cp /usr/share/doc/heartbeat-3.0.4/authkeys /etc/ha.d/
[root@nfsmaster ~]# chmod 600 /etc/ha.d/authkeys    #必须是600权限

[root@nfsmaster ~]# grep -v ^# /etc/ha.d/haresources
nfsmaster  IPaddr::192.168.1.100/24/eth0 drbddisk::r0 Filesystem::/dev/drbd0::/nfs::ext4   #drbddisk后面的r0是资源名,drbd配置文件定义的。


[root@nfsmaster ~]# grep -v ^# /etc/ha.d/ha.cf   #主配置文件
logfile /var/log/ha-log          #指定heartbeat日志文件的位置
keepalive 1                        # 心跳发送时间间隔
deadtime 5                # 备用节点5s内没有检测到master机的心跳,确认对方故障
warntime 2                 # 警告2次
initdead 10                 # 守护进程启动30s后,启动服务资源。
ucast eth0 192.168.1.8      # 另一台主机节点eth0的地址,注意是另一台。
auto_failback off    # 当primary节点切换到secondary节点之后,primary节点恢复正常,不进行切回操作,因为切换一次mysql master成本很高。
node nfsmaster     # 定义两个节点的主机名,一行写一个。
node nfsbackup
respawn hacluster /usr/lib64/heartbeat/ipfail      #开启dopd功能
respawn hacluster /usr/lib64/heartbeat/dopd
apiauth ipfail gid=haclient uid=hacluster
apiauth dopd gid=haclient uid=hacluster

[root@nfsmaster ~]# grep -v ^# /etc/ha.d/authkeys   #认证文件
auth 1
1 sha1 HA_DB

[root@nfsmaster ~]# vim /etc/ha.d/resource.d/drbddisk   
 69                 $DRBDADM --force primary $RES && break   # 更改第69行,添加--force。

配置完成后,把配置文件copy到backup上面即可。不过需要改动的是/etc/ha.d/ha.cf下面的ucast参数,还有/etc/ha.d/haresources下面的nfsmaster,改成nfsbackup,与主机名一致。

启动heartbeat

[root@nfsmaster ~]# service  heartbeat start
[root@nfsmaster ~]# ip a|grep 'inet '
    inet 127.0.0.1/8 scope host lo
    inet 192.168.1.7/24 brd 192.168.1.255 scope global eth0
    inet 192.168.1.100/24 brd 192.168.1.255 scope global secondary eth0   # VIP已经在了,启动成功
    

设置开机自启动

[root@nfsmaster ~]# chkconfig heartbeat on
[root@nfsmaster ~]# chkconfig drbd on
测试drbd+heartbeat是否正常工作。
  1. 把master服务器拔掉往下或者直接拔电源,模拟宕机状态,看VIP是否会切换到backup上,如果能够切换,说明成功。drbd状态为primary/unknow
  2. 当master启动后以后,Master不会抢占backup的VIP以及drbd资源。。drbd状态为primary/Secondary

下面开始说说NFS结合drbd+heartbeat做高可用吧。

posted @ 2016-12-03 20:10  温柔易淡  阅读(5115)  评论(1编辑  收藏