rsync+sersync部署

1. rsync安装部署 ,rsync服务端(10.1.8.11)
服务端配置
[root@web2 ~]# rpm -qa rsync                    查询是否安装
[root@web2 ~]# yum install rsync                 安装rsync
[root@web2 ~]# useradd rsync -s /sbin/nologin -M   建立rsync用户
[root@web2 ~]# mkdir /backup                   建立同步文件目录
[root@web2 ~]# chown -R rsync.rsync /backup      backup目录属主为rsync
[root@web2 ~]# touch /etc/rsync.password         建立密码文件
[root@web2 ~]# vim /etc/rsync.password           编辑密码文件
rsync_backup:123456                               
[root@web2 ~]# chmod 600 /etc/rsync.password    密码文件权限设置
[root@web2 ~]# echo "rsync --daemon">>/etc/rc.local 让开机自启动

[root@web2 ~]# vim /etc/rsyncd.conf              默认是没有配置文件,新建上去 
sync server
#sync server conif________________________________start
#created by xiaoyi 00:00 2015-07-24
uid = rsync                          ##连接用户,客户端连接的用户权限
gid = rsync                          ##连接用户
use chroot = no                      ##安全目录
max connections = 2000               ##同时连接的最低用户数
timeout = 600                        ##超时时间
pid file = /var/run/rsyncd.pid       ##pid文件,进程号
lock file = /var/run/rsync.lock      ##锁文件
log file = /var/lob/rsyncd.log       ##日志文件
ignore errors                        ##忽略错误
read only = false                    ##可读写,远程客户端可以读写
list = false                         ##远程客户端不能列表,
hosts allow = 192.168.1.0/24         ##允许的网段
hosts deny = 0.0.0.0/32              ##一般不用====
auth users = rsync_backup            #远程连接的虚拟的用户,
secrets file = /etc/rsync.password   ##存放用户密码的文件


comment = backup server by xiaoyi   ##comment 注释的意思
[backup]                            ##模块,共享一个目录
path = /backup/                     ##共享的目录 
#rsync server config__________________________________end

2.rsyncd.conf配置

sync server
# rsync start
uid = root
gid = root
use chroot = no
max connections = 200
port = 873
timeout = 600

pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log

auth users = ph_rsync
secrets file = /etc/rsync.pas

# /data/wwwroot/
[data]
comment = pinhui001 v2.5
ignore errors
read only = false
hosts allow = 10.1.8.0/24
hosts deny = *
path = /data/wwwroot/
# end

3.客户端配置,rsync客户端

[root@nginx ~]# yum install rsync                     安装服务
[root@nginx ~]# echo "123456">/etc/rsync.password     建立密码文件
[root@nginx ~]# chmod 600 /etc/rsync.password         权限更改
[root@nginx ~]# rsync -avz /etc/ rsync_backup@192.168.1.101::backup --password-file=/etc/rsync.password 客户端文件推送到rsync服务器 

4.防火墙配置

Iptables
-A INPUT –s 192.168.1.2/24 –p tcp –m tcp –dport 873 –j ACCEPT
允许固定的办公室网发布程序传输同步
-A INPUT –s 192.168.1.2/255.255.255.O –p tcp –m tcp –dport 873 –j ACCEPT
 
#.sersync优点:
1.c++编写,可以对临时文件和重复文件操作进行过滤
2.配置简单
3.使用多线程进行同步
4.自带出错处理机制,通过失败队列对出错的文件重新同步,如果还失败,配置若干小时再传
5.sersync自带crotab功能,只需在xml配置文件中开启
6.sersync自带socket与http的协议扩展,可以满足有特殊需求的二次开发
 
#处理机制
inotify--过滤队列--线程组--调用rsync线程---远程服务器
 
1.sersync安装 ,rsync客户端,监控端(10.1.8.10)---把10.1.8.10机器上的目录自动同步到10.1.8.11 rsync服务端
mkdir /server/tools -p
wget https://storage.googleapis.com/google-code-archive-downloads/v2/code.google.com/sersync/sersync2.5.4_64bit_binary_stable_final.tar.gz
tar -zxvf sersync2.5.4_64bit_binary_stable_final.tar.gz -C /usr/local
cd /usr/local
mv GNU-Linux-x86 sersync
2.sersync配置
[root@s sersync]# cd /usr/local/sersync/
[root@s sersync]# mkdir conf bin logs
[root@s sersync]# mv confxml.xml conf
[root@s sersync]# mv sersync2 bin/sersync
[root@s conf]# cp /usr/local/sersync/conf/confxml.xml confxml.xml.bak

3.sersync文件配置,rsync客户端,监控端(10.1.8.10)---把10.1.8.10机器上的目录自动同步到10.1.8.11 rsync服务端

    <?xml version="1.0" encoding="ISO-8859-1"?>
    <headversion="2.5">
    <hosthostip="localhost"port="8008"></host>
    <debugstart="false"/> <--!调试模式是否打开-->
    <fileSystemxfs="false"/>
    <filterstart="true"> <--!文件过滤,定义哪些文件不同步-->    # false不开启过滤功能,true开启功能
    <exclude expression="(.*)/runtime/*"></exclude>          # 定义所以目录runtime下的文件不同步
    <!--<excludeexpression="(.*)\.svn"></exclude>-->
    <!--<excludeexpression="(.*)\.gz"></exclude>-->
    <!--<excludeexpression="^info/*"></exclude>-->
    <!--<excludeexpression="^static/*"></exclude>-->
    </filter>
    <inotify> <--!定义监控哪些事件-->
    <deletestart="true"/>
    <createFolderstart="true"/>
    <createFilestart="false"/>
    <closeWritestart="true"/>
    <moveFromstart="true"/>
    <moveTostart="true"/>
    <attribstart="false"/>
    <modifystart="false"/>
    </inotify>
    <sersync>

    <localpathwatch="/data/www">                     # <--!本地需要推送到rsync服务器的目录-->
    <remoteip="192.168.1.161"name="backup"/>               # <--!需要同步到远端服务器的主机及rsync模块-->
    <!--<remote ip="192.168.8.39" name="tongbu"/>-->
    <!--<remote ip="192.168.8.40" name="tongbu"/>-->
    </localpath>
    <rsync>
    <commonParamsparams="-artuz"/>                     <--!同步的参数 -->
    <authstart="true"users="root"passwordfile="/etc/rsync.pas"/>   # <--!同步认证,同步用户名,同步密码文件-->
    <userDefinedPortstart="false"port="874"/><!-- port=874 -->    <--!同步端口号-->
    <timeoutstart="false"time="100"/><!-- timeout=100 -->       <--!同步超时时间,一般打开-->
    <sshstart="false"/>                           <--!ssh隧道是否开启,一般不开启-->
    </rsync>
    <failLogpath="/usr/local/sersync/logs/rsync_fail_log.sh"timeToExecute="60"/><!--default every 60mins execute once--> <--!传输失败队列,没60分钟执行一次-->
    <crontabstart="false"schedule="600"><!--600mins-->       <--!定时传-->
    <crontabfilterstart="false">
    <excludeexpression="*.php"></exclude>
    <excludeexpression="info/*"></exclude>
    </crontabfilter>
    </crontab>
    <pluginstart="false"name="command"/>
    </sersync>
    <pluginname="command">
    <paramprefix="/bin/sh"suffix=""ignoreError="true"/><!--prefix /opt/tongbu/mmm.sh suffix-->
    <filterstart="false">
    <includeexpression="(.*)\.php"/>
    <includeexpression="(.*)\.sh"/>
    </filter>
    </plugin>
    <pluginname="socket">
    <localpathwatch="/opt/tongbu">
    <deshostip="192.168.138.20"port="8009"/>
    </localpath>
    </plugin>
    <pluginname="refreshCDN">
    <localpathwatch="/data0/htdocs/cms.xoyo.com/site/">
    <cdninfodomainname="ccms.chinacache.com"port="80"username="xxxx"passwd="xxxx"/>
    <sendurlbase="http://pic.xoyo.com/cms"/>
    <regexurlregex="false"match="cms.xoyo.com/site([/a-zA-Z0-9]*).xoyo.com/images"/>
    </localpath>
    </plugin>
    </head>

 

4.配置环境变量
[root@s conf]# echo 'export PATH=$PATH:/usr/local/sersync/bin'>>/etc/profile
[root@s conf]# source /etc/profile
5.启动命令,-r第一次全部同步,-d守护进程,-o指定配置文件
[root@master www]# sersync -r -d -o /usr/local/sersync/conf/confxml.xml
set the system param execute:echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute:echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
option: -r rsync all the local files to the remote servers before the sersync work
option: -d run as a daemon
option: -o config xml name: /usr/local/sersync/conf/confxml.xml
daemon thread num: 10
parse xml config file
XML Parsing error inside file '/usr/local/sersync/conf/confxml.xml'.
Warning: Unmatched end tag
At line 52, column 15.
6.sersync参数说明
sersync -r 第一次全部同步
    -o 指定配置文件
    -n 指定线程总数
    -d 后台服务
    --help 帮助

7.sersync插件(开启插件设置),plugin设置为true时才生效,name为调用的插件,目前支持command refreshCDN socket http四中插件,http插件去除了

<plugin start="true" name="command"/>
 
 
8.sersync压力测试
[root@LB02 ~]# dmidecode | grep "Product Name"
ProductName: IBM System x3650 M4:-[7915K3G]-
ProductName:00MV214
[root@LB02 ~]# grep name /proc/cpuinfo
model name :Intel(R)Xeon(R) CPU E5-2609 v2 @2.50GHz
model name :Intel(R)Xeon(R) CPU E5-2609 v2 @2.50GHz
model name :Intel(R)Xeon(R) CPU E5-2609 v2 @2.50GHz
model name :Intel(R)Xeon(R) CPU E5-2609 v2 @2.50GHz
[root@LB02 ~]# grep MemTotal/proc/meminfo
MemTotal:32688332 kB
tar -zxvf webbench-1.5.tar.gz
cd webbench-1.5
make
make install
/usr/local/bin/webbench -t 100-c 1000 http://blog.xiaoyi.com/

 

#!/bin/sh
count=80
while true
do
for((i=1;i<=$count;i++))
do
/bin/cp 10k.jpg /backup/test/$i/10k_`echo $(date)$RANDOM|md5sum |cut -c 1-8`.jpg
done
sleep 1
for((i=1;i<=$count;i++))
do
/bin/cp 30k.jpg /backup/test/$i/30k_`echo $(date)$RANDOM|md5sum |cut -c 1-8`.jpg
done
sleep 1
for((i=1;i<=$count;i++))
do
/bin/cp 50k.jpg /backup/test/$i/50k`echo $(date)$RANDOM|md5sum |cut -c 1-8`.jpg
done
sleep 1
done

 https://www.cnblogs.com/blsnt/p/9886548.html

posted @ 2016-08-10 20:57  sunmmi  阅读(846)  评论(0编辑  收藏  举报