rsync 同步传输备份
第一章 Rsync基本概述
rsync 是一款开源的备份工具，可以在不同主机之间进行同步，可实现全量备份与增量备份，因此非常适合用于架构集中式备份或异地备份等应用。 rsync 官方地址： 传送门 [http://rsync.samba.org](https://links.jianshu.com/go?to=http%3A%2F%2Frsync.samba.org) rsync 监听端口： 873 rsync 运行模式： C/S
第二章 Rsync三种模式
1. 本地模式
[root@backup ~]# echo 123 > test.txt [root@backup ~]# cat test.txt [root@backup ~]# rsync test.txt /tmp/ [root@backup ~]# cat /tmp/test.txt
2. 远程模式
下载方式:
rsync -avz root@10.0.1.31:/root/test.txt /tmp
上传方式：
rsync -avz oldzhang.txt root@10.0.1.31:/tmp
拉取目录：
rsync -avz root@172.16.1.31:/etc/hostname ./ #拉取远程文件 rsync -avz root@172.16.1.31:/root/ /backup/ #拉取远程目录下的所有文件 rsync -avz root@172.16.1.31:/root /backup/ #拉取远程目录以及目录下的所有文件
3. 后台服务模式
Rsync 借助 SSH 协议同步数据存在的缺陷 1.使用系统用户（不安全） 2.使用普通用户（会导致权限不足情况） 3.守护进程传输方式: rsync 自身非常重要的功能(不使用系统用户，更加安全)
4. 命令参数解释
rsync #命令 [OPTION...] #选项 SRC... #远程主机模块(不是目录) [USER@] #远程主机用户(虚拟用户) HOST:: #远程主机地址 [DEST] #将远程主机模块备份至本地什么位置 -a #归档模式传输, 等于-tropgDl -v #详细模式输出, 打印速率, 文件数量等 -z #传输时进行压缩以提高效率 -r #递归传输目录及子目录，即目录下得所有目录都同样传输。 -t #保持文件时间信息 -o #保持文件属主信息 -p #保持文件权限 -g #保持文件属组信息 -l #保留软连接 -P #显示同步的过程及传输时的进度等信息 -D #保持设备文件信息 -L #保留软连接指向的目标文件 -e #使用的信道协议,指定替代 rsh 的 shell 程序 --exclude=PATTERN #指定排除不需要传输的文件模式 --exclude-from=file #文件名所在的目录文件 --bwlimit=100 #限速传输 --partial #断点续传 --delete #让目标目录和源目录数据保持一致
第四章 后台服务模式-服务端配置
1. 安装rsync
yum -y install rsync -y
2. 修改配置文件
[root@backup /server/scripts]# cat /etc/rsyncd.conf uid = www gid = www port = 873 fake super = yes use chroot = no max connections = 200 timeout = 600 ignore errors read only = false list = false auth users = rsync_backup secrets file = /etc/rsync.passwd log file = /var/log/rsyncd.log ##################################### [backup] comment = welcome to oldboyedu backup! path = /backup [data] path = /data
3. 配置文件解释
注意！以下配置只是为了理解rsync配置参数，配置文件中不要带有#或者中文，不然启动会报错
uid = www # 运行进程的用户 gid = www # 运行进程的用户组 port = 873 # 监听端口 fake super = yes # 无需让 rsync 以 root 身份运行，允许接收文件的完整属性 use chroot = no # 禁锢推送的数据至某个目录, 不允许跳出该目录 max connections = 200 # 最大连接数 timeout = 600 # 超时时间 ignore errors # 忽略错误信息 read only = false # 对备份数据可读写 list = false # 不允许查看模块信息 auth users = rsync_backup # 定义虚拟用户，作为连接认证用户 secrets file = /etc/rsync.passwd # 定义 rsync 服务用户连接认证密码文件路径 [backup] # 定义模块信息 comment = commit # 模块注释信息 path = /backup # 定义接收备份数据目录
4. 创建用户以及数据目录
useradd -M -s /sbin/nologin www -u 666 mkdir /backup chown -R www.www /backup/
5. 创建虚拟用户密码文件并授权
echo "rsync_backup:oldboy" >/etc/rsync.passwd chmod 600 /etc/rsync.passwd
6. 加入开机启动
systemctl start rsyncd
systemctl enable rsyncd
7.检查端口是否存在
netstat -lntup|grep 873
第五章 后台服务模式-客户端配置
1. 安装
yum -y install rsync -y
2. 配置密码文件及授权
1.使用密码文件
yum install rsync -y echo "oldboy" > /etc/rsync.pass chmod 600 /etc/rsync.pass
2.使用rsync变量-脚本中使用-推荐这种
export RSYNC_PASSWORD=oldboy
第六章 实战内容
1. 客户端推送 backup 目录下所有内容至 Rsync 服务端
export RSYNC_PASSWORD=oldboy rsync -avz /backup/ rsync_backup@172.16.1.41::backup
2. 客户端拉取 Rsync 服务端 backup 模块数据至本地客户端的 /backup 目录
export RSYNC_PASSWORD=oldboy rsync -avz rsync_backup@172.16.1.41::backup /backup/
3. Rsync 实现数据无差异同步
#拉取远端数据：远端与本地保持一致,远端没有本地有会被删除, 造成客户端数据丢失 export RSYNC_PASSWORD=oldboy rsync -avz --delete rsync_backup@172.16.1.41::backup /data/ #推送数据至远端：本地与远端保持一致, 本地没有远端会被删除, 造成服务器端数据丢失 export RSYNC_PASSWORD=oldboy rsync -avz --delete /data/ rsync_backup@172.16.1.41::backup
4. Rsync 的 Limit 限速
#企业案例: 某 DBA 使用 rsync 拉取备份数据时，由于文件过大导致内部交换机带宽被沾满，导致用户的请求无法响应 export RSYNC_PASSWORD=oldboy rsync -avz --bwlimit=1 rsync_backup@172.16.1.41::backup /data/
第七章 全网备份案例
1. 客户端需求
客户端需求： 1.客户端 每天凌晨1点在服务器本地打包备份(系统配置文件\日志文件\其他目录\应用配置等文件) 2.客户端备份的数据必须存放至以主机名*ip地址*当前时间命名的目录中 3.客户端最后通过rsync推送本地已经打包好的备份文件至backup服务器 4.客户端服务器本地保留最近7天的数据，避免浪费磁盘空间
2. 任务 拆解
1.客户端 每天凌晨1点在服务器本地打包备份(系统配置文件\日志文件\其他目录\应用配置等文件)
系统配置文件:
/etc/fstab
/etc/passwd
日志文件:
/var/log/messages /var/log/secure
打包压缩:
cd / && tar zcvf /backup/sys.tar.gz etc/fstab etc/passwd cd / && tar zcvf /backup/log.tar.gz var/log/messages var/log/secure
2.客户端备份的数据必须存放至以主机名ip地址当前时间命名的目录中命名要求:
nfs_172.16.1.31_2019-07-17
主机名:
hostname
ip地址:
ifconfig eth1|awk 'NR==2{print $2}'
时间:
ifconfig eth1|awk 'NR==2{print $2}'
拼接在一起:
[root@nfs ~]# echo "$(hostname)_$(ifconfig eth1|awk 'NR==2{print $2}')_$(date +%F)" nfs_172.16.1.31_2019-10-7
3.客户端最后通过rsync推送本地已经打包好的备份文件至backup服务器的/backup
rsync -avzP /backup/ oldzhang@172.16.1.41::backup
4.创建测试数据
[root@nfs /backup]# cat date.sh #!/bin/bash for i in {1..30} do Backup="/backup/$(hostname)_$(ifconfig eth1|awk 'NR==2{print $2}')_$(date +%F)" date -s 2019/07/${i} mkdir -p ${Backup} cd / && tar zcvf ${Backup}/sys.tar.gz etc/fstab etc/passwd cd / && tar zcvf ${Backup}/log.tar.gz var/log/messages var/log/secure done
5.客户端服务器本地保留最近7天的数据，避免浪费磁盘空间
find /backup/ -mtime +7 |xargs rm -rf
6.调试脚本参数
bash -x xxx.sh
7.最终脚本
[root@nfs /server/scripts]# cat push_rsync.sh #!/bin/bash PATH="/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin" BACKUP=/backup HOST=$(hostname) TIME=$(date +%F) IP=$(ifconfig eth1|awk 'NR==2{print $2}') DEST=${HOST}_${IP}_${TIME} #1.创建目录 mkdir ${BACKUP}/${DEST} -p #2.打包数据 cd / && tar zcvf ${BACKUP}/${DEST}/sys.tar.gz etc/fstab etc/passwd cd / && tar zcvf ${BACKUP}/${DEST}/log.tar.gz var/log/messages var/log/secure #3.推送 export RSYNC_PASSWORD=oldboy rsync -avzP ${BACKUP}/ oldzhang@172.16.1.41::backup #4.删除7天前文件 find ${BACKUP}/ -mtime +7 |xargs rm -rf
8.注意踩坑
我们的备份脚本最终会以定时任务的形式实现，而定时任务能识别的PATH变量有限，所以最好在脚本里添加PATH变量，或者脚本里命令写绝对路径。
1.服务端需求：
1.服务端部署 rsync，用于接收客户端推送过来的备份数据 2.服务端需要每天校验客户端推送过来的数据是否完整 3.服务端需要每天校验的结果通知给管理员 4.服务端仅保留 6 个月的备份数据,其余的全部删除 注意：所有服务器的备份目录必须都为/backup
2.服务端步骤：
服务端需要每天校验客户端推送过来的数据是否完整
1.要在客户端做
2.做一个标记,贴一个防撕贴
#第一种 cd nfs_172.16.1.31_2019-07-23/ && md5sum log.tar.gz > md5.txt #第二种 md5sum log.tar.gz sys.tar.gz >md5.txt #第三种 md5sum *.tar.gz >md5.txt
实现命令:
1.客户端增加md5校验的步骤:
md5sum ${BACKUP}/${DEST}/*.tar.gz > ${BACKUP}/${DEST}/md5.txt
2.服务端校验命令:
find /backup/*_$(date +%F) -name "md5.txt"|xargs md5sum -c
服务端需要每天邮件校验的结果通知给管理员
1.安装配置mailx:
yum install mailx -y
2.邮件配置文件
[root@backup /server/scripts]# cat /etc/mail.rc set from=1003451503@qq.com set smtp=smtps://smtp.qq.com:465 set smtp-auth-user=1003451503@qq.com set smtp-auth-password=xxxxxxxx set smtp-auth=login set ssl-verify=ignore set nss-config-dir=/etc/pki/nssdb/
3.服务端生成校验结果文件:
find /backup/*_$(date +%F) -name "md5.txt"|xargs md5sum -c > /backup/check.txt
4.校验发送命令:
mail -s "check-rsync-$(date +%F)" 526195417@qq.com < /backup/check.txt
第八章 配置文件汇总
1. 客户端脚本：
[root@nfs01 /server/scripts]# cat push_rsync.sh #!/bin/bash #1.定义变量 PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin Host=$(hostname) Addr=$(ifconfig eth1|awk 'NR==2{print $2}') Date=$(date +%F) Dest=${Host}_${Addr}_${Date} Path=/backup #2.创建备份目录 [ -d $Path/$Dest ] || mkdir -p $Path/$Dest #3.备份对应的文件 cd / && \ [ -f $Path/$Dest/system.tar.gz ] || tar czf $Path/$Dest/system.tar.gz etc/fstab etc/rsyncd.conf && \ [ -f $Path/$Dest/log.tar.gz ] || tar czf $Path/$Dest/log.tar.gz var/log/messages var/log/secure && \ #4.携带 md5 验证信息 [ -f $Path/$Dest/flag ] || md5sum $Path/$Dest/*.tar.gz >$Path/$Dest/flag_$Date #5.推送本地数据至备份服务器 export RSYNC_PASSWORD=oldboy rsync -avz $Path/ rsync_backup@172.16.1.41::backup #6.本地保留最近 7 天的数据 find $Path/ -type d -mtime +7|xargs rm -rf
2. 服务端脚本：
[root@backup /server/scripts]# cat check_backup.sh #!/bin/bash #1.定义全局的变量 export PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin #2.定义局部变量 Path=/backup Date=$(date +%F) #3.查看 flag 文件,并对该文件进行校验, 然后将校验的结果保存至 result_时间 find $Path/ -type f -name "flag_$Date"|xargs md5sum -c >$Path/result_${Date} #4.将校验的结果发送邮件给管理员 mail -s "Rsync Backup $Date" 526195417@qq.com <$Path/result_${Date} #5.删除超过 7 天的校验结果文件, 删除超过 180 天的备份数据文件 find $Path/ -type f -name "result*" -mtime +7|xargs rm -f find $Path/ -type d -mtime +180|xargs rm -rf
8.3 服务端rsync配置文件
[root@backup /server/scripts]# cat /etc/rsyncd.conf uid = www gid = www port = 873 fake super = yes use chroot = no max connections = 200 timeout = 600 ignore errors read only = false list = false auth users = rsync_backup secrets file = /etc/rsync.passwd log file = /var/log/rsyncd.log ##################################### [backup] comment = welcome to oldboyedu backup! path = /backup [data] path = /data
第九章： 报错
报错1：验证失败 1.检查密码文件权限是否为600 2.检查配置文件用户属主是否为root,不需要改成普通用户 3.密码文件是否写错
浙公网安备 33010602011771号