AIX系统海量小文件备份到CentOS7

参考:https://www.cnblogs.com/evan-blog/p/10507300.html  --Rsync同步工具

   ftp://ftp.software.ibm.com/aix/freeSoftware/aixtoolbox/  --IBM官网AIX系统软件包下载地址

   ftp://www.oss4aix.org/RPMS/   --AIX系统软件包下载地址(第三方)

   https://www.cnblogs.com/WayneZeng/p/9290737.html  --rsync定时同步任务设置参考A

   https://www.cnblogs.com/Sungeek/p/9561833.html   --rsync定时同步任务设置参考B

     https://www.52help.net/htips/337.html  --为什么复制很多个大量小文件比复制总体积相同的单个大文件要慢很多

     https://www.cnblogs.com/clsn/p/7744858.html  --后台运行配置

1、客户端服务器CentOS7(备份服务器)安装rsync,配置

  1)、检测rsync是否已安装

  #rpm -qa|grep rsync

  2)、CentOS7内网安装rsync

  官网下载rsync-3.1.2-10.el7.X86_64.rpm,拷贝到服务器,执行安装:yum install rsync-3.1.2-10.el7.X86_64.rpm

  3)、开始备份时执行命令

  #rsync -avzP root@86.100.*.*::szimg/20190528 /imgbak2/

  -a:归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD;-v:输出详细模式;-z:传输过程进行文件压缩;-P:显示传输进度

  4)、后台启动rsync同步

  #nohup ./rsyncd.sh &

  或者

  #setsid 命令

2、服务端服务器AIX5.3(源文件服务器)安装rsync,配置

  1)、检测rsync是否已安装

  #rpm -qa|grep rsync

  2)、安装rsync

  登录root账号,按顺序安装四个包
  #rpm -ivh gettext-0.17-1.aix5.1.ppc.rpm --nodeps //--nodeps表示不检查依赖关系
  #rpm -ivh libiconv-1.13.1-2.aix5.1.ppc.rpm
  #rpm -ivh popt-1.16-1.aix5.1.ppc.rpm
  #rpm -ivh rsync-3.0.6-1.aix5.3.ppc.rpm

  ~拷贝gettext包进行安装时总是安装不上,查了很久网上资料才找到原因,ftp工具传输到aix系统服务器时文件损坏,后来用命令传输、安装才行;

  ~使用命令传文件到linux服务器方法:

  进入cmd命令行窗口:

  >ftp 86.100.*.*

  >输入账号

  >输入密码

  >bin

  >cd 目标路径

  >cd 源路径

  >put 源路径+文件 目标路径(待确认)

  3)、安装完成后配置rsyncd.conf文件

  该配置文件系统默认不存在,需要自行添加,

  #vi /etc/rsyncd.conf

配置文件内容:

#uid=root
#gid=system
max connections=4    #最大连接数
#use chroot=no
port=873                    #指定端口
log file=/tmp/log/rsyncd.log   #rsync服务日志路径
pid file=/tmp/run/rsyncd.pid  #进程id存放路径
lock file=/tmp/run/rsyncd.lock  #进程锁存放路径
#auth users=root
#secrets file=/etc/rsyncd.pwd  #指定交互密码文件

[szimg]      #模块名称
path=/imgbak2  #需备份文件目录
#comment = backup mail 
ignore errors    
read only = yes   #只读
list = no
uid=root
gid=system
auth users = backup
secrets file=/etc/rsyncd.pwd
hosts allow=86.100.*.*    #指定访问ip

  4)、新建交互加密文件(必须所属root用户,并是600权限)

  #vi /etc/rsyncd.passwd

  backup:1111

  5)、启动守护进程,等待客户端服务器连接

  #rsync --daemon

  6)、重启rsync服务

  #kill -9 进程id

  #rsync --daemon

  有时kill掉进程后,重新启动报错,需要到相关目录下删掉rsyncd.pid和rsyncd.lock

3、设置定时任务

  将执行命令写入任务表中,crontab -e编辑任务表,详细关于crontab,开头有相关链接;

4、遇到的问题

  4.1、aix5.3系统下安装rsync的依赖包gettext时,安装不了,后来才发现是ftp工具上传rpm包文件损坏导致,使用cmd命令传输、安装解决;

  4.2、备份多级目录文件时,配置文件中path=/imgbak2/20190528,备份命令:rsync -avzP --bwlimit=100 backup@86.100.*.*::szimg /imgbak2/   同步备份过来的目录中无法创建20190528这个目录(文件imgbak2/20190528/a/b.tif),同步后备份路径为imgbak2/a/b.fit;而后改成配置文件path=/imgbak2,备份命令:rsync -avzP root@86.100.*.*::szimg/20190528 /imgbak2/,同步备份路径为imgbak2/20190528/a/b.tif;

  4.3、待备份文件权限属主为szimg:staff,使用root权限执行备份命令,同步过来后文件属主变成203:bin?

  备份服务器未创建szimg用户,在创建szimg用户后,客户端用szimg用户账号执行备份命令,同步过来的文件为szimg:szimg,其它属性不变;

posted @ 2020-08-04 21:19  李大风  阅读(72)  评论(0)    收藏  举报