Redis主从同步及注意事项

一, 基本知识点

1.1 背景环境

为了满足互联网的"三高"要求:高并发,高性能,高可用;而考核运维工作的关键点就是满足高可用,业内可用性的理想是5个9,及全年服务宕机时间低于315秒/5分钟;

1.2 什么是主从

也就是我们所说的主从复制，主机数据更新后根据配置和策略，自动同步到备机的master/slaver机制，Master以写为主，Slave以读为主;
即使其中一台从服务器宕机后,其他服务器依然可以继续提供读服务;
特征: 一个master可以拥有多个slave,一个slave只能对应一个master

1.3 主从复制的作用

  • 读写分离: master写,slave读,提高服务器的读写负载能力;
  • 负载均衡: 基于主从结构,配合读写分离,通过多个slave节点分担数据读取工作,减轻了master节点的压力;
  • 容灾恢复: master将数据以准实时的状态推送给slave,避免因master故障而导致的数据丢失;

1.4 主从复制的大致过程

  • 建立连接阶段: 建立slave到master的连接,使master能够识别slave,并保存slave端口号;
  • 数据同步阶段: 在slave首次连接master后,master与slave进行全量数据同步;全量完成后将复制缓冲区的增量数据再同步给slave;
  • 命令传播阶段: master将接收到的数据变更命令发送给slave,slave接收到指令后执行命令;

1.4.1 建立连接阶段工作流程

1.4.2 数据同步阶段流程

1.4.3 命令传播阶段的要素及问题

  • 命令传播阶段出现了网络故障
    • 网络闪断闪连 影响较小
    • 短时间网络中断 会触发部分(增量)复制
    • 长时间网络中断 会触发全量复制
  • 部分复制的三个核心要素:
    • 服务器运行id(run id):
      • 服务器运行ID时每一台服务器每次运行的身份识别码,一台服务器运行多次可以生成多个运行ID
      • 运行ID是由40位字符串组成,是一个随机的十六进制字符
      • 运行ID被用于服务器间进行数据传输时的身份识别的重要凭证
      • 运行ID在每台服务器启动时自动生成,master在首次连接slave时,会将自己的运行ID发送给slave,slave保存此ID,通过info Server命令,可以查看节点的runid
    • 主服务器的复制积压缓冲区
    • 主从服务器的复制偏移量

1.4.4 数据同步+命令传播阶段工作流程

1.5 复制缓冲区

1.5.1 概念

复制缓冲区,又名复制积压缓冲区,是一个先进先出的队列,用于存储服务器执行过得命令,每次传播命令,master都会将传播的命令记录下来,并存储在复制缓冲区
复制缓冲区默认存储空间为1M,那么当入队元素的数量大于队列长度时,最先入队的元素会被弹出,而新元素会被放入队列;

1.5.2 工作原理

1.5.3 复制偏移量

  • 概念: 描述复制缓冲区中的指令字节位置
  • 分类:
    • master复制偏移量: 记录发送给所有slave的指令字节对应的位置(多个)
    • slave复制偏移量: 记录slave接收master发送过来的指令字节对应的位置(一个)
  • 作用: 同步信息,比对master与slave的差异,当slave断线后,恢复数据使用

二, 配置主从

2.1 Redis环境介绍及服务启动

2.1.1 实验环境

角色 IP Addr Port
master 192.168.2.53 6379
slave: 192.168.21.53 6380

2.1.2 服务启动(redis服务安装略)

[root@localhost ~]# redis-server /myredis/redis6379.conf
[root@localhost ~]# redis-server /myredis/redis6380.conf

2.2 主从配置(配从不配主)

2.2.1 方法一:从库配置：slaveof 主库IP 主库端口

[root@localhost redis-cluster]# redis-cli -p 6380
127.0.0.1:6380> SLAVEOF 192.168.21.53 6379
OK
127.0.0.1:6380> info
# Replication
role:slave
master_host:192.168.21.53
master_port:6379
master_link_status:up

2.2.2 方法二: 修改从库配置文件

[root@localhost ~]# vim /myredis/redis6380.conf
################################# REPLICATION #################################
# slaveof <masterip> <masterport>
slaveof 192.168.21.53 6379

2.3 主从同步过程及注意点

2.3.1 主库同步日志

85769:M 27 Apr 10:29:36.757 * Slave 192.168.21.53:6380 asks for synchronization
85769:M 27 Apr 10:29:36.757 * Full resync requested by slave 192.168.21.53:6381
85769:M 27 Apr 10:29:36.757 * Starting BGSAVE for SYNC with target: disk
85769:M 27 Apr 10:29:36.757 * Background saving started by pid 85928
85928:C 27 Apr 10:29:36.760 * DB saved on disk
85928:C 27 Apr 10:29:36.760 * RDB: 0 MB of memory used by copy-on-write
85769:M 27 Apr 10:29:36.858 * Background saving terminated with success
85769:M 27 Apr 10:29:36.859 * Synchronization with slave 192.168.21.53:6380 succeeded

2.3.2 数据同步阶段master说明

  • 如果master数据量巨大,数据同步阶段应避开流量高峰期,避免造成master阻塞,影响业务正常执行
  • 复制缓冲区大小如果设置不合理,会导致数据溢出;如果全量复制周期太长,进行增量复制时发现数据已经存在丢失的情况,必须进行第二次全量复制,可能导致slave陷入死循环状态;
解决方法:
  • 将复制缓冲区根据自己业务情况进行调整;
  • 默认: repl-backlog-size 1mb
  • master单机内存占用主机内存的比例不应过大,建议使用50%-70%的内存,留下30%-50%的内存用于执行bgslave和创建复制缓冲区;

2.3.3 从库同步日志(日志时间请忽略)

86264:S 27 Apr 10:35:52.587 * SLAVE OF 192.168.21.53:6379 enabled (user request from 'id=2 addr=127.0.0.1:55200 fd=7 name= age=20 idle=0 flags=N db=0 sub=0 psub=0 multi=-1 qbuf=0 qbuf-free=32768 obl=0 oll=0 omem=0 events=r cmd=slaveof')
86264:S 27 Apr 10:35:52.890 * Connecting to MASTER 192.168.21.53:6379
86264:S 27 Apr 10:35:52.890 * MASTER <-> SLAVE sync started
86264:S 27 Apr 10:35:52.890 * Non blocking connect for SYNC fired the event.
86264:S 27 Apr 10:35:52.890 * Master replied to PING, replication can continue...
86264:S 27 Apr 10:35:52.891 * Partial resynchronization not possible (no cached master)
86264:S 27 Apr 10:35:52.891 * Full resync from master: ff5b7ae916dddbc0f6d70f646ad4d608c564dbef:715
86264:S 27 Apr 10:35:52.991 * MASTER <-> SLAVE sync: receiving 75 bytes from master
86264:S 27 Apr 10:35:52.991 * MASTER <-> SLAVE sync: Flushing old data
86264:S 27 Apr 10:35:52.992 * MASTER <-> SLAVE sync: Loading DB in memory
86264:S 27 Apr 10:35:52.992 * MASTER <-> SLAVE sync: Finished with success
86264:S 27 Apr 10:35:52.992 * Background append only file rewriting started by pid 86305
86264:S 27 Apr 10:35:53.071 * AOF rewrite child asks to stop sending diffs.
86305:C 27 Apr 10:35:53.071 * Parent agreed to stop sending diffs. Finalizing AOF...
86305:C 27 Apr 10:35:53.071 * Concatenating 0.00 MB of AOF diff received from parent.
86305:C 27 Apr 10:35:53.072 * SYNC append only file rewrite performed
86305:C 27 Apr 10:35:53.072 * AOF rewrite: 0 MB of memory used by copy-on-write
86264:S 27 Apr 10:35:53.094 * Background AOF rewrite terminated with success
86264:S 27 Apr 10:35:53.094 * Residual parent diff successfully flushed to the rewritten AOF (0.00 MB)
86264:S 27 Apr 10:35:53.094 * Background AOF rewrite finished successfully

2.3.4 数据同步阶段slave说明

  • 为避免slave进行全量和增量复制时服务器响应阻塞或数据不同步,建议关闭此期间的对外服务(slave-serve-stale-data no)
  • 数据同步阶段,master发送给slave信息可以理解成master是slave的一个客户端,主动向slave发送命令
  • 多个slave同时对master请求数据同步时,master发送的RDB文件增多,会对网络造成巨大冲击;因此数据同步需要根据业务需求进行错峰操作;

参考黑马程序员redis教程

posted on 2021-04-27 10:16  Mr_星火  阅读(383)  评论(0)  编辑  收藏  举报
Copyright © 2024 Mr_星火
Powered by .NET 8.0 on Kubernetes Powered by: 博客园