13、哨兵模式

1、sentinel哨兵模式介绍
  • sentinel(哨兵)是用于监控redis集群中master状态的工具，是redis的高可用性解决方案。sentinel系统可以监视一个或者多个master服务，以及这些master服务的所有从服务；当某个master服务下线时，自动将该master下的某个从服务器升级为master服务替代已下线的master服务继续处理请求。
  • sentinel可以让redis实现主从复制，当一个集群中的master失效之后，sentinel可以选举出一个新的master用于自动接替master的工作，集群中的其他redis服务器自动指向新的master同步数据。一般建议sentinel采取奇数台，防止某一台sentinel无法连接到master导致误切换。其结构如下：
  • redis-sentinel是redis官方推荐的高可用性(HA)解决方案，当用redis做master-slave的高可用方案时，假如master宕机了，redis本身(包括它的很多客户端)都没有实现自动进行主备切换，而redis-sentinel本身也是一个独立运行的进程，它能监控多个master-slave集群，发现master宕机后能进行自动切换。sentinel由一个或多个sentinel实例组成的sentinel系统，可以监视任意多个主服务器，以及这些主服务器属下的所有从服务器，并在被监视的主服务器进入下线状态时，自动将下线主服务器属下的某个从服务器升级为新的主服务器。
  • 如下图所示：
sentinel哨兵模式详细介绍_Java_02
  • 在server1掉线后：
sentinel哨兵模式详细介绍_Java_03
  • 升级server2为新的主服务器：
sentinel哨兵模式详细介绍_Java_04
2、sentinel状态持久化：
    • sentinel的状态会被持久化地写入sentinel的配置文件中。每次当收到一个新的配置时，或者新创建一个配置时，配置会被持久化到硬盘中，并带上配置的版本戳。这意味着，可以安全的停止和重启sentinel进程。
3、sentinel的作用
  • 监控
    • 不断的检查master和slave是否正常运行
    • master存活检测、master与slave运行情况检测
  • 通知(提醒)
    • 当被监控的服务器出现问题时，向其他(哨兵间、客户端)发送通知
  • 自动故障转移
    • 断开master与slave连接，选取一个slave作为master，将其他slave连接到新的master，并告知客户端新的服务器地址
4、sentinel的分布式特性
  • 很显然，只使用单个sentinel进程来监控redis集群是不可靠的，当sentinel进程宕掉后(sentinel本身也有单点问题，single-point-of-failure)整个集群系统将无法按照预期的方式运行。所以有必要将sentinel集群，这样有几个好处：
    • 即使有一些sentinel进程宕掉了，依然可以进行redis集群的主备切换
    • 如果只有一个sentinel进程，如果这个进程运行出错或者是网络堵塞，那么将无法实现redis集群的主备切换(单点问题)
    • 如果多个sentinel，redis的客户端可以随意地连接任意一个sentinel来获得关于redis集群的信息
5、注意
  • 哨兵也是一台redis服务器，只是不提供数据服务
  • 通常哨兵配置数量为单数
6、配置哨兵
  • 配置一拖二的主从结构
  • 配置三个哨兵(配置相同，端口不同)
    • sentinel auth-pass <服务器名称> <password>
      • sentinel auth-pass mymaster itcast
      • 连接服务器口令
    • sentinel down-after-milliseconds <自定义服务名称><主机地址><端口><主从服务器总量>
      • sentinel monitor mymaster 192.168.194.131 6381 1
      • 设置哨兵监听的主服务器信息，最后的参数决定了最终参与选举的服务器数量（-1）
    • sentinel down-after-milliseconds <服务名称><毫秒数（整数）>
      • sentinel down-after-milliseconds mymaster 3000
      • 指定哨兵在监控Redis服务时，判定服务器挂掉的时间周期，默认30秒（30000），也是主从切换的启动条件之一
    • sentinel parallel-syncs <服务名称><服务器数（整数）>
      • sentinel parallel-syncs mymaster 1
      • 指定同时进行主从的slave数量，数值越大，要求网络资源越高，要求约小，同步时间约长
    • sentinel failover-timeout <服务名称><毫秒数（整数）>
      • sentinel failover-timeout mymaster 9000
      • 指定出现故障后，故障切换的最大超时时间，超过该值，认定切换失败，默认3分钟
    • sentinel notification-script <服务名称><脚本路径>
      • 服务器无法正常联通时，设定的执行脚本，通常调试使用
  • 启动哨兵
redis-sentinel sentinel- 端口号 .conf
7、哨兵工作原理
  • 阶段1：监控阶段
    • 监控步骤：(先启动主从服务器再启动哨兵)
      • 启动哨兵，连接上master之后发送info指令，获取master的信息
      • 哨兵和master之间建立cmd连接方便发送指令，同时在哨兵端保存了所有信息包括master/slaves/sentinels，在master端也保存了所有信息包括master/slaves/sentinels
      • 哨兵根据获得的slave信息去连接每一个slave，发送info指令获取slave详细信息
      • 启动第二个哨兵也会自动去连接master，发送info指令，会发现master已经和其他哨兵连接过同时建立cmd连接，此时哨兵端保存信息包括master/slave/sentinels（包括之前连接的哨兵），两个哨兵之间也会建立连接
      • 当第三个哨兵启动的时候，也会进行之前的操作

  • 阶段二：通知阶段
  • 阶段三：故障转移阶段
    • 故障转移流程
      • 其中一个sentinel向master发送信息，一段时间内master没有回应，标记状态SRI_S_DOWN(主观下线)
      • sentinel在自己内网中告诉其他哨兵，master挂了。其他哨兵也去连接master，半数以上的哨兵发现master挂了，那就是真的挂了，状态改成SRI_O_DOWN（客观下线）
      • 所有的哨兵推选出一个哨兵领导，哨兵根据自己的原则从所有的slave中推选出新的master，其他的slave切换新的master，故障恢复后原master作为slave

  • 哨兵推选新的master的原则
    • 哨兵挑选出新的master原则
      • 在线的
      • 响应慢的
      • 与原master断开时间久的
      • 优先原则：
        • 优先级
        • offset
        • runid
    • 发送指令(sentinel)
      • 向新的master发送slaveof no one
      • 向其他slave发送slaveof新的masterIP端口
8、sentinel工作方式(每个sentinel实例都执行的定时任务)
  • 每个sentinel以每秒钟一次的频率向它所知的master，slave以及其他sentinel实例发送一个ping命令
    • 如果一个实例(instance)距离最后一次有效回复ping命令的时间超过own-after-milliseconds选项所指定的值，则这个实例会被sentinel标记为主观下线(sdown)
    • 如果一个master被标记为主管下线(sdown)，则正在监视这个master的所有sentinel要以每秒一次的频率确认master的确进入了主观下线状态
    • 当有足够数量的sentinel(2/n+1个)在指定的时间范围内确认master的确进入了主观下线状态，则master会被标记为客观下线(odiwn)
  • 在一般情况下，每个sentinel会以每10s一次的频率向它已知的所有master、slave发送info命令
    • 当master被sentinel标记为客观下线时，sentinel向下线的master的所有slave发送info命令的频率会从10s一次改为每秒1次
    • 若没有足够数量的sentinel同意master已经下线，master的客观下线状态就会被移除。若master重新向sentinel的ping命令返回有效回复，master的主观下线状态就会被移除
9、三个定时任务（sentinel在内部有3个定时任务）
  • 每10s每个sentinel会对master和slave执行info命令，这个任务达到两个目的：
    • 发现slave节点
    • 确认主从关系
  • 每2s每个sentinel通过master节点的channel交换信息(pub/sub)。master节点有一个发布订阅的频道(__sentinel__:hello)。sentinel节点通过__sentinel__:hello频道进行信息交换(对节点的"看法"和自身的信息)。达成共识。
  • 每1s每个sentinel对其他sentinel和redis节点进行ping操作(相互监控)，这个其实就是一个心跳检测，是失败判定的依据。
10、什么是主观下线？
  • 所谓主观下线(Subjectively Down，简称SDOWN)指的是单个sentinel实例对服务器做出的下线判断，即单个sentinel认为某个服务下线(有可能是接收不到订阅，之间的网络不通等等原因)
  • 主观下线就是说如果服务器在down-after-milliseconds给定的毫秒数之内，没有返回sentinel发送的ping命令的回复，或者返回一个错误，那么sentinel将这个服务器标记为主观下线(sdown)
  • sentinel会以每秒一次的频率向所有与其建立了命令连接的实例(naster、slave、其他sentinel)发送ping命令，通过判断ping回复是有效回复还是无效回复来判断实例是否在线
  • sentinel配置文件中的down-after-milliseconds设置了判断主观下线的时间长度，如果实例在down-after-milliseconds毫秒内，返回的都是无效回复，那么Sentinel会认为该实例已(主观)下线，修改其flags状态为SRI_S_DOWN。如果多个sentinel监视一个服务，有可能存在多个down-after-milliseconds配置不同，这个在实际生产中要注意。
11、什么是客观下线？
  • 客观下线(Objectively DOWN，简称ODOWN)指的是多个sentinel实例在对同一个服务器做出SDOWN判断，并且通过sentinel is-master-down-by-addr命令互相交流以后，得出的服务器下线判断，然后开启failover。
  • 客观下线就是说只有在足够数量(2/n+1)的sentinel都将一个服务器标记为主观下线以后，服务器才会被标记为客观下线(ODOWN)
  • 只有当master被认为客观下线时，才会发生故障迁移。
  • 当sentinel监视的某个服务主观下线后，sentinel会询问其他监视该服务的sentinel，看它们是否也认为该服务主观下线，接收到足够数量(这个值可以配置)的sentinel判断为主观下线，即认为该服务客观下线，并对其做故障转移操作。
  • sentinel通过发送sentinel is-master-down-by-addr ip port current_epoch runid 来询问其他sentinel是否同意服务下线
    • ip：主观下线的服务ip
    • port：主观下线的服务端口
    • runid：为*表示检测客观下线，为sentinel的runid则用于选举领头的sentinel
  • 一个sentinel接收到另一个sentinel发来的is-master-down-by-addr后，提取参数，根据ip和端口，检测该服务是否主观下线，并且回复is-master-down-by-addr，回复包含三个参数：
    • down_state：
      • 1：已下线
      • 0：未下线
    • leader_runid：领头sentinel id
    • leader_epoch：领头sentinel纪元
  • sentinel接收到回复后，根据配置设置的下线最小数量，达到这个值，即认为该服务客观下线。
  • 客观下线条件只适用于主服务器(master)，对于任何其他类型的redis实例，sentinel再将它们判断为下线前不需要进行协商，所以从服务器(slave)或者其他sentinel永远不会达到客观下线条件。只要一个sentinel发现某个master服务器进入了客观下线状态，这个sentinel就可能被其他sentinel推选出，并对失效的master服务器执行自动故障迁移操作。
  • 在redis-sentinel的conf文件里有这么两个配置：
    • sentinel monitor <masterName> <ip> <port> <quorum>
      • masterName：是多某个master+slave组合的一个区分标识(一套sentinel可以监听多套master+slave这样的组合的)
      • ip和port：master节点的ip和端口号
      • quorum：这个参数是进行客观下线的一个依据，意思是至少有quorum个sentinel主观的认为这个master有故障，才会对这个master进行下线以及故障转移操作。因为有的时候，某个sentinel节点可能因为自身网络原因，导致无法连接master，而此时master并没有出现故障，所以这就需要多个sentinel都一致认为该master有问题，才可以进行下一步操作，这就保证了公平性和高可用。
    • sentinel down-after-milliseconds <masterName> <timeout>
      • 这个配置其实就是进行主观下线的一个依据，timeout是一个毫秒值，表示如果这台sentinel超过timeout这个时间都无法连通master包括slave(slave不需要客观下线，因此不需要故障转移)的话，就会主观的认为该master已经下线(实际下线需要客观下线的判断通过才会下线)
  • 那么，多个sentinel之间是如何达到共识的呢？
    • 这就是依赖于前面所说的第二个定时任务，某个sentinel先将master节点进行一个主观下线，然后会将这个判断通过sentinel is-master-down-by-addr这个命令问对应的节点是否也同样认为该addr的master节点做客观下线。最后当达成这一共识的sentinel个数达到前面说的quorum设置的这个值时，就会对该master节点下线进行故障转移。quorum这个值一般设置为sentinel个数的二分之一+1。
12、配置版本号
  •  为什么要先获得大多数sentinel的认可时才能真正去执行failover(故障转移)呢？
    • 当一个sentinel被授权后，它将会获得宕掉的master的一份最新配置版本号，当failover执行结束以后，这个版本号将会被用于最新的配置。因为大多数sentinel都已经知道该版本号已经被要执行failover的sentinel拿走了，所以其他的sentinel都不能再去使用这个版本号。这意味着，每次failover都会附带有一个独一无二的版本号。
    • sentinel集群都遵守一个规则：如果sentinel A推荐sentinel B去执行failover，B会等待一段时间后，自行再次去对同一个master执行failover，这个等待的时间是通过failover-timeout配置项去配置的。从这个规则可以看出，sentinel集群中的sentinel不会在同一时刻并发去failover同一个master，第一个进行failover的sentinel如果失败了，另外一个将会在一定时间内进行重新进行failover，以此类推。
    • redis sentinel保证了活跃性：如果大多数sentinel能够互相通信，最终将会有一个被授权去进行failover
    • redis centinel也保证了安全性：每个视图去failover同一个master的sentinel都会得到一个独一无二的版本号
13、配置传播
  • 一旦一个sentinel成功地对一个master进行了failover，它将会把关于master的最新配置通过广播形式通知其他sentinel，其他的sentinel则更新对应master的配置。
  • 一个failover要想被成功实行，sentinel必须能够向选为master的slave发送 slaveof no one（将使得这个从属服务器关闭复制功能，并从从属服务器转变回主服务器，原来同步所得的数据集不会被丢弃）命令，然后能够通过info命令查看新master的配置信息
  • 当将一个slave选举为master并发送slaveof no one后，即使其他的slave还没针对新master重新配置自己，failover也被任务是成功了的。然后所有sentinels将会发布新的配置信息。
  • 新的配置信息在集群中互相传播的方式，就是为什么我们需要当一个sentinel进行failover时必须被授权一个版本号的原因。
  • 每个sentinel使用"发布/订阅"的方式持续地传播master的配置版本信息，配置传播的"发布/订阅"的管道是__sentinel__:hello
  • 因为每个配置都有一个版本号，所以以版本号最大的那个为标准。
  • 举个例子：
    • 假设有一个名为mymaster的地址为192.168.10.202:6379。一开始，集群中所有的sentinel都知道这个地址，于是为mymaster的配置打上版本号1,。一段时间后mymaster死了，有一个sentinel被授权用版本号2对其进行failover。如果failover成功了，假设地址改为了192.168.10.202:9000，此时配置的版本号为2，进行failover的sentinel会将新配置广播给其他的sentinel，由于其他sentinel维护的版本号为1，发现新配置的版本号为2时，版本号变大了，说明配置更新了，于是就会采用最新的版本号为2的配置。这意味着sentinel集群保证了第二种活跃性：一个能够互相通信的sentinel集群最终会采用版本号最高且相同的配置。
14、sentinel的"仲裁会"
  • 前面我们谈到，当一个master被sentinel集群监控时，需要为它指定一个参数，这个参数指定了当需要判决master为不可用，并且进行failover时，所需要的sentinel数量，可以称这个参数为票数。
  • 不过，当failover主备切换真正被触发后，failover并不会马上进行，还需要sentinel中的大多数sentinel授权后才可以进行failover。
  • 当ODOWN时，failover被触发。failover一旦被触发，尝试去进行failover的sentinel会去获得“大多数”sentinel的授权（如果票数比大多数还要大的时候，则询问更多的sentinel)这个区别看起来很微妙，但是很容易理解和使用。例如，集群中有5个sentinel，票数被设置为2，当2个sentinel认为一个master已经不可用了以后，将会触发failover，但是，进行failover的那个sentinel必须先获得至少3个sentinel的授权才可以实行failover。如果票数被设置为5，要达到ODOWN状态，必须所有5个sentinel都主观认为master为不可用，要进行failover，那么得获得所有5个sentinel的授权。
15、选举领头sentinel(即领导者选举)
  • 一个redis服务被判断为客观下线时，多个监视该服务的sentinel协商，选举一个领头sentinel，对该redis服务进行故障转移操作。选举领头sentinel遵循以下规则：
    • 所有的sentinel都有公平被选举成领头的资格。
    • 所有的sentinel都有且只有一次将某个sentinel选举成领头的机会（在一轮选举中），一旦选举某个sentinel为领头，不能更改。
    • sentinel设置领头sentinel是先到先得，一旦当前sentinel设置了领头sentinel，以后要求设置sentinel为领头请求都会被拒绝。
    • 每个发现服务客观下线的sentinel，都会要求其他sentinel将自己设置成领头。
    • 当一个sentinel（源sentinel）向另一个sentinel（目sentinel）发送is-master-down-by-addr ip port current_epoch runid命令的时候，runid参数不是*，而是sentinel运行id，就表示源sentinel要求目标sentinel选举其为领头。
    • 源sentinel会检查目标sentinel对其要求设置成领头的回复，如果回复的leader_runid和leader_epoch为源sentinel，表示目标sentinel同意将源sentinel设置成领头。
    • 如果某个sentinel被半数以上的sentinel设置成领头，那么该sentinel既为领头。
    • 如果在限定时间内，没有选举出领头sentinel，暂定一段时间，再选举
  • 为什么要选领导者？
    • 简单来说，就是因为只能有一个sentinel节点去完成故障转移。
    • sentinel is-master-down-by-addr这个命令有两个作用，一是确认下线判定，二是进行领导者选举。
    • 选举过程：
      • 1）每个做主观下线的sentinel节点向其他sentinel节点发送上面那条命令，要求将它设置为领导者。
      • 2）收到命令的sentinel节点如果还没有同意过其他的sentinel发送的命令（还未投过票），那么就会同意，否则拒绝。
      • 3）如果该sentinel节点发现自己的票数已经过半且达到了quorum的值，就会成为领导者
      • 4）如果这个过程出现多个sentinel成为领导者，则会等待一段时间重新选举。
16、Sentinel支持集群（可以部署在多台机器上，也可以在一台物理机上通过多端口实现伪集群部署）
  • 很显然，只使用单个sentinel进程来监控redis集群是不可靠的，当sentinel进程宕掉后(sentinel本身也有单点问题，single-point-of-failure)整个集群系统将无法按照预期的方式运行。所以有必要将sentinel集群，这样有几个好处：
    • 1）即使有一些sentinel进程宕掉了，依然可以进行redis集群的主备切换；
    • 2）如果只有一个sentinel进程，如果这个进程运行出错，或者是网络堵塞，那么将无法实现redis集群的主备切换（单点问题）;
    • 3）如果有多个sentinel，redis的客户端可以随意地连接任意一个sentinel来获得关于redis集群中的信息。
17、sentinel集群注意事项
  • 只有Sentinel 集群中大多数服务器认定master主观下线时master才会被认定为客观下线，才可以进行故障迁移，也就是说，即使不管我们在sentinel monitor中设置的quorum数是多少，就算是满足了该值，只要达不到大多数，就不会发生故障迁移。
  • 官方建议sentinel至少部署三台，且分布在不同机器。这里主要考虑到sentinel的可用性，假如我们只部署了两台sentinel，且quorum设置为1，也可以实现自动故障迁移，但假如其中一台sentinel挂了，就永远不会触发自动故障迁移，因为永远达不到大多数sentinel认定master主观下线了。
  • sentinel monitor配置中的master IP尽量不要写127.0.0.1或localhost，因为客户端，如jedis获取master是根据这个获取的，若这样配置，jedis获取的ip则是127.0.0.1，这样就可能导致程序连接不上master
  • 当sentinel 启动后会自动的修改sentinel.conf文件，如已发现的master的slave信息，和集群中其它sentinel 的信息等,这样即使重启sentinel也能保持原来的状态。注意，当集群服务器调整时，如更换sentinel的机器，或者新配置一个sentinel，请不要直接复制原来运行过得sentinel配置文件，因为其里面自动生成了以上说的那些信息，我们应该复制一个新的配置文件或者把自动生成的信息给删掉。
  • 当发生故障迁移的时候，master的变更记录与slave更换master的修改会自动同步到redis的配置文件，这样即使重启redis也能保持变更后的状态
18、Sentinel之间和Slaves之间的自动发现机制
  • 虽然sentinel集群中各个sentinel都互相连接彼此来检查对方的可用性以及互相发送消息，但是你不用在任何一个sentinel配置任何其它的sentinel的节点。因为sentinel利用了master的发布/订阅机制去自动发现其它也监控了统一master的sentinel节点。
    • 通过向名为__sentinel__:hello的管道中发送消息来实现。
  • 同样，你也不需要在sentinel中配置某个master的所有slave的地址，sentinel会通过询问master来得到这些slave的地址的。
  • 每个sentinel通过向每个master和slave的发布/订阅频道__sentinel__:hello每秒发送一次消息，来宣布它的存在。
  • 每个sentinel也订阅了每个master和slave的频道__sentinel__:hello的内容，来发现未知的sentinel，当检测到了新的sentinel，则将其加入到自身维护的master监控列表中。
  • 每个sentinel发送的消息中也包含了其当前维护的最新的master配置。如果某个sentinel发现自己的配置版本低于接收到的配置版本，则会用新的配置更新自己的master配置。
  • 在为一个master添加一个新的sentinel前，sentinel总是检查是否已经有sentinel与新的sentinel的进程号或者是地址是一样的。如果是那样，这个sentinel将会被删除，而把新的sentinel添加上去。
19、sentinel和redis身份验证
  • 当一个master配置为需要密码才能连接时，客户端和slave在连接时都需要提供密码。
  • master通过requirepass设置自身的密码，不提供密码无法连接到这个master。slave通过masterauth来设置访问master时的密码。
  • 但是当使用了sentinel时，由于一个master可能会变成一个slave，一个slave也可能会变成master，所以需要同时设置上述两个配置项。
20、Sentinel API
  • 在默认情况下， Sentinel 使用 TCP 端口 26379 （普通 Redis 服务器使用的是 6379 ）。Sentinel 接受 Redis 协议格式的命令请求，所以你可以使用 redis-cli 或者任何其他 Redis 客户端来与 Sentinel 进行通讯。有两种方式可以和 Sentinel 进行通讯：
    • 通过直接发送命令来查询被监视 Redis 服务器的当前状态， 以及 Sentinel 所知道的关于其他 Sentinel 的信息， 诸如此类。
    • 使用发布与订阅功能， 通过接收 Sentinel 发送的通知： 当执行故障转移操作， 或者某个被监视的服务器被判断为主观下线或者客观下线时， Sentinel 就会发送相应的信息。
  • Sentinel命令（即登录到sentinel节点后执行的命令，比如执行"redis-cli -h 192.168.10.203 -p 26379"命令后，才可以执行下面命令）
    • PING ：返回 PONG 。
    • SENTINEL masters ：列出所有被监视的主服务器，以及这些主服务器的当前状态；
    • SENTINEL slaves <master name> ：列出给定主服务器的所有从服务器，以及这些从服务器的当前状态；
    • SENTINEL get-master-addr-by-name <master name> ： 返回给定名字的主服务器的 IP 地址和端口号。 如果这个主服务器正在执行故障转移操作， 或者针对这个主服务器的故障转移操作已经完成， 那么这个命令返回新的主服务器的 IP 地址和端口号；
    • SENTINEL reset <pattern> ： 重置所有名字和给定模式 pattern 相匹配的主服务器。 pattern 参数是一个 Glob 风格的模式。 重置操作清楚主服务器目前的所有状态， 包括正在执行中的故障转移， 并移除目前已经发现和关联的， 主服务器的所有从服务器和 Sentinel ；
    • SENTINEL failover <master name> ： 当主服务器失效时， 在不询问其他 Sentinel 意见的情况下， 强制开始一次自动故障迁移。 （不过发起故障转移的 Sentinel 会向其他 Sentinel 发送一个新的配置，其他 Sentinel 会根据这个配置进行相应的更新）
    • SENTINEL MONITOR <name> <ip> <port> <quorum> 这个命令告诉sentinel去监听一个新的master
    • SENTINEL REMOVE <name> 命令sentinel放弃对某个master的监听
    • SENTINEL SET <name> <option> <value> 这个命令很像Redis的CONFIG SET命令，用来改变指定master的配置。支持多个<option><value>。例如以下实例：SENTINEL SET objects-cache-master down-after-milliseconds 1000
  • 只要是配置文件中存在的配置项，都可以用SENTINEL SET命令来设置。这个还可以用来设置master的属性，比如说quorum(票数)，而不需要先删除master，再重新添加master。例如：SENTINEL SET objects-cache-master quorum 5
  • 客户端可以通过SENTINEL get-master-addr-by-name <master name>获取当前的主服务器IP地址和端口号，以及SENTINEL slaves <master name>获取所有的Slaves信息。
21、增加或删除Sentinel
  • 由于有sentinel自动发现机制，所以添加一个sentinel到你的集群中非常容易，你所需要做的只是监控到某个Master上，然后新添加的sentinel就能获得其他sentinel的信息以及master所有的slaves。
  • 如果你需要添加多个sentinel，建议你一个接着一个添加，这样可以预防网络隔离带来的问题。你可以每个30秒添加一个sentinel。最后你可以用SENTINEL MASTER mastername来检查一下是否所有的sentinel都已经监控到了master。
  • 删除一个sentinel显得有点复杂：因为sentinel永远不会删除一个已经存在过的sentinel，即使它已经与组织失去联系很久了。
  • 要想删除一个sentinel，应该遵循如下步骤：
    • 停止所要删除的sentinel
    • 发送一个SENTINEL RESET * 命令给所有其它的sentinel实例，如果你想要重置指定master上面的sentinel，只需要把*号改为特定的名字，注意，需要一个接一个发，每次发送的间隔不低于30秒。
    • 检查一下所有的sentinels是否都有一致的当前sentinel数。使用SENTINEL MASTER mastername 来查询。
22、删除旧master或者不可达slave
  • sentinel永远会记录好一个Master的slaves，即使slave已经与组织失联好久了。这是很有用的，因为sentinel集群必须有能力把一个恢复可用的slave进行重新配置。
  • 并且，failover后，失效的master将会被标记为新master的一个slave，这样的话，当它变得可用时，就会从新master上复制数据。
  • 然后，有时候你想要永久地删除掉一个slave(有可能它曾经是个master)，你只需要发送一个SENTINEL RESET master命令给所有的sentinels，它们将会更新列表里能够正确地复制master数据的slave。
23、sentinel.conf中的notification-script
  • 在sentinel.conf中可以配置多个sentinel notification-script <master name> <shell script-path>, 如sentinel notification-script mymaster ./check.sh 这个是在群集failover时会触发执行指定的脚本。脚本的执行结果若为1，即稍后重试（最大重试次数为10）；若为2，则执行结束。并且脚本最大执行时间为60秒，超时会被终止执行。
  • 目前会存在该脚本被执行多次的问题，网上查找资料获得的解释是：脚本分为两个级别， SENTINEL_LEADER 和 SENTINEL_OBSERVER ，前者仅由领头 Sentinel 执行（一个 Sentinel），而后者由监视同一个 master 的所有 Sentinel 执行（多个 Sentinel）
24、Slave选举与优先级
  • 当一个sentinel准备好了要进行failover，并且收到了其他sentinel的授权，那么就需要选举出一个合适的slave来做为新的master。
  • slave的选举主要会评估slave的以下几个方面：
    • 与master断开连接的次数
    • Slave的优先级
    • 数据复制的下标(用来评估slave当前拥有多少master的数据)
    • 进程ID
  • 如果一个slave与master失去联系超过10次，并且每次都超过了配置的最大失联时间(down-after-milliseconds)，如果sentinel在进行failover时发现slave失联，那么这个slave就会被sentinel认为不适合用来做新master的。更严格的定义是，如果一个slave持续断开连接的时间超过(down-after-milliseconds * 10) + milliseconds_since_master_is_in_SDOWN_state就会被认为失去选举资格。
  • 符合上述条件的slave才会被列入master候选人列表，并根据以下顺序来进行排序：
    • sentinel首先会根据slaves的优先级来进行排序，优先级越小排名越靠前。
    • 如果优先级相同，则查看复制的下标，哪个从master接收的复制数据多，哪个就靠前。
    • 如果优先级和下标都相同，就选择进程ID较小的那个。
  • 一个redis无论是master还是slave，都必须在配置中指定一个slave优先级。要注意到master也是有可能通过failover变成slave的。
  • 如果一个redis的slave优先级配置为0，那么它将永远不会被选为master。但是它依然会从master那里复制数据。
25、故障转移
  • 所谓故障转移就是当master宕机，选一个合适的slave来晋升为master的操作，redis-sentinel会自动完成这个，不需要我们手动来实现。
  • 一次故障转移操作大致分为以下流程：
    • 发现主服务器已经进入客观下线状态。
    • 对我们的当前集群进行自增， 并尝试在这个集群中当选。
    • 如果当选失败， 那么在设定的故障迁移超时时间的两倍之后， 重新尝试当选。 如果当选成功， 那么执行以下步骤：
    • 选出一个从服务器，并将它升级为主服务器。
    • 向被选中的从服务器发送 SLAVEOF NO ONE 命令，让它转变为主服务器。
    • 通过发布与订阅功能， 将更新后的配置传播给所有其他 Sentinel ， 其他 Sentinel 对它们自己的配置进行更新。
    • 向已下线主服务器的从服务器发送 SLAVEOF 命令， 让它们去复制新的主服务器。
    • 当所有从服务器都已经开始复制新的主服务器时， 领头 Sentinel 终止这次故障迁移操作。
  • 每当一个 Redis 实例被重新配置（reconfigured） —— 无论是被设置成主服务器、从服务器、又或者被设置成其他主服务器的从服务器 —— Sentinel 都会向被重新配置的实例发送一个 CONFIG REWRITE 命令， 从而确保这些配置会持久化在硬盘里。
  • Sentinel 使用以下规则来选择新的主服务器：
    • 在失效主服务器属下的从服务器当中， 那些被标记为主观下线、已断线、或者最后一次回复 PING 命令的时间大于五秒钟的从服务器都会被淘汰。
    • 在失效主服务器属下的从服务器当中， 那些与失效主服务器连接断开的时长超过 down-after 选项指定的时长十倍的从服务器都会被淘汰。
    • 在经历了以上两轮淘汰之后剩下来的从服务器中， 我们选出复制偏移量（replication offset）最大的那个从服务器作为新的主服务器； 如果复制偏移量不可用， 或者从服务器的复制偏移量相同， 那么带有最小运行 ID 的那个从服务器成为新的主服务器。
  • Sentinel 自动故障迁移的一致性特质
    • Sentinel 自动故障迁移使用 Raft 算法来选举领头（leader） Sentinel ， 从而确保在一个给定的纪元（epoch）里， 只有一个领头产生。
    • 这表示在同一个纪元中， 不会有两个 Sentinel 同时被选中为领头， 并且各个 Sentinel 在同一个纪元中只会对一个领头进行投票。
    • 更高的配置纪元总是优于较低的纪元， 因此每个 Sentinel 都会主动使用更新的纪元来代替自己的配置。
    • 简单来说， 可以将 Sentinel 配置看作是一个带有版本号的状态。 一个状态会以最后写入者胜出（last-write-wins）的方式（也即是，最新的配置总是胜出）传播至所有其他 Sentinel 。
    • 举个例子， 当出现网络分割（network partitions）时， 一个 Sentinel 可能会包含了较旧的配置， 而当这个 Sentinel 接到其他 Sentinel 发来的版本更新的配置时， Sentinel 就会对自己的配置进行更新。
    • 如果要在网络分割出现的情况下仍然保持一致性， 那么应该使用 min-slaves-to-write 选项， 让主服务器在连接的从实例少于给定数量时停止执行写操作， 与此同时， 应该在每个运行 Redis 主服务器或从服务器的机器上运行 Redis Sentinel 进程。
  • Sentinel 状态的持久化
    • Sentinel 的状态会被持久化在 Sentinel 配置文件里面。每当 Sentinel 接收到一个新的配置， 或者当领头 Sentinel 为主服务器创建一个新的配置时， 这个配置会与配置纪元一起被保存到磁盘里面。这意味着停止和重启 Sentinel 进程都是安全的。
    • Sentinel 在非故障迁移的情况下对实例进行重新配置
    • 即使没有自动故障迁移操作在进行， Sentinel 总会尝试将当前的配置设置到被监视的实例上面。 特别是：
    • 根据当前的配置， 如果一个从服务器被宣告为主服务器， 那么它会代替原有的主服务器， 成为新的主服务器， 并且成为原有主服务器的所有从服务器的复制对象。
    • 那些连接了错误主服务器的从服务器会被重新配置， 使得这些从服务器会去复制正确的主服务器。
    • 不过， 在以上这些条件满足之后， Sentinel 在对实例进行重新配置之前仍然会等待一段足够长的时间， 确保可以接收到其他 Sentinel 发来的配置更新， 从而避免自身因为保存了过期的配置而对实例进行了不必要的重新配置。
  • 总结来说，故障转移分为三个步骤：
    • 从下线的主服务的所有从服务里面挑选一个从服务，将其转成主服务
      • sentinel状态数据结构中保存了主服务的所有从服务信息，领头sentinel按照如下的规则从从服务列表中挑选出新的主服务；
        • 删除列表中处于下线状态的从服务；
        • 删除最近5秒没有回复过领头sentinel info信息的从服务；
        • 删除与已下线的主服务断开连接时间超过 down-after-milliseconds*10毫秒的从服务，这样就能保留从的数据比较新（没有过早的与主断开连接）；
        • 领头sentinel从剩下的从列表中选择优先级高的，如果优先级一样，选择偏移量最大的（偏移量大说明复制的数据比较新），如果偏移量一样，选择运行id最小的从服务。
    • 已下线主服务的所有从服务改为复制新的主服务
      • 挑选出新的主服务之后，领头sentinel 向原主服务的从服务发送 slaveof 新主服务 的命令，复制新master。
    • 将已下线的主服务设置成新的主服务的从服务，当其回复正常时，复制新的主服务，变成新的主服务的从服务同理，当已下线的服务重新上线时，sentinel会向其发送slaveof命令，让其成为新主的从。
  • 温馨提示：还可以向任意sentinel发生sentinel failover <masterName> 进行手动故障转移，这样就不需要经过上述主客观和选举的过程。
  • sentinel.conf文件配置参数解释
sentinel monitor mymaster 192.168.10.202 6379 2
"""
Sentine监听的maste地址，第一个参数是给master起的名字，第二个参数为master IP，第三个为master端口，第四个为当该master挂了的时候，若想将该master判为失效，
在Sentine集群中必须至少2个Sentine同意才行，只要该数量不达标，则就不会发生故障迁移。也就是说只要有2个sentinel认为master下线，就认为该master客观下线，
启动failover并选举产生新的master。通常最后一个参数不能多于启动的sentinel实例数。
 
这个配置是sentinel需要监控的master/slaver信息，格式为sentinel monitor <mastername> <masterIP> <masterPort> <quorum> 
其中<quorum>应该小于集群中slave的个数，当失效的节点数超过了<quorum>,则认为整个体系结构失效
 
不过要注意， 无论你设置要多少个 Sentinel 同意才能判断一个服务器失效， 一个 Sentinel 都需要获得系统中多数（majority） Sentinel 的支持， 才能发起一次自动故障迁移，
并预留一个给定的配置纪元 （configuration Epoch ，一个配置纪元就是一个新主服务器配置的版本号）。
  
换句话说， 在只有少数（minority） Sentinel 进程正常运作的情况下， Sentinel 是不能执行自动故障迁移的。
"""
sentinel down-after-milliseconds mymaster 30000
"""
表示master被当前sentinel实例认定为失效的间隔时间。
master在多长时间内一直没有给Sentine返回有效信息，则认定该master主观下线。也就是说如果多久没联系上redis-servevr，认为这个redis-server进入到失效（SDOWN）状态。
  
如果服务器在给定的毫秒数之内， 没有返回 Sentinel 发送的 PING 命令的回复， 或者返回一个错误， 那么 Sentinel 将这个服务器标记为主观下线（subjectively down，简称 SDOWN ）。
不过只有一个 Sentinel 将服务器标记为主观下线并不一定会引起服务器的自动故障迁移： 只有在足够数量的 Sentinel 都将一个服务器标记为主观下线之后， 服务器才会被标记为客观下线
（objectively down， 简称 ODOWN ）， 这时自动故障迁移才会执行。
将服务器标记为客观下线所需的 Sentinel 数量由对主服务器的配置决定。
"""
sentinel parallel-syncs mymaster 2
"""
当在执行故障转移时，设置几个slave同时进行切换master，该值越大，则可能就有越多的slave在切换master时不可用，可以将该值设置为1，即一个一个来，这样在某个
slave进行切换master同步数据时，其余的slave还能正常工作，以此保证每次只有一个从服务器处于不能处理命令请求的状态。
  
parallel-syncs 选项指定了在执行故障转移时， 最多可以有多少个从服务器同时对新的主服务器进行同步， 这个数字越小， 完成故障转移所需的时间就越长。
  
如果从服务器被设置为允许使用过期数据集（参见对 redis.conf 文件中对 slave-serve-stale-data 选项的说明）， 那么你可能不希望所有从服务器都在同一时间向新的主服务器发送同步请求，
因为尽管复制过程的绝大部分步骤都不会阻塞从服务器， 但从服务器在载入主服务器发来的 RDB 文件时， 仍然会造成从服务器在一段时间内不能处理命令请求： 如果全部从服务器一起对新的主
服务器进行同步， 那么就可能会造成所有从服务器在短时间内全部不可用的情况出现。
 
当新master产生时，同时进行"slaveof"到新master并进行"SYNC"的slave个数。 
默认为1,建议保持默认值 
在salve执行salveof与同步时，将会终止客户端请求。 
此值较大，意味着"集群"终止客户端请求的时间总和和较大。 
此值较小,意味着"集群"在故障转移期间，多个salve向客户端提供服务时仍然使用旧数据。 
"""
sentinel can-failover mymaster yes
"""
在sentinel检测到O_DOWN后，是否对这台redis启动failover机制
"""
sentinel auth-pass mymaster 20180408
"""
设置sentinel连接的master和slave的密码，这个需要和redis.conf文件中设置的密码一样
"""
sentinel failover-timeout mymaster 180000
"""
failover过期时间，当failover开始后，在此时间内仍然没有触发任何failover操作，当前sentinel将会认为此次failoer失败。 
执行故障迁移超时时间，即在指定时间内没有大多数的sentinel 反馈master下线，该故障迁移计划则失效
"""
sentinel config-epoch mymaster 0
"""
选项指定了在执行故障转移时， 最多可以有多少个从服务器同时对新的主服务器进行同步。这个数字越小， 完成故障转移所需的时间就越长。
"""
sentinel notification-script mymaster /var/redis/notify.sh
"""
当failover时，可以指定一个"通知"脚本用来告知当前集群的情况。
脚本被允许执行的最大时间为60秒，如果超时，脚本将会被终止(KILL)
"""
sentinel leader-epoch mymaster 0
"""
同时一时间最多0个slave可同时更新配置,建议数字不要太大,以免影响正常对外提供服务。
"""
posted @ 2022-04-12 09:26  郭祺迦  阅读(677)  评论(0)    收藏  举报