骏马金龙

网名骏马金龙,钟情于IT世界里的各种原理和实现机制,强迫症重症患者。爱研究、爱翻译、爱分享。特借此一亩三分田记录自己成长点滴!!!
我本问道人,道心不坚,必将与道无缘!

应用负载均衡之LVS(五):lvs和nginx的wrr加权调度算法规律分析

返回LVS系列文章:http://www.cnblogs.com/f-ck-need-u/p/7576137.html

 

加权调度算法(wrr)是一种很常见的调度算法。它们按照权重比例进行调度,但实际调度选中的节点顺序可能和想象中并不一样。它们有各自的算法支持,但无论什么算法,对于a、b、c三个节点,如果它们的权重比例为a:b:c=x:y:z,在节点都健康的情况下,每一轮轮询过程中a总是被选中x次,b总是被选中y次,c总是被选中z次,只不过被选中的顺序可能因算法不同而不同,

所以,本文主要介绍lvs和nginx的wrr算法是如何计算的。

lvs的wrr调度算法

1.加权调度算法公式

首先,给一个LVS官方手册给的加权调度算法公式:

假设有一组服务器S = {S0, S1, …, Sn-1},W(Si)表示服务器Si的权值,一个
指示变量i表示上一次选择的服务器,指示变量cw表示当前调度的权值,max(S)
表示集合S中所有服务器的最大权值,gcd(S)表示集合S中所有服务器权值的最大
公约数。变量i初始化为-1,cw初始化为零。

while (true) {
  i = (i + 1) mod n;
    if (i == 0) {
        cw = cw - gcd(S); 
        if (cw <= 0) {
            cw = max(S);
        if (cw == 0)
            return NULL;
        }
    } 
  if (W(Si) >= cw) 
    return Si;
}

比如,A、B、C三个后端的权重比是2:3:4,那么一个调度循环内的调度顺序是CBCABCABC。

如果你不想从算法公式里找规律,那么看下面。

2.加权调度通俗规律

记住三个权重调度规则:
1.先约分
2.从最大权重开始调度
3.同权重的后端,从前向后调度

例如,三台后端A:B:C=2:3:4。这里没法约分。

  1. 调度C
    调度之后,比率变成A:B:C=2:3:3,B和C权重相同,从B开始调度
  2. 调度B
    调度之后,比率变成A:B:C=2:2:3,所以下次调度C
  3. 调度C
    调度之后,比率变成A:B:C=2:2:2,下次从A开始
    当权重全部调整到相同值时,就按照先后顺序不断循环,直到调度完所有权重
  4. 调度A,调度之后,比率变成A:B:C=1:2:2
  5. 调度B,调度之后,比率变成A:B:C=1:1:2
  6. 调度C,调度之后,比率变成A:B:C=1:1:1
  7. 调度A,调度之后,比率变成A:B:C=0:1:1
  8. 调度B,调度之后,比率变成A:B:C=0:0:1
  9. 调度C,调度之后,比率变成A:B:C=0:0:0
  10. 进入下一个调度循环,顺序是:CBCABCABC

所以,每个调度循环的调度顺序为:CBCABCABC

调度过程如下图:

再给个示例,A:B:C:D=2:4:6:8

首先约分,得到A:B:C:D=1:2:3:4

  1. 调度D
  2. 调度C
  3. 调度D
  4. 调度B
  5. 调度C
  6. 调度D
  7. 调度A
  8. 调度B
  9. 调度C
  10. 调度D

所以,调度顺序是DCDBCDABCD。

nginx的wrr调度算法

以前nginx的wrr调度算法和lvs的算法类似,都是直接剃短高权重节点的权重值,最后趋于均衡。但这样的算法实际上对请求而言并不均衡,比如a:b:c = 5:1:1,调用的顺序将是aaaaabc、aaaaabc,a将被连续多次调用。

后来nginx的wrr算法改进了,变得更复杂一些,但更趋于调度均衡。

假设a:b:c=A:B:C,算法是这样的:

  1. 所有权重加总得到总权重(total):A+B+C=N
  2. 第一个请求进来,选择权重最大的。假设为a,于是选中A。选中之后,对选中的节点的权重减去总权重N,于是现在的比例是a:b:c=A-N:B:C
  3. 第二个请求进入,将比如全部加上原始比例(eff_weight),得到(A-N+A):(B+B):(C+C),然后选中最大的权重节点,假如选中B。选中之后,对选中的节点的权重减去总权重N,于是比例变为(2A-N):(2B-N):2C
  4. 之后每个请求进来,都首先加上原始比例,然后选择权重最大的,并对最大的权重值减去总权重N。
  5. 每一轮询的最后一次调度,都会使被选中的节点权重变为N,其它权重变为0,减去总权重之后全部变成0,使得下一轮轮询调度开始,重新回到原始比例。

例如,a:b:c=4:3:2的调度过程为:总权重为4+3+2=9

  1. 第1个请求,a权重最大,选中a
    • 选中之后,比例变为a:b:c=-5:3:2
  2. 第2个请求,加上原始比例,得到a:b:c=-1:6:4,选中b
    • 选中之后,比例变为a:b:c=-1:-3:4
  3. 第3个请求,加上原始比例,得到a:b:c=3:0:6,选中c
    • 选中之后,比例变为a:b:c=3:0:-3
  4. 第4个请求,加上原始比例,得到a:b:c=7:3:-1,选中a
    • 选中之后,比例变为a:b:c=-2:3:-1
  5. 第5个请求,加上原始比例,得到a:b:c=2:6:1,选中b
    • 选中之后,比例变为a:b:c=2:-3:1
  6. 第6个请求,加上原始比例,得到a:b:c=6:0:3,选中a
    • 选中之后,比例变为a:b:c=-3:0:3
  7. 第7个请求,加上原始比例,得到a:b:c=1:3:5,选中c
    • 选中之后,比例变为a:b:c=1:3:-4
  8. 第8个请求,加上原始比例,得到a:b:c=5:6:-2,选中b
    • 选中之后,比例变为a:b:c=5:-3:-2
  9. 第9个请求,加上原始比例,得到a:b:c=9:0:0,选中a
    • 选中之后,比例变为a:b:c=0:0:0

一轮循环完成,调度的顺序是a b c a b a c b a,这轮循环完成之后,它们的比例变为0:0:0,下一个请求到来,加上原始权重后回到原比例4:3:2

如果是两后端节点,它们的比例为3:1,它们的调度顺序将是aaba aaba aaba...

posted @ 2018-08-16 22:49  骏马金龙  阅读(...)  评论(...编辑  收藏