sofa-rpc负载均衡之轮询算法分析(RoundRobin)

注意:我们分析的sofa-rpc版本是5.4.0。

                                             图1 RoundRobinLoadBalancer的类继承图

1.一般的RoundRobin实现

    一般的RoundRobin就是轮询服务提供者。例子:假设服务提供者有S1、S2、S3,那么第一次选择S1,第二次则选择S2,第三次则选择S3,第四次则选择S1...这样不断轮询服务提供者。

2.sofa-rpc中是怎么实现的

    下面分析sofa-rpc的RoundRobinLoadBalancer实现,sofa-rpc中与上述例子中的实现有点不同。    

    RoundRobinLoadBalancer的方法doSelect(SofaRequest, List<ProviderInfo>)是该算法的核心,下面我们重点来分析该方法的实现。doSelect方法中的源码如下,建议读者自己从github上down源码下来自己看源码。

@Override
public ProviderInfo doSelect(SofaRequest request, List<ProviderInfo> providerInfos) {
    String key = getServiceKey(request); // 每个方法级自己轮询,互不影响
    int length = providerInfos.size(); // 服务提供者总个数
    PositiveAtomicCounter sequence = sequences.get(key);
    if (sequence == null) {
        sequences.putIfAbsent(key, new PositiveAtomicCounter());
        sequence = sequences.get(key);
    }
    return providerInfos.get(sequence.getAndIncrement() % length);
}

private String getServiceKey(SofaRequest request) {
    StringBuilder builder = new StringBuilder();
    builder.append(request.getTargetAppName()).append("#")
        .append(request.getMethodName());
    return builder.toString();
}

   sequences个是concurrentHashMap,如下

ConcurrentMap<String, PositiveAtomicCounter> sequences = new ConcurrentHashMap<String, PositiveAtomicCounter>();
  •  doSelect方法中,用SofaRequest的"targetAppName"+"#"+"methodName"作为sequences的key,得到一个PositiveAtomicCounter,它的getAndIncrement()是个线程安全且值从0开始逐渐递增到Integer.MAX_VALUE,这个类的实现还是有点意思的,建议读者自己去看。
  •  用得到的PositiveAtomicCounter对服务提供者个数取模,假设得到的是i,那么我们就取providerInfos.get(i)作为此次服务提供者。这样站在方法维度上轮询服务提供者。

    有没有发现sofa-rpc中的实现与我们在开始给出的例子有点不一样。sofa-rpc中的轮询算法比开头例子在维度上更细,sofa-rpc是站在方法method维度上进行的轮询。

3.思考

    1.sofa-rpc为什么站在方法维度实现RoundRobin?如果你能自己提出这个问题,那么说明你已经看懂了sofa-rpc的RoundRobin算法大致实现。谈谈我自己的理解:一个服务提供者,提供很多可供调用的方法,某些方法被调用的频率和次数是高于其它方法的。如果我们站在方法的维度上实现轮询,则这种轮询是更加公平的。可以看出,sofa-rpc的作者还是经过认真思考过的。

    2.上述的所有实现,都没有考虑服务提供者带权重的情况,如果要实现WeightRoundRobin算法(考虑权重的轮询算法)呢,如何实现?sofa-rpc中实现了,只是性能有点差,框架作者不推荐使用。

(adsbygoogle = window.adsbygoogle || []).push({});

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

发表于

我来说两句

0 条评论
登录 后参与评论

扫码关注云+社区

领取腾讯云代金券