分布式基础概念-分布式高可用

什么是服务降级、什么是熔断

降级是解决系统资源不足和海量业务请求之间的矛盾

在暴增的流量请求下，对一些非核心流程业务、非关键业务，进行有策略的放弃，以此来释放系统资源，保证核心业务的正常运行，尽量避免这种系统资源分配的不平衡，打破二八策略，让更多的机器资源，承载主要的业务请求。服务降级不是一个常态策略，而是应对非正常情况下的应急策略。服务降级的结果，通常是对一些业务请求，返回一个统一的结果，可以理解为是一种FailOver快速失败的策略。一般通过配置中心配置开关实现开启降 。

熔断模式保护的是业务系统不被外部大流量或者下游系统的异常而拖垮。

如果开启了熔断，订单服务可以在下游调用出现部分异常时，调节流量请求，比如在出现10%的失败后，减少50%的流量请求，如果继续出现50%的异常，则减少80%的流量请求；相应的，在检测的下游服务正常后，首先恢复30%的流量，然后是50%的流量，接下来是全部流量。

高并发场景下如何实现系统限流？

限流一般需要结合容量规划和压测来进行。当外部请求接近或者达到系统的最大阈值时，触发限流，采取其他的手段进行降级，保护系统不被压垮。常见的降级策略包括延迟处理、拒绝服务、随机拒绝等。

计数器法：

将时间划分为固定的窗口大小，例如1s 在窗口时间段内，每来一个请求，对计数器加1。 当计数器达到设定限制后，该窗口时间内的之后的请求都被丢弃处理。 该窗口时间结束后，计数器清零，从新开始计数。

滑动窗口计数法：

将时间划分为细粒度的区间，每个区间维持一个计数器，每进入一个请求则将计数器加一。 多个区间组成一个时间窗口，每流逝一个区间时间后，则抛弃最老的一个区间，纳入新区间。 若当前窗口的区间计数器总和超过设定的限制数量，则本窗口内的后续请求都被丢弃。

漏桶算法：

如果外部请求超出当前阈值，则会在容易里积蓄，一直到溢出，系统并不关心溢出的流量。从出口处限制请求速率，并不存在计数器法的临界问题，请求曲线始终是平滑的。无法应对突发流量，相当于一个空桶+固定处理线程

令牌桶算法：

假设一个大小恒定的桶，这个桶的容量和设定的阈值有关，桶里放着很多令牌，通过一个固定的速率，往里边放入令牌，如果桶满了，就把令牌丢掉，最后桶中可以保存的最大令牌数永远不会超过桶的大小。当有请求进入时，就尝试从桶里取走一个令牌，如果桶里是空的，那么这个请求就会被拒绝

往期精彩系列推荐

• 对线面试官系列
• 分布式基础概念系列

我正在参与2023腾讯技术创作特训营第三期有奖征文，组队打卡瓜分大奖！