Google平滑限流方案——Guava

限流的场景——12306图形验证码

土是土了点，但是多少也能起到限流

限流的场景——双十一

11.11零点，由于各种商家的促销活动（前XX名免单），支付宝进入排队支付状态

限流的场景——外卖业务

情人节鲜花爆仓

·商家电话打爆

·平台电话打爆

·骑手电话打爆

常见的限流方案——手动实现负载均衡

常见的限流方案——验证码

12306故意把验证码弄的模糊不堪，影响消费者下单，从而限流

常见的限流方案——容器限流

常见的web容器其实也具备限流的功能

·以Tomcat容器为例，其Connector其中一种配置有如下几个参数

·acceptCount：如果Tomcat的线程都忙于响应，新来的连接会进入队列排队，如果超出排队大小，则拒绝连接

·maxConnections： 瞬时最大连接数，超出的会排队等待

·maxThreads：Tomcat能用来处理请求的最大线程数，如果请求处理量一直远远大于最大线程数则可能会僵死

常见的限流方案——限流总资源数

如果有的资源是稀缺资源（如数据库连接、线程），而且可能有多个系统都会去使用它，那么需要限制应用；

可以使用池化技术来限制总资源数：连接池、线程池。

比如分配给每个应用的数据库连接是100

那么本应用最多可以使用100个资源，超出了可以等待或者抛异常。

常见的限流方案——限流某个接口的总并发/请求数

如果接口可能会有突发访问情况，但又担心访问量太大造成崩溃，如抢购业务；

这个时候就需要限制这个接口的总并发请求数了；

因为粒度比较细，可以为每个接口都设置相应的阀值。可以使用Java中的AtomicLong进行限流：

try{

if(atomic.incrementAndGet() > 限流数) { //拒绝请求 } //处理请求 }finally { atomic.decrementAndGet(); }

常见的限流方案——Nginx限流

Nginx负载均衡

Nginx提供了一个叫ngx_http_limit_req_module的模块进行流量控制

常见的限流方案——消息队列

通过RabbitMQ，RocketMQ，ActiveMQ，ZeroMQ，Kafka把流量做均匀，限制高流量涌入

常见的限流方案——利用Netflix的Hystrix限流

以上就是全部的限流方案了？？？

咱们说了这么多，能达到满分了吗？

腾讯阅读面试——你知道的还不够多

Guava简介

Guava是一个 Google开发的 基于java的类库集合的扩展项目，包括 collections, caching, primitives support,concurrency libraries, common annotations, string processing, I/O, 等等.这些高质量的 API可以使你的JAVA代码更加优雅，更加简洁，让你工作更加轻松愉悦

限流的概念

限流：限制流量

限流可以认为服务降级的一种

限流就是限制系统的输入和输出流量已达到保护系统的目的。

一般来说系统的吞吐量是可以被测算的

为了保证系统的稳定运行，一旦达到的需要限制的阈值，就需要限制流量并采取一些措施以完成限制流量的目的

比如：延迟处理，拒绝处理，或者部分拒绝处理等等。

腾讯阅读的限流方案

Guava并发包提供的降级方案

啥？没听过？

给大家面试的一点小意见：

（1）面试要不卑不亢，不要怂

（2）遇到不会的问题，可以请教一下面试官

Guava限流核心算法

限流算法——漏桶算法(Leaky Bucket)

漏桶算法(Leaky Bucket)：

水(请求)先进入到漏桶里,漏桶以一定的速度出水(接口有响应速率),

当水流入速度过大会直接溢出(访问频率超过接口响应速率),然后就拒绝请求,

可以看出漏桶算法能强行限制数据的传输速率

限流算法——令牌桶算法(Token Bucket)

令牌桶算法(Token Bucket)：

随着时间流逝,系统会按恒定1/QPS时间间隔(如果QPS=100,则间隔是10ms)往桶里加入Token

(想象和漏洞漏水相反,有个水龙头在不断的加水),如果桶已经满了就不再加了.

新请求来临时,会各自拿走一个Token,如果没有Token可拿了就阻塞或者拒绝服务

漏桶算法VS令牌桶算法

·令牌桶是按照固定速率往桶中添加令牌，请求是否被处理需要看桶中令牌是否足够，当令牌数减为零时则拒绝新的请求；

·漏桶则是按照常量固定速率流出请求，流入请求速率任意，当流入的请求数累积到漏桶容量时，则新流入的请求被拒绝；

·令牌桶限制的是平均流入速率（允许突发请求，只要有令牌就可以处理，支持一次拿3个令牌，4个令牌），并允许一定程度突发流量；

·漏桶限制的是常量流出速率（即流出速率是一个固定常量值，比如都是1的速率流出，而不能一次是1，下次又是2），从而平滑突发流入速率；

·令牌桶允许一定程度的突发，而漏桶主要目的是平滑流入速率；

两个算法实现可以一样，但是方向是相反的，对于相同的参数得到的限流效果是一样的。

Guava限流实战

GuavaRateLimiter实现平滑限流

Guava的RateLimiter提供了令牌桶算法实现以下两种限流：

（1）平滑突发限流(SmoothBursty)

（2）平滑预热限流(SmoothWarmingUp)实现。

平滑突发限流(SmoothBursty)

平滑预热限流(SmoothWarmingUp)

Guava用于秒杀场景

Guava对比其他限流方案的特点

·流量可控：控制令牌产生的速率

·限流平滑：线程池/Hystrix等限流方案，一旦造成资源耗尽（线程池打满，信号量用完），很可能造成一段时间内都拒绝请求，依赖于对资源的释放后，才能处理新的请求。这样在我们的秒杀场景里，很可能会造成，请求开始后，请求结束前，被秒的商品居多，中间的时间段几乎秒不到商品。用Guava令牌桶限流，至少可以保证令牌产生的速率恒定，也就可以保证被秒杀的商品速率恒定。

guava源码地址：https://github.com/google/guava

demo源码地址：https://github.com/online-demo/yunxi-guava.git