专栏首页Ken的杂谈Spring Cloud 入门教程9、服务限流/API限流(Zuul+RateLimiter)

Spring Cloud 入门教程9、服务限流/API限流(Zuul+RateLimiter)

一、前言

1、什么是RateLimiter、Spring Cloud Zuul RateLimiter?

RateLimiter是Google开源的实现了令牌桶算法的限流工具(速率限制器)。http://ifeve.com/guava-ratelimiter/

Spring Cloud Zuul RateLimiter结合Zuul对RateLimiter进行了封装,通过实现ZuulFilter提供了服务限流功能

限流粒度/类型

说明

Authenticated User

针对请求的用户进行限流

Request Origin

针对请求的Origin进行限流

URL

针对URL/接口进行限流

Service

针对服务进行限流,如果没有配置限流类型,则此类型生效

https://github.com/marcosbarbero/spring-cloud-zuul-ratelimit

2、本篇主要内容

  • 服务限流配置示例与说明
  • URL限流配置示例与说明
  • Zull集群服务限流说明(+Redis)
  • Spring Cloud Zuul RateLimiter参数介绍

3、本篇环境信息

框架

版本

Spring Boot

2.0.0.RELEASE

Spring Cloud

Finchley.RELEASE

Zuul

1.3.1

JDK

1.8.x

4、准备工作

参考上一篇:https://ken.io/note/spring-cloud-zuul-quickstart 基于源码:https://github.com/ken-io/springcloud-course/tree/master/chapter-08

  • 准备Eureka Server、服务提供者

启动Eureka Server: http://localhost:8800 启动Test Service:http://localhost:8602

二、服务限流(Zuul+RateLimiter)

基于上一篇中zuul项目的源码进行修改即可:https://github.com/ken-io/springcloud-course/tree/master/chapter-08/zuul

  • 引入spring-cloud-zuul-ratelimit
<dependency>
    <groupId>com.marcosbarbero.cloud</groupId>
    <artifactId>spring-cloud-zuul-ratelimit</artifactId>
    <version>2.0.4.RELEASE</version>
</dependency>

1、默认服务限流策略

  • 修改 application.yml 配置限流策略
zuul:
  ratelimit:
    enabled: true
    default-policy:
      limit: 1
      quota: 2
      refresh-interval: 3

以上配置表示启用限流策略,并且所有服务在3秒内只能有1次请求且所有请求时间总和不得超过2秒

  • 限流测试

启动zuul项目,然后访问 http://localhost:8888/testservice?token=ken 3秒内访问两次,就会看到错误页面

错误信息:type=Too Many Requests, status=429 这说明3秒内的>1次的访问已经被限流策略挡掉

2、为指定服务单独配置限流策略

  • 修改 application.yml 配置限流策略
zuul:
  ratelimit:
    enabled: true
    default-policy:
      limit: 1
      quota: 1
      refresh-interval: 3
    policies:
      testservice:
        limit: 10
        quota: 50
        refresh-interval: 60

以上配置单独为testservice配置了限流策略。60秒内访问次数不得查过10次且访问时间这不得超过50秒。

虽然我们也同时配置了默认限流策略,而且默认限流策略比testservice的限流策略还要更严格,但是这个限流并不会冲突。因为一旦我们为某个服务单独配置了限流策略,那么只有这个单独配置的限流策略会对该服务生效。

3、基于URL的限流策略

  • 修改 application.yml 配置限流策略
zuul:
  ratelimit:
    enabled: true
    default-policy:
      limit: 1
      quota: 1
      refresh-interval: 3
    policies:
      testservice:
        limit: 10
        quota: 50
        refresh-interval: 60
        type: url

以上配置只是在testservice的策略上增加了type参数的设置。(当然也可以在默认策略加这个参数)。

那么这个策略就变成了:每个Url60秒内访问次数不得超过10次且总计访问时间这不得超过50秒。

  • 访问测试

启动zuul项目,然后访问: http://localhost:8888/testservice?token=ken 达到限流阈值后,访问: http://localhost:8888/testservice/plus?token=ken&numA=1&numB=2

依然可以正常访问。 另外,需要值得注意的是,?后面的参数是不会作为限流的key的。 http://localhost:8888/testservice?token=kenhttp://localhost:8888/testservice?token=ken.io 会被作为同一个url进行限流

如果zuul-ratelimiter的限流粒度/方式不能满足你的需求,你可以选择自定义ZuulFilter集成RateLimiter去做限流。

三、Zuul集群服务限流(Zuul+RateLimiter+Redis)

RateLimiter的限流数据是默认以ConcurrentHashMap方式存储在内存中的, 当我们部署了Zuul集群的时候,就会影响我们的限流策略了。我们可以将限流数据存储在Redis中,这样就可以集中记录各个Zuul节点的限流数据,来保证限流的准确性。

1、部署Reids Server

参考:https://ken.io/note/centos7-redis4-setup

2、引入 Spring Data Redis

<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis</artifactId>
    <version>2.0.4.RELEASE</version>
</dependency>

3、配置Redis连接

修改application.yml

spring:
  redis:
    host: 192.168.88.11
    port: 6379

4、配置RateLimiter数据存储方式

zuul:
  ratelimit:
    enabled: true
    repository: redis
    default-policy:
      limit: 1
      quota: 1
      refresh-interval: 3
    policies:
      testservice:
        limit: 10
        quota: 50
        refresh-interval: 60
        type: url

四、备注

Zuul-RateLimiter参数说明

  • Zuul-RateLimiter基本配置项

配置项

可选值

说明

enabled

true/false

是否启用限流

behind-proxy

true/false

翻了源码,没发现有使用。。。作者也没说明。。。

key-prefix

String

限流key前缀

repository

CONSUL, REDIS, JPA, BUCKET4J_JCACHE, BUCKET4J_HAZELCAST, BUCKET4J_INFINISPAN, BUCKET4J_IGNITE, IN_MEMORY

限流数据的存储方式,默认是:IN_MEMORY

default-policy

默认策略

policies

自定义策略

postFilterOrder

postFilter过滤顺序

preFilterOrder

preFilter过滤顺序

  • Policy限流策略配置项说明

说明

limit

单位时间内请求次数限制

quota

单位时间内累计请求时间限制(秒),非必要参数

refresh-interval

单位时间(秒),默认60秒

type

限流方式:ORIGIN, USER, URL

附录

  • 本篇代码示例

https://github.com/ken-io/springcloud-course/tree/master/chapter-09

  • 本篇参考

https://github.com/marcosbarbero/spring-cloud-zuul-ratelimit

http://ifeve.com/guava-ratelimiter/

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • Freemarker使用技巧:使用自定义宏(Macro)实现母板页(Layout)功能

    网站中往往有通用的布局,比如导航、底部等等,这些页面中共用的部分,就需要放在母版页(Layout)里面。 这样每个页面只用关注本页面要完成的功能/内容即可。提高...

    KenTalk
  • System.Net.Mail.SmtpClient通过SSL/TLS协议发送邮件失败问题解决

    通过System.Net.Mail使用SSL协议发送邮件失败并报错 System.Net.Mail.SmtpException: Failure sending...

    KenTalk
  • ASP.NET(C#) 发送邮件帮助类Mailhelper

    KenTalk
  • 高并发场景下如何实现系统限流?

    在分布式高可用设计中,限流应该是应用最广泛的技术手段之一,今天一起来讨论一下,为什么需要限流,以及常见的限流算法都有哪些。

    MickyInvQ
  • Sentinel 集群限流设计原理

    为了充分利用硬件的资源,诸如 Dubbo 都提供了基于权重的负载均衡机制,例如可以将8C16G的机器设置的权重是4C8G的两倍,这样充分利用硬件资源,假如现在需...

    丁威
  • Java并发:分布式应用限流实践

    任何限流都不是漫无目的的,也不是一个开关就可以解决的问题,常用的限流算法有:令牌桶,漏桶。在之前的文章中,也讲到过,但是那是基于单机场景来写。

    搜云库技术团队
  • 微服务-高并发下接口如何做到优雅的限流

    通俗的来讲,一根管子往池塘注水,池塘底部有一个口子往外出水,当注水的速度过快时,池塘的水会溢出,此时,我们的做法换根小管子注水或者把注水管子的口堵住一半,这就是...

    阿伟
  • 限流系统如何发现系统的热点

    限流系统是对资源调用的控制组件,主要涵盖授权、限流、降级、调用统计等功能模块。限流系统有两个基础概念:资源和策略,对特定的资源采取不同的控制策略,起到保障应用稳...

    黄泽杰
  • Sentinel 系统自适应限流原理剖析与实战指导

    看到标题中的几个关键字系统自适应限流是不是觉得高大上,这个自适应又是如何实现的呢?

    丁威
  • 电商系统中的秒杀高并发单机限流实战

    今天,抽空,我给大家介绍一下限流。目前关于限流的框架和工具都比较多,比如 Redis、阿里的 Sentinel、Nginx、OpenResty 等。今天我先给大...

    业余草

扫码关注云+社区

领取腾讯云代金券