Resilience 4j提供以下功能
如果您打算在Spring Boot中使用它,可以使用Starter。请注意,Spring Boot 1.x和2.x系列之间的artifactId似乎有所不同。另外,上面只包含CircuitBreaker和RateLimiter,在使用其他功能时需要单独添加依赖项。(由于未准备好AutoConfigure,您还需要自己定义bean。)
这次我将总结如何在Spring Boot 2.x系列中使用CircuitBreaker和RateLimiter。
环境
当某些具有微服务的服务发生故障时,可以临时阻止对故障服务的访问并防止故障传播。
CircuitBreaker有三种状态:Closed,Open,HalfOpen。如果是正常的,则它是关闭的,如果处理失败超过一定数量,它将变为打开并且访问被阻止。当在打开状态下经过一段时间后,进入HalfOpen状态。如果处理在HalfOpen状态下失败超过一定量,则返回到关闭状态。
在Resilience 4j中,处理的成功和失败由环形缓冲器Ring Bit Buffer管理,并且当缓冲器中的故障数超过设定的速率时,状态转变。
断路器使用状态中的Ring Bit Buffer CLOSED来存储呼叫的成功或失败状态。成功的呼叫存储为0位,失败的呼叫存储为1位。Ring Bit Buffer具有(可配置的)固定大小。环位缓冲区在内部使用类似数据结构的BitSet来存储与布尔数组相比节省内存的位。BitSet使用long []数组来存储这些位。这意味着BitSet只需要一个包含16个长(64位)值的数组来存储1024个调用的状态。
例如,如果环形缓冲区的大小为10,则必须至少评估10个调用,然后才能计算故障率。如果仅评估了9个呼叫,即使所有9个呼叫都失败,断路器也不会打开。
用于Closed - > Open和HalfOpen - > Closed判断的环形缓冲区是不同的,可以定义大小,但使用相同的判断条件(错误率)。
在持续关闭时间结束后,断路器状态从OPEN更改为HALF_OPEN并允许调用以查看后端是否仍然不可用或已再次可用。
断路器使用另一个(可配置的)环位缓冲区来评估HALF_OPEN状态中的故障率。如果故障率高于配置的阈值,则状态将更改回OPEN。如果故障率低于或等于阈值,则状态变回CLOSED。
此外,处理的成功和失败由异常判断。默认情况下,如果任何异常抛出异常,则会将其视为处理失败,但您也可以指定要将其视为失败的条件。
application.yml你可以设置定义多个断路器。
resilience4j:
circuitbreaker:
backends:
circuitA: # #断路器名
truering-buffer-size-in-closed-state: 5 #环形缓冲区是在封闭状态下使用的大小
ring-buffer-size-in-half-open-state: 3 # HalfOpen 状态下的大小
wait-duration-in-open-state : 5000 # Open持续时间
failure-rate-threshold: 50 # 到打开状态的阈值
record-failure-predicate: com.example.resilience.RecordFailurePredicate
ignore-exceptions: #没有失败#异常类和计数
- com.example.resilience.exception.BusinessException
record-exceptions: #异常类失败和计数
- com.example.resilience.exception.SystemException
circuitB:
・・・
如果你想只考虑一个特定的异常和故障使用RecordExceptions,当你不想忽视特定的异常时使用ignoreExceptions。
有两种方法可以使用Spring AOP并在函数中实现它。无论哪种实现,如果Circuit处于Open状态,它将生成CircuitBreakerOpenException。
在以下实现示例中,为简单起见,它不是微服务。最初RestTemplate,我认为这将是Service Class 调用其他服务API等使用等的过程。
通过@CircuitBreaker(name = "hogehoge")注释到类或方法上则可以启用断路器。如果在类指定这个注释,则为所有公共方法启用断路器。
@Service
@CircuitBreaker(name = "circuitB")
public class CircuitBreakerService {
public String aop(String str) {
if (str == null) {
throw new RuntimeException();
}
return "success!!";
}
}
调用者不用考虑任何事情,只需执行该方法即可。
@RestController
@RequestMapping("/circuit")
public class CircuitBreakerController {
private final CircuitBreakerService service;
public CircuitBreakerController(CircuitBreakerService service) {
this.service = service;
}
@GetMapping("/aop")
public String aop(@RequestParam(required = false) String str) {
return service.aop(str);
}
}
如何写业务函数?
@Service
public class CircuitBreakerService {
public String func(String str) {
if (str == null) {
throw new RuntimeException();
}
return "success!!";
}
}
调用端使用断路器的decorate~方法修饰要调用的方法。
@RestController
@RequestMapping("/circuit")
public class CircuitBreakerController {
private final CircuitBreaker circuitBreaker;
private final CircuitBreakerService service;
public CircuitBreakerController(CircuitBreakerRegistry registry, CircuitBreakerService service) {
this.circuitBreaker = registry.circuitBreaker("circuitA");
this.service = service;
}
@GetMapping("/func")
public String func(@RequestParam(required = false) String str) {
return CircuitBreaker.decorateSupplier(circuitBreaker, () -> service.func(str)).get();
}
}
接下来,如果发生故障,执行回退过程怎么办?在Hystrix 的情况下,通过指定@HystrixCommand("hogeMethod"),由于Resilience4j没有设置的这样的功能,必须自己实现。
@RestController
@RequestMapping("/circuit")
public class CircuitBreakerController {
private final CircuitBreaker circuitBreaker;
private final CircuitBreakerService service;
public CircuitBreakerController(CircuitBreakerRegistry registry, CircuitBreakerService service) {
this.circuitBreaker = registry.circuitBreaker("circuitA");
this.service = service;
}
@GetMapping("/func")
public String func(@RequestParam(required = false) String str) {
return Try.ofSupplier(CircuitBreaker.decorateSupplier(circuitBreaker, () -> service.func(str)))
.recover(CircuitBreakerOpenException.class, "Circuit is Open!!")
.recover(RuntimeException.class, "fallback!!").get();
}
}
您可以限制每单位时间的执行次数。
单位时间是一个周期,并且可以在一个周期中执行的数量是有限的。如果它超过了可以在一个循环中执行的上限,则让它等待,如果等待时间超过超时时间,则发生RequestNotPermitted。
在application.yml可以定义多个RateLimiter。
resilience4j:
ratelimiter:
limiters:
limiterA: # #RateLimiter名称
limit-for-period: 1 # 每时间单位#可执行处理数
limit-refresh-period-in-millis: 10000 # #单位时间(毫秒)
timeout-in-millis: 10000 #timeout time(milliseconds)
limiterB:
・・・
它与断路器实现方式相同,有两种方法可以使用Spring AOP并在业务函数中编写它。实现方法也类似于断路器。
@Service
@RateLimiter(name = "limiterB")
public class RateLimiterService {
public String func() {
return LocalDateTime.now().toString();
}
}
调用者不用考虑任何事情,只需执行该方法即可。
@RestController
@RequestMapping("/ratelimiter")
public class RateLimiterController {
private final RateLimiterService service;
public RateLimiterController(RateLimiterService service) {
this.service = service;
}
@GetMapping("aop")
public String aop() {
return service.aop();
}
}
函数方法:
@Service
public class RateLimiterService {
public String func() {
return LocalDateTime.now().toString();
}
}
@RestController
@RequestMapping("/ratelimiter")
public class RateLimiterController {
private final RateLimiter rateLimiter;
private final RateLimiterService service;
public RateLimiterController(RateLimiterRegistry registry, RateLimiterService service) {
this.rateLimiter = registry.rateLimiter("limiterA");
this.service = service;
}
@GetMapping("func")
public String func() {
return Try.ofSupplier(RateLimiter.decorateSupplier(rateLimiter, service::func))
.recover(RequestNotPermitted.class, "Request Not Permitted!!").get();
}
}
fallback处理,与断路器一样,没有自动执行回退处理的机制,因此您需要自己实现它。
单位时间为5秒,超时时间为1秒,每单位时间的执行次数为1。如果同时发送多个请求,则会发出失败请求。(如果您同时请求三个,则至少一个将始终失败。)
$ curl http://localhost:8080/ratelimiter/func
2019-01-22T23:09:35.612
$ curl http://localhost:8080/ratelimiter/func
Request Not Permitted!!
https://github.com/d-yosh/spring-boot-resilience4j-example