微服务--熔断和限流

一、案例

某系统中存在一个用户服务，大部分页面都需要用到它，这个服务包含两个接口：用户状态接口和用户权限接口。

1. 用户状态接口：返回用户是否在线、用户车辆位置等；
2. 用户权限接口：返回用户可操作的权限列表，包含通用权限和定制权限。 目前这两个接口存在两个问题：
3. 请求慢 用户状态接口中的车辆位置信息需要调用第三方系统，但是第三方系统的响应速度有时会很慢，并且偶尔会发生故障，这样就会出现我们自己的接口响应时间过长，超时的问题。
4. 流量洪峰缓存超时 用户可操作的通用权限列表都是存储在 Redis中的，只有当Redis中不存在权限列表或者Redis查询超时时才会出去查询数据库，因此在大流量访问时很容易出现Redis访问超时，所有的流量都去访问了数据库，就造成了数据库服务器CPU压力倍增，最终导致服务崩溃，进而导致整个系统不可用。

二、解决问题

要解决上一小节提到的两个问题我们需要引入新的技术，引入的技术需要满足两个条件：线程隔离和熔断机制。

1. 线程隔离 用户状态接口之所以慢，是因为用户状态接口的所有请求都去访问这个第三方位置服务了，第三方服务又出现了响应速度慢甚至发生了故障，所有的请求都在等待返回结果。因此我们可以限制调用第三方位置服务的请求数量，保证在第三方位置服务出现问题时我们有足够的连接去处理其他请求，并且还需要在超出请求数量时给予用户提示。
2. 熔断机制 第二个问题中，只是因为CPU压力过大造成数据库服务超时，这时我们可以暂时停止对数据库服务的访问，不接收新的请求，利用暂停时