腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

物流IT圈

专栏作者

280

文章

502687

阅读量

97

订阅数

使用Redis实现高流量的限速器

云数据库 Redis 编程算法 http

Redis是生产环境中默默无闻的主力配置。它不常用作主要的数据存储，但它可存储和访问临时数据（度量，会话状态，缓存等损失可以容忍的数据）方面有一个甜蜜点，并且速度非常快，不仅提供了最佳性能，还通过一组有用的内置数据结构提供了高效的算法。它是现代技术栈中最常见的主要部件之一。 Stripe的限速器建立在Redis的基础之上，直到最近，他们都运行在Redis 的一个非常Hot的实例上。服务器上有用于故障转移的follower，但在任何时候，只有一个节点处理每个操作。你不得不佩服这样的系统。各种消息称，Redis可以在一个节点上每秒处理一百万次操作 - 我们项目不需要那么多，但是也有很多操作。每个速率限制检查都需要运行多个Redis命令，并且每个API请求都要通过很多速率的限制器。一个节点每秒处理大约数十到数十万个操作。我们最终通过迁移到10个节点的Redis群集来实现这个目标。对性能的影响可以忽略不计，我们现在有一个简单的配置开关可以实现水平可伸缩性。操作的限制在更换系统之前，应该理解导致原始故障的原因和结果。 Redis的一个值得理解的特性是：它是一个单线程程序。但是会有后台线程处理一些像删除对象这样的操作，实际上所有正在执行的操作都堵塞在访问单个流控制点上。理解这点相对容易--Redis需要保证操作的原子性（无论是单一命令MULTI，还是 EXEC），这是源于它一次只执行其中一个操作的事实。这个单线程模型确实是我们的瓶颈。面对失败即使以最大容量运营，我们发现Redis也会非常优雅地降级。主要表现：从与Redis交谈通信的节点观察到的基线连接性错误率增加 - 为了容忍发生故障的Redis，它们受到连接和读取超时（约0.1秒）的限制，并且与过载主机无法无法建立连接。 Redis这种表现虽然不是最佳的，但大部分时间情况都是好的。只有当合法用户能够成功进行身份验证并在底层数据库上运行昂贵的操作时，它才会成为一个真正的问题，因为我们的目标是拦截巨大的非法流量冲击（即数量级超过允许的限制）。这些流量峰值会导致错误率的成比例增加，并且许多流量还应该被允许通过，因为限速器默认是允许在错误情况下通过请求。这会给后端数据库带来更大的压力，这种压力在过载时不会像Redis那样优雅地失败。很容易看到数据库分区几乎完全无法操作。 Redis Cluster的分片模型 Redis的核心设计价值在于速度，而Redis集群的构建方式不会对此产生影响。与许多其他分布式模型不同，在其输出响应成功信号时，Redis集群中的操作并未在多个节点上进行确认，而是更像是一组独立的Redis通过分散空间来分担工作负载。这牺牲了高可用性，有利于保持操作的快速性 - 与标准的Redis独立实例相比，针对Redis群集运行操作的额外开销可以忽略不计。分片是根据key进行的，可能的key总数分为16,384个插槽。key的插槽是通过稳定的哈希散列函数计算的，所有客户端都知道该如何操作： HASH_SLOT = CRC16(key) mod 16384 例如，如果我们想执行GET foo，我们会得到foo的以下插槽号： HASH_SLOT = CRC16("foo") mod 16384 = 12182 集群中的每个节点将处理16,384个插槽中的一部分，确切数量取决于节点数量。节点彼此通信以协调插槽分配以及可用性和插槽的再平衡。客户端使用该CLUSTER系列命令来查询群集的状态。一个常见的操作是CLUSTER NODES获得插槽到节点的映射，其结果通常在本地缓存，并保持数据新鲜。 127.0.0.1:30002 master - 0 1426238316232 2 connected 5461-10922 127.0.0.1:30003 master - 0 1426238318243 3 connected 10923-16383 127.0.0.1:30001 myself,master - 0 0 1 connected 0-5460 我简化了上面的输出，但重要的部分是第一列中的主机地址和最后一个中的数字。5461-10922意味着这个节点处理开始于5461和结束于10922的插槽范围。 `MOVED`重定向如果Redis群集中的某个节点接收到一个插槽不处理的的key的命令，则不会尝试向其他插槽转发该命令。相反，客户端会被告知在其他地方再次尝试。这是以MOVED新目标的地址作为回应的形式： GET foo -MOVED 3999 127.0.0.1:6381 在集群重新平衡期间，插槽会从一个节点迁移到另一个节点，MOVED是服务器用于告诉客户端其插槽

2019-12-23

1.1K0

数据库缓存最终一致性的四种方案

缓存云数据库 SQL Server 云数据库 Redis 消息队列 CMQ 版存储

缓存是软件开发中一个非常有用的概念，数据库缓存更是在项目中必然会遇到的场景。而缓存一致性的保证，更是在面试中被反复问到，这里进行一下总结，针对不同的要求，选择恰到好处的一致性方案。

2019-09-09

2.2K0

Redis布隆Bloom过滤器

php 爬虫数据结构云数据库 Redis

　　Redis提供了三种强大数据结构：HyperLogLog，布隆过滤器和布谷鸟过滤器。本文讨论布隆过滤器：

2019-07-16

1.3K0

缓存穿透、缓存击穿、缓存雪崩的应对方案

缓存分布式云数据库 Redis

缓存穿透是指查询一个一定不存在的数据，由于缓存是不命中时被动写的，并且出于容错考虑，如果从存储层查不到数据则不写入缓存，这将导致这个不存在的数据每次请求都要到存储层去查询，失去了缓存的意义。在流量大时，可能DB就挂掉了，要是有人利用不存在的key频繁攻击我们的应用，这就是漏洞。

2019-07-16

5290

敢在线上Redis做Keys正则匹配操作！

云数据库 Redis 运维数据库 sql

运行后导致redis hang住，接着CPU飙升，业务上所有支付链路卡住，所有的请求流量全部挤压到了rds数据库中，引起数据库雪崩效应，进而直接宕机。

2019-07-16

1.9K0

性能竟然再提升一倍！Redis的一个实例有多快？

云数据库 Redis linux 编程算法

希望本文有助于展示您的Redis实例可以解锁的潜力。EQ Alpha与此模块和KeyDB项目的目标之一是帮助驱动选项，以实现更大，更强大的实例，从而通过能够处理更多负载来最小化分片和群集的需求。该模块采用独立模块形式，非常有用，因为无论Redis基本代码的下一步版本和未来版本如何，它都可能提供性能提升。

2019-07-16

1.3K0

spring-session用redis实现session共享实践

spring 云数据库 Redis spring boot 负载均衡负载均衡缓存

通常情况下，Tomcat、Jetty等Servlet容器，会默认将Session保存在内存中。如果是单个服务器实例的应用，将Session保存在服务器内存中是一个非常好的方案。但是这种方案有一个缺点，就是不利于扩展。

2019-07-16

1.2K0

没有更多了

社区活动

腾讯技术创作狂欢月

“码”上创作 21 天，分 10000 元奖品池！

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态