前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >分布式缓存有哪些坑

分布式缓存有哪些坑

作者头像
春哥大魔王
发布2020-07-24 11:04:45
7470
发布2020-07-24 11:04:45
举报

在toC的系统之中,解决高并发场景下低延迟的问题,缓存是很重要的解决手段。多级缓存,数据异构,数据预处理都是相关的高性能方法论,那么使用分布式缓存会有哪些坑呢?

主要有如下三个坑需要填:

1. 缓存一致性

2. 缓存击穿

3. 缓存雪崩

缓存一致性

我们在引入缓存之后,首先要解决的就是数据源和缓存之间的缓存一致性问题,关于缓存写入有几种常用的方案:

- cache aside pattern

- cache through

- write through

等。

其实在一致性角度讨论也存在多个视角,session一致性,因果一致性,线性一致性等。

在我们真实场景中往往采用的解决方案是,数据写入db,监听binlog,数据格式化处理,通过mq异构到cache服务。这样的好处是不需要维护db和cache的两个分布式事务,使用db的acid机制保障了事务性,通过mq的持久性和重试解决了cache维护的事务性,这样在整个数据写入和缓存维护过程中只需要关注一个事务就可以了(cache维护的事务性)。

缓存击穿

击穿的意思是请求来了之后,我们在应用层没有拦住请求(cache miss了),以至于请求穿透到db层,如果存在大量缓存击穿,对于db压力会很大,如果db扛不住会导致雪崩的问题。所以缓存击穿解决是系统稳定性需要考虑的,也是高流量c端服务在使用缓存时首先需要想到的一个问题。

穿透的流量有两种:

1. 真实流量,但是由于cache失效导致了cache miss

2. 异常流量,爬虫或是恶意攻击,导致大量cache miss

针对于第一种情况,可以通过监控手段观察缓存命中和miss的情况,适当维护缓存,保障一定的命中率。还可以在cache miss之后放一个空。也可以采用“双key解决方案”,请求来了之后通过redis的setnx修改cache_time的时间,同时去db获取元数据,并发请求来了之后发现cache_time没有过期,会获取cache_data的数据(不管数据新老与否)。

针对于第二种情况,一般的方案就是“布隆过滤器”了,可以在单机缓存构造一个布隆过滤器,也可以基于redis实现一个分布式的布隆过滤器。

缓存雪崩

缓存雪崩是指由于大量的热数据设置了相同或接近的过期时间,导致缓存在某一时刻密集失效,大量请求全部转发到 DB,或者是某个冷数据瞬间涌入大量访问,这些查询在缓存 MISS 后,并发的将请求透传到 DB,DB 瞬时压力过载从而拒绝服务。

目前常见的预防缓存雪崩的解决方案,主要是通过对 key 的 TTL 时间加随机数,打散 key 的淘汰时间来尽量规避,但是不能彻底规避。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2020-07-22,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 春哥talk 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
云数据库 Redis
腾讯云数据库 Redis(TencentDB for Redis)是腾讯云打造的兼容 Redis 协议的缓存和存储服务。丰富的数据结构能帮助您完成不同类型的业务场景开发。支持主从热备,提供自动容灾切换、数据备份、故障迁移、实例监控、在线扩容、数据回档等全套的数据库服务。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档