前往小程序,Get更优阅读体验!
立即前往
首页
学习
活动
专区
工具
TVP
发布
社区首页 >专栏 >一日一技:隐患——redis-py的blpop可能由于网络波动导致收不到信息

一日一技:隐患——redis-py的blpop可能由于网络波动导致收不到信息

作者头像
青南
发布2019-08-09 13:41:52
1.9K0
发布2019-08-09 13:41:52
举报
文章被收录于专栏:未闻Code未闻Code

我们在使用Redis做消息队列的时候,常常使用列表这个数据结构,并写出如下的代码:

代码语言:javascript
复制
import redisimport time
client = redis.Redis()while True:    data = client.lpop('key')    if not data:        time.sleep(5 * 60)        continue    parse(data)

这个意思是说,如果Redis的名为 key的列表里面有数据,那么就不停取出来,并把取出的数据传入 parse函数进行处理。如果列表里面没有数据,那么就等待5分钟再次检查。

这种方式,如果列表始终为空,那么将会每5分钟检查一次。

但使用这种方式有一个问题,例如刚刚检查完列表发现是空的,程序开始等待5分钟。但是检查完成的1秒以后,新信息抵达列表。此时信息无法被立刻消费,必需要等满5分钟才行。

为了解决实时性的问题,使用了列表的阻塞式弹出命令 blpop,于是代码变为:

代码语言:javascript
复制
import redis
client = redis.Redis()while True:    data = client.blpop('key')    parse(data[1])

如果列表里面没有数据,程序就会卡在 data=client.blpop('key')这一行,直到列表里面有了新的数据,再立刻弹出送进后面的逻辑。

这种方法在测试的时候完美运行,于是就放到了生成环境使用。

一个周末过去了,周一上班时,同事反馈写到Redis里面的信息不能被正常消费了。

但是我发现程序正常运行,并没有出现任何异常。

于是我找 redis-py的作者 AndyMcCurdy询问原因,他给我的回复如下图所示。

意思是说,在使用 blpop的时候,如果中途因为网络波动或者某些其他原因导致连接池失效,那么就永远接收不到信息了,虽然 redis-py有连接状态检查的功能,但是由于程序是阻塞的, redis-py的连接状态检查功能不能正常使用。

为了解决这个问题,就需要 blpop的超时功能。让 blpop每几分钟就断开,检查一下网络,再重新连上。

于是代码变为:

代码语言:javascript
复制
import redis
client = redis.Redis()while True:    data = client.blpop('key', timeout=5 * 60)    if not data:        continue    parse(data[1])

设置超时时间为5分钟,如果5分钟内列表没有收到信息(无论是真的列表一直没有数据,还是连接池断开了),都会返回 None,此时只需要重新执行 blpop,在执行的瞬间会检查连接的状态,如果连接池有问题,那么它会重新连接。

如果5分钟内有数据,那么 blpop就会立刻把数据弹出来。

通过添加超时时间,解决了数据实时性和网络连接丢失的问题。

本文参与 腾讯云自媒体分享计划,分享自微信公众号。
原始发表:2019-08-07,如有侵权请联系 cloudcommunity@tencent.com 删除

本文分享自 未闻Code 微信公众号,前往查看

如有侵权,请联系 cloudcommunity@tencent.com 删除。

本文参与 腾讯云自媒体分享计划  ,欢迎热爱写作的你一起参与!

评论
登录后参与评论
0 条评论
热度
最新
推荐阅读
相关产品与服务
云数据库 Redis
腾讯云数据库 Redis(TencentDB for Redis)是腾讯云打造的兼容 Redis 协议的缓存和存储服务。丰富的数据结构能帮助您完成不同类型的业务场景开发。支持主从热备,提供自动容灾切换、数据备份、故障迁移、实例监控、在线扩容、数据回档等全套的数据库服务。
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档