专栏首页架构师之路MQ不丢消息,究竟是怎么实现的?

MQ不丢消息,究竟是怎么实现的?

前几天有水友提问:

通过消息队列(MsgQueue,MQ)发送任务和消息,万一MQ重启了怎么办?能否保证MQ不丢消息?

今天就聊聊MQ的消息必达性架构与流程。

不丢消息,MQ架构设计的核心方向是什么?

MQ要想消息必达,架构上有两个核心设计点:

(1)消息落地;

(2)消息超时、重传、确认;

为了实现上述两个核心点,MQ架构如何?

上图是一个MQ的核心架构图,可以分为三大块:

(1)发送方 -> 左侧粉色部分;

(2)MQ核心集群 -> 中间蓝色部分;

(3)接收方 -> 右侧屎黄色部分;

粉色发送方又由两部分构成:

(1)业务调用方;

(2)MQ-client-sender;

其中后者向前者提供了两个核心API

(1)SendMsg(bytes[] msg); (2)SendCallback();

蓝色MQ核心集群又分为四个部分:

(1)MQ-server

(2)zk;

(3)db;

(4)管理后台web;

黄色接收方也由两部分构成:

(1)业务接收方;

(2)MQ-client-receiver;

其中后者向前者提供了两个核心API

(1)RecvCallback(bytes[] msg); (2)SendAck();

MQ是一个系统间解耦的利器,它能够很好的解除发布订阅者之间的耦合,它将上下游的消息投递解耦成两个部分,如架构图中的1箭头和2箭头:

箭头1:发送方将消息投递给MQ,上半场;

箭头2:MQ将消息投递给接收方,下半场;

MQ消息可靠投递核心流程如何?

MQ既然将消息投递拆成了上下半场,为了保证消息的可靠投递,上下半场都必须保证消息必达。

MQ消息投递上半场,MQ-client-sender到MQ-server流程见上图1-3:

(1)MQ-client将消息发送给MQ-server;

画外音:此时业务方调用API:SendMsg。

(2)MQ-server将消息落地,落地后即为发送成功;

(3)MQ-server将应答发送给MQ-client;

画外音:此时回调业务API:SendCallback。

MQ消息投递下半场,MQ-server到MQ-client-receiver流程见上图4-6:

(4)MQ-server将消息发送给MQ-client;

画外音:此时回调业务API:RecvCallback。

(5)MQ-client回复应答给MQ-server;

画外音:此时业务方主动调用API:SendAck。

(6)MQ-server收到ack,将之前已经落地的消息删除,完成消息的可靠投递;

如果消息丢了怎么办?

MQ消息投递的上下半场,都可以出现消息丢失,为了保证消息可达性,MQ需要进行超时和重传。

上半场如何实施超时与重传?

MQ上半场的1或者2或者3如果丢失或者超时,MQ-client-sender内的timer会重发消息,直到期望收到3,如果重传N次后还未收到,则SendCallback回调发送失败,需要注意的是,这个过程中MQ-server可能会收到同一条消息的多次重发。

下半场如何实施超时与重传?

MQ下半场的4或者5或者6如果丢失或者超时,MQ-server内的timer会重发消息,直到收到5并且成功执行6,这个过程可能会重发很多次消息。

画外音:一般采用指数退避的策略,先隔x秒重发,2x秒重发,4x秒重发,以此类推。

需要注意的是,这个过程中MQ-client-receiver也可能会收到同一条消息的多次重发。

总结

MQ是系统之间的解耦利器,MQ为了保证消息必达,架构设计方向为:

(1)消息收到先落地;

(2)消息超时、重传、确认保证消息必达;

本文分享自微信公众号 - 架构师之路(road5858),作者:58沈剑

原文出处及转载信息见文内详细说明,如有侵权,请联系 yunjia_community@tencent.com 删除。

原始发表时间:2020-06-03

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 消息总线真的能保证幂等?

    一、缘起 如《消息总线消息必达》所述,MQ消息必达,架构上有两个核心设计点: (1)消息落地 (2)消息超时、重传、确认 ? 再次回顾消息总线核心架构,它由发送...

    架构师之路
  • 消息总线能否实现消息必达?

    一、缘起 上周讨论了两期环形队列的业务应用: 《高效定时任务的触发》 《延迟消息的快速实现》 两期的均有大量读者提问: 任务、延迟消息都放在内存里,万一重启了怎...

    架构师之路
  • 58到家MQ如何快速实现流量削峰填谷

    问:为什么会有本文? 答:上一篇文章《到底什么时候该使用MQ?》引起了广泛的讨论,有朋友回复说,MQ的还有一个典型应用场景是缓冲流量,削峰填谷,本文将简单介绍下...

    架构师之路
  • MQ消息队列应用研究

    版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.n...

    林老师带你学编程
  • MQ(消息队列)常见的应用场景解析

    提高系统性能首先考虑的是数据库的优化,之前一篇文章《数据库的使用你可能忽略了这些》中有提到过开发中,针对数据库需要注意的事项。但是数据库因为历史原因,横向扩展是...

    itmifen
  • 信用算力实现金融级数据服务的实践

    微服务架构已成为了互联网的热门话题之一,而这也是互联网技术发展的必然阶段。然而,微服务概念的提出者 Martin Fowler 却强调:分布式调用的第一原则就是...

    heidsoft
  • 58到家MQ如何快速实现流量削峰填谷

    问:为什么会有本文? 答:上一篇文章《到底什么时候该使用MQ?》引起了广泛的讨论,有朋友回复说,MQ的还有一个典型应用场景是缓冲流量,削峰填谷,本文将简单介绍下...

    架构师之路
  • 消息总线能否实现消息必达?

    一、缘起 上周讨论了两期环形队列的业务应用: 《高效定时任务的触发》 《延迟消息的快速实现》 两期的均有大量读者提问: 任务、延迟消息都放在内存里,万一重启了怎...

    架构师之路
  • 消息总线真的能保证幂等?

    一、缘起 如《消息总线消息必达》所述,MQ消息必达,架构上有两个核心设计点: (1)消息落地 (2)消息超时、重传、确认 ? 再次回顾消息总线核心架构,它由发送...

    架构师之路
  • 01.MQ简介

    当你刚刚为公司的一个Web应用实现了一个很棒的注册模块。它看起来简洁、高效。在你沾沾自喜的时候,你的leader对你说,现在咱们需要在注册成功后对用户发送一条短...

    qubianzhong

扫码关注云+社区

领取腾讯云代金券