MQ不丢消息，究竟是怎么实现的？

由 发布于
前几天有水友提问：
通过消息队列（MsgQueue，MQ）发送任务和消息，万一MQ重启了怎么办？能否保证MQ不丢消息？

今天就聊聊MQ的消息必达性架构与流程。

不丢消息，MQ架构设计的核心方向是什么？
MQ要想消息必达，架构上有两个核心设计点：
（1）消息落地；
（2）消息超时、重传、确认；

为了实现上述两个核心点，MQ架构如何？
上图是一个MQ的核心架构图，可以分为三大块：
（1）发送方 -> 左侧粉色部分；
（2）MQ核心集群 -> 中间蓝色部分；
（3）接收方 -> 右侧屎黄色部分；

粉色发送方又由两部分构成：
（1）业务调用方；
（2）MQ-client-sender；
其中后者向前者提供了两个核心API：

（1）SendMsg(bytes[] msg);

（2）SendCallback();


蓝色MQ核心集群又分为四个部分：

（1）MQ-server

（2）zk；

（3）db；

（4）管理后台web；


黄色接收方也由两部分构成：
（1）业务接收方；
（2）MQ-client-receiver；
其中后者向前者提供了两个核心API：

（1）RecvCallback(bytes[] msg);

（2）SendAck();


MQ是一个系统间解耦的利器，它能够很好的解除发布订阅者之间的耦合，它将上下游的消息投递解耦成两个部分，如架构图中的1箭头和2箭头：

箭头1：发送方将消息投递给MQ，上半场；
箭头2：MQ将消息投递给接收方，下半场；

MQ消息可靠投递核心流程如何？
MQ既然将消息投递拆成了上下半场，为了保证消息的可靠投递，上下半场都必须保证消息必达。
MQ消息投递上半场，MQ-client-sender到MQ-server流程见上图1-3：
（1）MQ-client将消息发送给MQ-server；
画外音：此时业务方调用API：SendMsg。
（2）MQ-server将消息落地，落地后即为发送成功；
（3）MQ-server将应答发送给MQ-client；
画外音：此时回调业务API：SendCallback。

MQ消息投递下半场，MQ-server到MQ-client-receiver流程见上图4-6：
（4）MQ-server将消息发送给MQ-client；
画外音：此时回调业务API：RecvCallback。
（5）MQ-client回复应答给MQ-server；
画外音：此时业务方主动调用API：SendAck。
（6）MQ-server收到ack，将之前已经落地的消息删除，完成消息的可靠投递；

如果消息丢了怎么办？
MQ消息投递的上下半场，都可以出现消息丢失，为了保证消息可达性，MQ需要进行超时和重传。

上半场如何实施超时与重传？
MQ上半场的1或者2或者3如果丢失或者超时，MQ-client-sender内的timer会重发消息，直到期望收到3，如果重传N次后还未收到，则SendCallback回调发送失败，需要注意的是，这个过程中MQ-server可能会收到同一条消息的多次重发。

下半场如何实施超时与重传？
MQ下半场的4或者5或者6如果丢失或者超时，MQ-server内的timer会重发消息，直到收到5并且成功执行6，这个过程可能会重发很多次消息。
画外音：一般采用指数退避的策略，先隔x秒重发，2x秒重发，4x秒重发，以此类推。
需要注意的是，这个过程中MQ-client-receiver也可能会收到同一条消息的多次重发。

总结
MQ是系统之间的解耦利器，MQ为了保证消息必达，架构设计方向为：
（1）消息收到先落地；
（2）消息超时、重传、确认保证消息必达；

遗留问题：
上半场，MQ-server可能收到重复的消息；下半场，MQ-client-receiver，也就是消息接收方可能收到重复的消息，怎么办？
画外音：如何去重，如何幂等设计，听玄姐直播为你解答。

事件：《RocketMQ企业级应用及定制化开发实践》
人物：奈学教育CEO，玄姐
时间：6.4、6.5、6.6三天，20:00-22:00
画外音：每天两小时直播，免费，有没有诚意？

如何参加？

扫码加小助手，获取直播地址，送架构师成长地图


内容大纲如何？

（1）MQ企业级应用场景分析；

（2）常见MQ选型对比；

（3）MQ高可用及水平扩展架构；

（4）MQ存储原理深度剖析；

（5）MQ服务注册与服务发现深度剖析；

（6）MQ负载均衡架构深度剖析；

（7）MQ事务消息实现原理；

（8）MQ延时消息架构原理；

（9）RocketMQ定制化开发实践；

（10）作业题及讲解；


连续3天(6.4/6.5/6.6)，每天2小时(20:00-22:00)，玄姐免费直播，MQ，干货多多，阅读原文，获取直播地址，只能帮你到这里了，一起学习吧。