先说结果:会造成数据丢失

再说依据:

RocketMQ要求同一个消费者组内的消费者必须订阅关系一致,如果订阅关系不一致会出现消息丢失的问题。

官网入口:订阅关系一致 | RocketMQ

不想看官网的,直接看结论

什么叫订阅关系一致

1.订阅的Topic相同,或者订阅的Topic相同 tag也相同,或者Topic相同,tag的顺序也相同。

微服务下rocketmq同一消费组和topic导致消费重复 rocketmq 消费组订阅同一topic_java-rocketmq

2.什么叫不一致呢?

就是订阅的Topic不同,或者Topic相同,但是Tag不同,或者Topic相同tag也相同,但是顺序不同

微服务下rocketmq同一消费组和topic导致消费重复 rocketmq 消费组订阅同一topic_rocketmq_02

 再说为什么会导致丢失数据呢?

为了 提高消费效率,RocketMQ 引入了 ConsumeQueue,ConsumerQueue 中保存消息在 CommitLog 文件中的物理偏移量。ConsumerQueue 中的元素内容如下:

  • 前 8 个字节记录消息在 CommitLog 中的偏移量。
  • 中间 4 个字节记录消息消息大小。
  • 最后 8 个字节记录消息中 tag 的 hashcode。

微服务下rocketmq同一消费组和topic导致消费重复 rocketmq 消费组订阅同一topic_rocketmq_03

 关键在于最后这个tag的hashcode值,这个 tag 的作用是过滤消息,假如一个 Consumer 订阅了 Topic1 中的 Tag1,那这个 Consumer  拉取消息时,首先从 Name Server 获取订阅关系,得到当前 Consumer 订阅的所有 tag 的 hashcode 集合 codeSet。每次从 ConsumerQueue 获取一条记录,就要判断最后 8 个字节 tag hashcode 是否在 codeSet 中,比如 Tag2 不在 codeSet 中,就会被过滤掉。

微服务下rocketmq同一消费组和topic导致消费重复 rocketmq 消费组订阅同一topic_消息队列_04

 如上图,比如Topic1里面有个TagA,TagB。 consumer1订阅了TagA,consumer订阅了TagB,那 Consumer1 从 ConsumeQueue1 和 ConsumeQueue2 消费消息时,就会把 TagB 中的消息过滤掉,这样即使 Consumer2 订阅了 TagB,也不能消费到 ConsumeQueue1 和 ConsumeQueue2 里 TagB 中的消息了。

最后一个问题,怎么看是不是存在订阅关系不一致的 现象?

问题描述

在使用消息队列RocketMQ版实例时,可能会出现订阅关系不一致的情况,具体的问题现象如下:

  • 消息队列RocketMQ版控制台中订阅关系是否一致显示为否。
  • 消费者(Consumer)实例未收到订阅的消息。

请参考以下步骤进行检查

您可在消息消息队列RocketMQ版控制台Group 详情页面查看指定Group的订阅关系是否一致。若查询结果不一致,请参见本文(3 常见订阅关系不一致问题)排查Consumer实例的消费代码。

  1. 检查您Consumer实例中与订阅相关的配置代码,确保配置同一个Group ID的所有Consumer实例均订阅相同的Topic及Tag。
  2. 重启客户端应用。
  3. 登录消息队列RocketMQ版控制台,在左侧导航栏中单击实例列表,选择您的目标实例,进入实例详情页面。
  4. 在左侧导航栏中单击Group管理,选择对应的协议后,单击消费者状态,确认订阅关系是否一致显示为是。
  5. 测试并确认消息能够被预期的Consumer实例所消费。