RocketMQ 是阿里巴巴在2012年开源的分布式消息中间件,目前已经捐赠给 Apache 软件基金会,并于2017年9月25日成为 Apache 的顶级项目。​​作为经历过多次阿里巴巴双十一这种“超级工程”的洗礼并有稳定出色表现的国产中间件,以其高性能、低延时和高可靠等特性近年来已经也被越来越多的国内企业使用。​​其主要特点有:

1. 灵活可扩展性

RocketMQ 天然支持集群,其核心四组件(Name Server、Broker、Producer、Consumer)每一个都可以在没有单点故障的情况下进行水平扩展。

2. 海量消息堆积能力

RocketMQ 采用零拷贝原理实现超大的消息的堆积能力,据说单机已可以支持亿级消息堆积,而且在堆积了这么多消息后依然保持写入低延迟。

3. 支持顺序消息

可以保证消息消费者按照消息发送的顺序对消息进行消费。顺序消息分为全局有序和局部有序,一般推荐使用局部有序,即生产者通过将某一类消息按顺序发送至同一个队列来实现。

4. 多种消息过滤方式

消息过滤分为在服务器端过滤和在消费端过滤。服务器端过滤时可以按照消息消费者的要求做过滤,优点是减少不必要消息传输,缺点是增加了消息服务器的负担,实现相对复杂。消费端过滤则完全由具体应用自定义实现,这种方式更加灵活,缺点是很多无用的消息会传输给消息消费者。

5. 支持事务消息

RocketMQ 除了支持普通消息,顺序消息之外还支持事务消息,这个特性对于分布式事务来说提供了又一种解决思路。

6. 回溯消费

回溯消费是指消费者已经消费成功的消息,由于业务上需求需要重新消费,RocketMQ 支持按照时间回溯消费,时间维度精确到毫秒,可以向前回溯,也可以向后回溯。10 分钟看懂消息队列 RocketMQ_spring

基本概念

10 分钟看懂消息队列 RocketMQ_服务器_02​​下面是一张 RocketMQ 的部署结构图,里面涉及了 RocketMQ 核心的四大组件:Name Server、Broker、Producer、Consumer ,每个组件都可以部署成集群模式进行水平扩展。

10 分钟看懂消息队列 RocketMQ_spring_03


10 分钟看懂消息队列 RocketMQ_spring​​生产者​​10 分钟看懂消息队列 RocketMQ_服务器_02生产者(Producer)负责产生消息,生产者向消息服务器发送由业务应用程序系统生成的消息。RocketMQ 提供了三种方式发送消息:同步、异步和单向。10 分钟看懂消息队列 RocketMQ_服务器_06

同步发送

10 分钟看懂消息队列 RocketMQ_spring_07

同步发送指消息发送方发出数据后会在收到接收方发回响应之后才发下一个数据包。一般用于重要通知消息,例如重要通知邮件、营销短信。

10 分钟看懂消息队列 RocketMQ_spring

异步发送

10 分钟看懂消息队列 RocketMQ_服务器_02异步发送指发送方发出数据后,不等接收方发回响应,接着发送下个数据包,一般用于可能链路耗时较长而对响应时间敏感的业务场景,例如用户视频上传后通知启动转码服务。10 分钟看懂消息队列 RocketMQ_spring

单向发送

10 分钟看懂消息队列 RocketMQ_服务器_02单向发送是指只负责发送消息而不等待服务器回应且没有回调函数触发,适用于某些耗时非常短但对可靠性要求并不高的场景,例如日志收集。10 分钟看懂消息队列 RocketMQ_spring

生产者组

10 分钟看懂消息队列 RocketMQ_服务器_02

生产者组(Producer Group)是一类 Producer 的集合,这类 Producer 通常发送一类消息并且发送逻辑一致,所以将这些 Producer 分组在一起。从部署结构上看生产者通过 Producer Group 的名字来标记自己是一个集群。

10 分钟看懂消息队列 RocketMQ_spring

消费者

10 分钟看懂消息队列 RocketMQ_服务器_02

消费者(Consumer)负责消费消息,消费者从消息服务器拉取信息并将其输入用户应用程序。站在用户应用的角度消费者有两种类型:拉取型消费者、推送型消费者。

10 分钟看懂消息队列 RocketMQ_spring

拉取型消费者

10 分钟看懂消息队列 RocketMQ_服务器_02拉取型消费者(Pull Consumer)主动从消息服务器拉取信息,只要批量拉取到消息,用户应用就会启动消费过程,所以 Pull 称为主动消费型。10 分钟看懂消息队列 RocketMQ_spring推送型消费者10 分钟看懂消息队列 RocketMQ_服务器_02

推送型消费者(Push Consumer)封装了消息的拉取、消费进度和其他的内部维护工作,将消息到达时执行的回调接口留给用户应用程序来实现。所以 Push 称为被动消费类型,但从实现上看还是从消息服务器中拉取消息,不同于 Pull 的是 Push 首先要注册消费监听器,当监听器处触发后才开始消费消息。

10 分钟看懂消息队列 RocketMQ_spring

消费者组

10 分钟看懂消息队列 RocketMQ_服务器_02

消费者组(Consumer Group)一类 Consumer 的集合名称,这类 Consumer 通常消费同一类消息并且消费逻辑一致,所以将这些 Consumer 分组在一起。消费者组与生产者组类似,都是将相同角色的分组在一起并命名,分组是个很精妙的概念设计,RocketMQ 正是通过这种分组机制,实现了天然的消息负载均衡。消费消息时通过 Consumer Group 实现了将消息分发到多个消费者服务器实例,比如某个 Topic 有9条消息,其中一个 Consumer Group 有3个实例(3个进程或3台机器),那么每个实例将均摊3条消息,这也意味着我们可以很方便的通过加机器来实现水平扩展。

10 分钟看懂消息队列 RocketMQ_spring

消息服务器

10 分钟看懂消息队列 RocketMQ_服务器_02

消息服务器(Broker)是消息存储中心,主要作用是接收来自 Producer 的消息并存储, Consumer 从这里取得消息。它还存储与消息相关的元数据,包括用户组、消费进度偏移量、队列信息等。从部署结构图中可以看出 Broker 有 Master 和 Slave 两种类型,Master 既可以写又可以读,Slave 不可以写只可以读。从物理结构上看 Broker 的集群部署方式有四种:单 Master 、多 Master 、多 Master 多 Slave(同步刷盘)、多 Master多 Slave(异步刷盘)。

10 分钟看懂消息队列 RocketMQ_spring

单 Master

10 分钟看懂消息队列 RocketMQ_服务器_02这种方式一旦 Broker 重启或宕机会导致整个服务不可用,这种方式风险较大,所以显然不建议线上环境使用。10 分钟看懂消息队列 RocketMQ_服务器_0210 分钟看懂消息队列 RocketMQ_spring

多 Master

所有消息服务器都是 Master ,没有 Slave 。这种方式优点是配置简单,单个 Master 宕机或重启维护对应用无影响。缺点是单台机器宕机期间,该机器上未被消费的消息在机器恢复之前不可订阅,消息实时性会受影响。

10 分钟看懂消息队列 RocketMQ_spring

多 Master 多 Slave(异步复制)

10 分钟看懂消息队列 RocketMQ_服务器_02

每个 Master 配置一个 Slave,所以有多对 Master-Slave,消息采用异步复制方式,主备之间有毫秒级消息延迟。这种方式优点是消息丢失的非常少,且消息实时性不会受影响,Master 宕机后消费者可以继续从 Slave 消费,中间的过程对用户应用程序透明,不需要人工干预,性能同多 Master 方式几乎一样。缺点是 Master 宕机时在磁盘损坏情况下会丢失极少量消息。

10 分钟看懂消息队列 RocketMQ_spring

多 Master 多 Slave(同步双写)

10 分钟看懂消息队列 RocketMQ_服务器_02

每个 Master 配置一个 Slave,所以有多对 Master-Slave ,消息采用同步双写方式,主备都写成功才返回成功。这种方式优点是数据与服务都没有单点问题,Master 宕机时消息无延迟,服务与数据的可用性非常高。缺点是性能相对异步复制方式略低,发送消息的延迟会略高。

10 分钟看懂消息队列 RocketMQ_服务器_06

名称服务器

10 分钟看懂消息队列 RocketMQ_spring_07名称服务器(NameServer)用来保存 Broker 相关元信息并给 Producer 和 Consumer 查找 Broker 信息。NameServer 被设计成几乎无状态的,可以横向扩展,节点之间相互之间无通信,通过部署多台机器来标记自己是一个伪集群。每个 Broker 在启动的时候会到 NameServer 注册,Producer 在发送消息前会根据 Topic 到 NameServer 获取到 Broker 的路由信息,Consumer 也会定时获取 Topic 的路由信息。所以从功能上看应该是和 ZooKeeper 差不多,据说 RocketMQ 的早期版本确实是使用的 ZooKeeper ,后来改为了自己实现的 NameServer 。10 分钟看懂消息队列 RocketMQ_spring

消息

10 分钟看懂消息队列 RocketMQ_服务器_02

消息(Message)就是要传输的信息。一条消息必须有一个主题(Topic),主题可以看做是你的信件要邮寄的地址。一条消息也可以拥有一个可选的标签(Tag)和额处的键值对,它们可以用于设置一个业务 key 并在 Broker 上查找此消息以便在开发期间查找问题。

10 分钟看懂消息队列 RocketMQ_spring

主题

10 分钟看懂消息队列 RocketMQ_服务器_02

主题(Topic)可以看做消息的规类,它是消息的第一级类型。比如一个电商系统可以分为:交易消息、物流消息等,一条消息必须有一个 Topic 。Topic 与生产者和消费者的关系非常松散,一个 Topic 可以有0个、1个、多个生产者向其发送消息,一个生产者也可以同时向不同的 Topic 发送消息。一个 Topic 也可以被 0个、1个、多个消费者订阅。

10 分钟看懂消息队列 RocketMQ_spring

标签

10 分钟看懂消息队列 RocketMQ_服务器_02

标签(Tag)可以看作子主题,它是消息的第二级类型,用于为用户提供额外的灵活性。使用标签,同一业务模块不同目的的消息就可以用相同 Topic 而不同的 Tag 来标识。比如交易消息又可以分为:交易创建消息、交易完成消息等,一条消息可以没有 Tag 。标签有助于保持您的代码干净和连贯,并且还可以为 RocketMQ 提供的查询系统提供帮助。

10 分钟看懂消息队列 RocketMQ_服务器_06

消息队列

10 分钟看懂消息队列 RocketMQ_spring_07消息队列(Message Queue),主题被划分为一个或多个子主题,即消息队列。一个 Topic 下可以设置多个消息队列,发送消息时执行该消息的 Topic ,RocketMQ 会轮询该 Topic 下的所有队列将消息发出去。下图 Broker 内部消息情况:10 分钟看懂消息队列 RocketMQ_服务器_4210 分钟看懂消息队列 RocketMQ_spring

消息消费模式

10 分钟看懂消息队列 RocketMQ_服务器_02消息消费模式有两种:集群消费(Clustering)和广播消费(Broadcasting)。默认情况下就是集群消费,该模式下一个消费者集群共同消费一个主题的多个队列,一个队列只会被一个消费者消费,如果某个消费者挂掉,分组内其它消费者会接替挂掉的消费者继续消费。而广播消费消息会发给消费者组中的每一个消费者进行消费。10 分钟看懂消息队列 RocketMQ_spring

消息顺序

10 分钟看懂消息队列 RocketMQ_服务器_02

消息顺序(Message Order)有两种:顺序消费(Orderly)和并行消费(Concurrently)。顺序消费表示消息消费的顺序同生产者为每个消息队列发送的顺序一致,所以如果正在处理全局顺序是强制性的场景,需要确保使用的主题只有一个消息队列。并行消费不再保证消息顺序,消费的最大并行数量受每个消费者客户端指定的线程池限制。

10 分钟看懂消息队列 RocketMQ_服务器_06

Java 访问 RocketMQ 实例

10 分钟看懂消息队列 RocketMQ_spring_07

RocketMQ 目前支持 Java、C++、Go 三种语言访问,按惯例以 Java 语言为例看下如何用 RocketMQ 来收发消息的。

10 分钟看懂消息队列 RocketMQ_服务器_06

引入依赖

10 分钟看懂消息队列 RocketMQ_spring_07


10 分钟看懂消息队列 RocketMQ_服务器_51

添加 RocketMQ 客户端访问支持,具体版本和安装的 RocketMQ 版本一致即可。

10 分钟看懂消息队列 RocketMQ_spring

消息生产者

10 分钟看懂消息队列 RocketMQ_服务器_02


10 分钟看懂消息队列 RocketMQ_发送消息_54

示例中用 DefaultMQProducer 类来创建一个消息生产者,通常一个应用创建一个 DefaultMQProducer 对象,所以一般由应用来维护生产者对象,可以其设置为全局对象或者单例。该类构造函数入参 producerGroup 是消息生产者组的名字,无论生产者还是消费者都必须给出 GroupName ,并保证该名字的唯一性,ProducerGroup 发送普通的消息时作用不大,后面介绍分布式事务消息时会用到。接下来指定 NameServer 地址和调用 start 方法初始化,在整个应用生命周期内只需要调用一次 start 方法。初始化完成后,调用 send 方法发送消息,示例中只是简单的构造了100条同样的消息发送,其实一个 Producer 对象可以发送多个主题多个标签的消息,消息对象的标签可以为空。send 方法是同步调用,只要不抛异常就标识成功。最后应用退出时调用 shutdown 方法清理资源、关闭网络连接,从服务器上注销自己,通常建议应用在 JBOSS、Tomcat 等容器的退出钩子里调用 shutdown 方法。10 分钟看懂消息队列 RocketMQ_spring

消息消费者

10 分钟看懂消息队列 RocketMQ_服务器_02


10 分钟看懂消息队列 RocketMQ_发送消息_57

示例中用 DefaultMQPushConsumer 类来创建一个消息消费者,通生产者一样一个应用一般创建一个 DefaultMQPushConsumer 对象,该对象一般由应用来维护,可以其设置为全局对象或者单例。该类构造函数入参 consumerGroup 是消息消费者组的名字,需要保证该名字的唯一性。接下来指定 NameServer 地址和设置消费者应用程序第一次启动时从队列头部开始消费还是队列尾部开始消费。接着调用 subscribe 方法给消费者对象订阅指定主题下的消息,该方法第一个参数是主题名,第二个擦书是标签名,示例表示订阅了主题名 topic_example_java 下所有标签的消息。最主要的是注册消息监听器才能消费消息,示例中用的是 Consumer Push 的方式,即设置监听器回调的方式消费消息,默认监听回调方法中 List 里只有一条消息,可以通过设置参数来批量接收消息。最后调用 start 方法初始化,在整个应用生命周期内只需要调用一次 start 方法。10 分钟看懂消息队列 RocketMQ_spring

启动 Name Server

10 分钟看懂消息队列 RocketMQ_服务器_02


10 分钟看懂消息队列 RocketMQ_服务器_60

RocketMQ 核心的四大组件中 Name Server 和 Broker 都是由 RocketMQ 安装包提供的,所以要启动这两个应用才能提供消息服务。首先启动 Name Server,先确保你的机器中已经安装了与 RocketMQ 相匹配的 JDK ,并设置了环境变量 JAVA_HOME ,然后在 RocketMQ 的安装目录下执行 bin 目录下的 mqnamesrv ,默认会将该命令的执行情况输出到当前目录的 nohup.out 文件,最后跟踪日志文件查看 Name Server 的实际运行情况。

10 分钟看懂消息队列 RocketMQ_spring

启动 Broker

10 分钟看懂消息队列 RocketMQ_服务器_02

10 分钟看懂消息队列 RocketMQ_spring_63

同样也要确保你的机器中已经安装了与 RocketMQ 相匹配的 JDK ,并设置了环境变量 JAVA_HOME ,然后在 RocketMQ 的安装目录下执行 bin 目录下的 mqbroker ,默认会将该命令的执行情况输出到当前目录的 nohup.out 文件,最后跟踪日志文件查看 Broker 的实际运行情况。

10 分钟看懂消息队列 RocketMQ_服务器_06

运行 Consumer

10 分钟看懂消息队列 RocketMQ_spring_07

先运行 Consumer 类,这样当生产者发送消息的时候能在消费者后端看到消息记录。配置没问题的话会看到在控制台打印出消息消费者已启动。

10 分钟看懂消息队列 RocketMQ_服务器_06

运行 Producer

10 分钟看懂消息队列 RocketMQ_spring_07最后运行 Producer 类,在 Consumer 的控制台能看到接收的消息

10 分钟看懂消息队列 RocketMQ_发送消息_68


10 分钟看懂消息队列 RocketMQ_spring

Spring 整合 RocketMQ

10 分钟看懂消息队列 RocketMQ_服务器_02不同于 RabbitMQ、ActiveMQ、Kafka 等消息中间件,Spring 社区已经通过多种方式提供了对这些中间件产品集成,例如通过 spring-jms 整合 ActiveMQ、通过 Spring AMQP 项目下的 spring-rabbit 整合 RabbitMQ、通过 spring-kafka 整合 kafka ,通过他们可以在 Spring 项目中更方便使用其 API 。目前在 Spring 框架中集成 RocketMQ 有三种方式,一是将消息生产者和消费者定义成 bean 对象交由 Spring 容器管理,二是使用 RocketMQ 社区的外部项目 rocketmq-jms(https://github.com/apache/rocketmq-externals/tree/master/rocketmq-jms)然后通过 spring-jms 方式集成使用,三是如果你的应用是基于 spring-boot 的,可以使用 RocketMQ 的外部项rocketmq-spring-boot-starter(https://github.com/apache/rocketmq-externals/tree/master/rocketmq-spring-boot-starter)比较方便的收发消息。总的来讲 rocketmq-jms 项目实现了 JMS 1.1 规范的部分内容,目前支持 JMS 中的发布/订阅模型收发消息。rocketmq-spring-boot-starter 项目目前已经支持同步发送、异步发送、单向发送、顺序消费、并行消费、集群消费、广播消费等特性,如果比较喜欢 Spring Boot 这种全家桶的快速开发框架并且现有特性已满足业务要求可以使用该项目。当然从 API 使用上最灵活的还是第一种方式,下面以第一种方式为例简单看下Spring 如何集成 RocketMQ 的。10 分钟看懂消息队列 RocketMQ_spring

消息生产者

10 分钟看懂消息队列 RocketMQ_服务器_02


10 分钟看懂消息队列 RocketMQ_spring_73

消息生产者就是把生产者 DefaultMQProducer 对象的生命周期分成构造函数、init、destroy 三个方法,构造函数中将生产者组名、NameServer 地址作为变量由 Spring 容器在配置时提供,init 方法中实例化 DefaultMQProducer 对象、设置 NameServer 地址、初始化生产者对象,destroy 方法用于生产者对象销毁时清理资源。

10 分钟看懂消息队列 RocketMQ_服务器_06

消息消费者

10 分钟看懂消息队列 RocketMQ_spring_07


10 分钟看懂消息队列 RocketMQ_服务器_76

同消息生产者类似,消息消费者是把生产者 DefaultMQPushConsumer 对象的生命周期分成构造函数、init、destroy 三个方法,具体含义在介绍 Java 访问 RocketMQ 实例时已经介绍过了,不再赘述。当然,有了消费者对象还需要消息监听器在接收到消息后执行具体的处理逻辑。

10 分钟看懂消息队列 RocketMQ_spring_77

消息监听器类就是把前面 Java 示例中注册消息监听器时声明的匿名内部类代码抽取出来定义成单独一个类而已。10 分钟看懂消息队列 RocketMQ_服务器_06

Spring 配置文件

10 分钟看懂消息队列 RocketMQ_spring_07因为只使用 Spring 框架集成,所以除了 Sping 框架核心 jar 包外不需要额外添加依赖包了。本例中将消息生产者和消息消费者分成两个配置文件,这样能更好的演示收发消息的效果。

10 分钟看懂消息队列 RocketMQ_发送消息_80

消息生产者配置很简单,定义了一个消息生产者对象,该对象初始化时调用 init 方法,对象销毁前执行 destroy 方法,将 Name Server 地址和生产者组配置好。

10 分钟看懂消息队列 RocketMQ_发送消息_81

消息消费者同消息生产者配置类似,多了一个消息监听器对象的定义和绑定。10 分钟看懂消息队列 RocketMQ_spring

运行实例程序

10 分钟看懂消息队列 RocketMQ_服务器_02按前述步骤 启动 Name Server 和 Broker,接着运行消息生产者和消息消费者程序,简化起见我们用两个单元测试类模拟这两个程序:

10 分钟看懂消息队列 RocketMQ_spring_84

SpringProducerTest 类模拟消息生产者发送消息。

10 分钟看懂消息队列 RocketMQ_服务器_85

SpringConsumerTest 类模拟消息消费者者接收消息,在 consume 方法返回之前需要让当前线程睡眠一段时间,使消费者程序继续存活才能监听到生产者发送的消息。分别运行 SpringProducerTest 类 和 SpringConsumerTest 类,在 SpringConsumerTest 的控制台能看到接收的消息:

10 分钟看懂消息队列 RocketMQ_服务器_86

假如启动两个 SpringConsumerTest 类进程,因为它们属于同一消费者组,在 SpringConsumerTest 的控制台能看到它们均摊到了消息:

10 分钟看懂消息队列 RocketMQ_服务器_87

10 分钟看懂消息队列 RocketMQ_服务器_88



​​