一、 MQ 基本概念


1 MQ 概述


MQ 全称 Message Queue (消息队列),是在消息的传输过程中保存


消息的容器。多用于分布式系统之间进


行通信。




消息队列的幂等测试方案 消息队列mq原理_消息队列


 


小结


MQ ,消息 队列,存储消息的中间件


分布式系统通信两种方式:直接远程调用 和 借助第三方 完成间接通信


发送方称为生产者,接收方称为消费者


2 MQ 的优势和劣势 1 、优势


优势1:应用解耦



消息队列的幂等测试方案 消息队列mq原理_消息队列_02


 


优势2:异步提速



消息队列的幂等测试方案 消息队列mq原理_Erlang_03


 


优势3:削峰填谷



消息队列的幂等测试方案 消息队列mq原理_消息队列_04


 


使用了 MQ 之后,限制消费消息的速度为 1000 ,这样一来,高峰期产


生的数据势必会被积压在 MQ 中,高峰


就被 “ 削 ” 掉了,但是因为消息积压,在高峰期过后的一段时间内,消费消息


的速度还是会维持在 1000 ,直


到消费完积压的消息,这就叫做 “ 填谷 ” 。


使用 MQ 后,可以提高系统稳定性。


小结


⚫ 应用解耦:提高系统容错性和可维护性


⚫ 异步提速:提升用户体验和系统吞吐量


⚫ 削峰填谷:提高系统稳定性


2 、劣势


系统可用性降低


系统复杂度提高


一致性问题



消息队列的幂等测试方案 消息队列mq原理_消息队列_05


 


⚫ 系统可用性降低


系统引入的外部依赖越多,系统稳定性越差。一旦 MQ 宕机,就会


对业务造成影响。如何保证 MQ 的高可用?


⚫ 系统复杂度提高


MQ 的加入大大增加了系统的复杂度,以前系统间是同步的远程调


用,现在是通过 MQ 进行异步调用。如何


保证消息没有被重复消费?怎么处理消息丢失情况?那么保证消息


传递的顺序性?


⚫ 一致性问题


A 系统处理完业务,通过 MQ 给 B 、 C 、 D 三个系统发消息数据,如


果 B 系统、 C 系统处理成功, D 系统处理


失败。如何保证消息数据处理的一致性?


小结


既然 MQ 有优势也有劣势,那么使用 MQ 需要满足什么条件呢?


① 生产者不需要从消费者处获得反馈。引入消息队列之前的直接调用,其


接口的返回值应该为空,这才让明


明下层的动作还没做,上层却当成动作做完了继续往后走,即所谓异步


成为了可能。


② 容许短暂的不一致性。


③ 确实是用了有效果。即解耦、提速、削峰这些方面的收益,超过加入


MQ ,管理 MQ 这些成本。


3 、常见的 MQ 产品


目前业界有很多的 MQ 产品,例如 RabbitMQ 、 RocketMQ 、


ActiveMQ 、 Kafka 、 ZeroMQ 、 MetaMq 等,


也有直接使用 Redis 充当消息队列的案例,而这些消息队列产品,各有侧


重,在实际选型时,需要结合自身需


求及 MQ 产品特征,综合考虑。



消息队列的幂等测试方案 消息队列mq原理_Erlang_06


 


由于 RabbitMQ 综合能力强劲,所以接下来的课程中,我们将主要学习


RabbitMQ 。


4 RabbitMQ 简介


AMQP ,即 Advanced Message Queuing Protocol (高级消息队列协


议),是一个网络协议,是应用层协议


的一个开放标准,为面向消息的中间件设计。基于此协议的客户端与消息


中间件可传递消息,并不受客户端 / 中


间件不同产品,不同的开发语言等条件的限制。 2006 年, AMQP 规范发


布。类比 HTTP 。



消息队列的幂等测试方案 消息队列mq原理_开发语言_07


 


2007 年, Rabbit 技术公司基于 AMQP 标准开发的 RabbitMQ 1.0 发


布。 RabbitMQ 采用 Erlang 语言开发。


Erlang 语言由 Ericson 设计,专门为开发高并发和分布式系统的一种语


言,在电信领域使用广泛。


RabbitMQ 基础架构如下图:



消息队列的幂等测试方案 消息队列mq原理_消息队列的幂等测试方案_08


 



RabbitMQ 中的相关概念:


Broker :接收和分发消息的应用, RabbitMQ Server 就是 Message


Broker


Virtual host :出于多租户和安全因素设计的,把 AMQP 的基本组件


划分到一个虚拟的分组中,类似于网


络中的 namespace 概念。当多个不同的用户使用同一个 RabbitMQ


server 提供的服务时,可以划分出多


个 vhost ,每个用户在自己的 vhost 创建 exchange / queue 等


Connection : publisher / consumer 和 broker 之间的 TCP 连接


Channel :如果每一次访问 RabbitMQ 都建立一个 Connection ,在消


息量大的时候建立 TCP Connection


的开销将是巨大的,效率也较低。 Channel 是在 connection 内部建立


的逻辑连接,如果应用程序支持多线


程,通常每个 thread 创建单独的 channel 进行通讯, AMQP method


包含了 channel id 帮助客户端和


message broker 识别 channel ,所以 channel 之间是完全隔离的。


Channel 作为轻量级的 Connection


极大减少了操作系统建立 TCP connection 的开销


Exchange : message 到达 broker 的第一站,根据分发规则,匹配查


询表中的 routing key ,分发消息到


queue 中去。常用的类型有: direct (point-to-point), topic (publish


subscribe) and fanout (multicast)


Queue :消息最终被送到这里等待 consumer 取走


Binding : exchange 和 queue 之间的虚拟连接, binding 中可以包含


routing key 。 Binding 信息被保存


到 exchange 中的查询表中,用于 message 的分发依据


RabbitMQ 提供了 6 种工作模式: 简单模式


work queues


Publish/Subscribe 发布与订阅模式


Routing 路由模式


Topics 主题模式


RPC 远程调用模式(远程调用,不太算 MQ ;暂不作介绍)。


官网对应模式介绍: https://www.rabbitmq.com/getstarted.html



消息队列的幂等测试方案 消息队列mq原理_Erlang_09


 


5 JMS


⚫ JMS 即 Java 消息服务( JavaMessage Service )应用程序接口,是一个


Java 平台中关于面向消息中间件


的 API


⚫ JMS 是 JavaEE 规范中的一种,类比 JDBC


⚫ 很多消息中间件都实现了 JMS 规范,例如: ActiveMQ 。 RabbitMQ 官方


没有提供 JMS 的实现包,但是开


源社区有


小结 :


1. RabbitMQ 是基于 AMQP 协议使用 Erlang 语言开发的一款消息队列产


品。


2. RabbitMQ 提供了 6 种工作模式,我们学习 5 种。这是今天的重点。


3. AMQP 是协议,类比 HTTP 。


4. JMS 是 API 规范接口,类比 JDBC 。


6 RabbiMQ 安装与卸载