消息中间件RocketMQ的安装与部署

官方简介:

RocketMQ是一款分布式、队列模型的消息中间件,具有以下特点:

  • 能够保证严格的消息顺序

  • 提供丰富的消息拉取模式

  • 高效的订阅者水平扩展能力

  • 实时的消息订阅机制

  • 亿级消息堆积能力

1.安装RocketMQ

1.1 安装环境gitJavaMaven

   安装git

yum install git

   安装jdk环境

   下载jdk

http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html

   安装并设置环境变量

rpm -ivh jdk-7u51-linux-x64.rpm
echo "exportJAVA_HOME=/usr/java/default" >> /etc/profile
source /etc/profile

   安装maven

mkdir /usr/local/maven
tar zxvf apache-maven-3.2.1-bin.tar.gz -C/usr/local/maven/
echo 'exportM2_HOME=/usr/local/maven/apache-maven-3.2.1' >> /etc/profile
echo 'export M2=$M2_HOME/bin' >>/etc/profile
echo 'export MAVEN_OPTS="-Xms256m-Xmx512m"' >> /etc/profile
echo 'export PATH=$M2:$PATH' >>/etc/profile
source /etc/profile
mvn -v

1.2 安装RocketMQ

wget https://github.com/alibaba/RocketMQ/archive/v3.0.8-beta1.tar.gz
tar zxvf v3.0.8-beta1.tar.gz
cd rocketmq
sh install.sh
cd devenv

2.RocketMQ部署

   Producer、Consumer、Broker都可以分布式部署。Producer、Consumer通过Name Server来寻找Broker,Broker启动后,会定时将要发布的Topic注册到NameServer


2.1 启动nameserver

nohup mqnamesrv &

在生产环境部署nameserver,请参考以下软硬件要求

https://github.com/alibaba/RocketMQ/wiki/system_requirements

2.2 启动broker

nohup mqbroker -n "192.168.0.1:9876;192.168.0.2:9876" &

Broker指定Name Server地址的方式(优先级按照高低顺序排序)

   启动Broker时,命令行方式指定

mqbroker -n "192.168.0.1:9876;192.168.0.2:9876"

   通过环境变量指定

exportNAMESRV_ADDR=192.168.0.1:9876;192.168.0.2:9876

2.3 关闭nameserver或broker

sh ./mqshutdown
Useage: mqshutdown broker | namesrv

2.4 Producer/Consumer指定Name Server地址

   通过代码中指定

producer.setNamesrvAddr("192.168.0.1:9876;192.168.0.2:9876");

   或

consumer.setNamesrvAddr("192.168.0.1:9876;192.168.0.2:9876");

   通过Java启动参数中指定

-Drocketmq.namesrv.addr=192.168.0.1:9876;192.168.0.2:9876

   通过环境变量指定

exportNAMESRV_ADDR=192.168.0.1:9876;192.168.0.2:9876

在生产环境部署Broker,请参考以下软硬件要求

https://github.com/alibaba/RocketMQ/wiki/system_requirements

2.5 Broker集群部署

   推荐的几种 Broker 集群部署方式,这里的Slave 不可写,但可读,类似与 Mysql 主备方式。

1.单个 Master

   这种方式风险较大,一旦Broker 重启或者宕机时,会导致整个服务不可用,不建议线上环境使用。

2.多 Master 模式

   一个集群无 Slave,全是 Master,例如 2 个 Master 或者 3 个 Master

   优点:配置简单,单个Master 宕机或重启维护对应用无影响,在磁盘配置为 RAID10 时,即使机器宕机不可恢复情况下,由与 RAID10 磁盘非常可靠,消息也不会丢(异步刷盘丢失少量消息,同步刷盘一条不丢)。性能最高。

   缺点:单台机器宕机期间,这台机器上未被消费的消息在机器恢复之前不可订阅,消息实时性会受到受到影响。

   ###  先启动 NameServer,例如机器 IP 为:192.168.1.1:9876

nohup sh mqnamesrv &

   ###  在机器 A,启动第一个 Master

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-noslave/broker-a.properties &

   ###  在机器 B,启动第二个 Master

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-noslave/broker-b.properties &

3.多 Master 多 Slave 模式,异步复制

   每个 Master 配置一个 Slave,有多对Master-Slave,HA 采用异步复制方式,主备有短暂消息延迟,毫秒级。

   优点:即使磁盘损坏,消息丢失的非常少,且消息实时性不会受影响,因为 Master 宕机后,消费者仍然可以从 Slave 消费,此过程对应用透明。不需要人工干预。性能同多 Master 模式几乎一样。

   缺点:Master 宕机,磁盘损坏情况,会丢失少量消息。

   ###  先启动 NameServer,例如机器 IP 为:192.168.1.1:9876

nohup sh mqnamesrv &

   ###  在机器 A,启动第一个 Master

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-async/broker-a.properties &

   ###  在机器 B,启动第二个 Master

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-async/broker-b.properties &

   ###  在机器 C,启动第一个 Slave

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-async/broker-a-s.properties &

   ###  在机器 D,启动第二个 Slave

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-async/broker-b-s.properties &

4.  多 Master 多 Slave 模式,同步双写

   每个 Master 配置一个 Slave,有多对Master-Slave,HA 采用同步双写方式,主备都写成功,向应用返回成功。

   优点:数据与服务都无单点,Master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高

   缺点:性能比异步复制模式略低,大约低 10%左右,发送单个消息的 RT 会略高。目前主宕机后,备机不能自动切换为主机,后续会支持自动切换功能。

   ###  先启动 NameServer,例如机器 IP 为:192.168.1.1:9876

nohup sh mqnamesrv &

   ###  在机器 A,启动第一个 Master

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-a.properties &

   ###  在机器 B,启动第二个 Master

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-b.properties &

   ###  在机器 C,启动第一个 Slave

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-a-s.properties &

   ###  在机器 D,启动第二个 Slave

nohup sh mqbroker -n 192.168.1.1:9876 -c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-b-s.properties &

   以上 Broker 与 Slave 配对是通过指定相同的brokerName 参数来配对,Master 的 BrokerId 必须是 0,Slave 的BrokerId 必须是大与 0 的数。另外一个 Master 下面可以挂载多个 Slave,同一 Master 下的多个 Slave 通过指定不同的 BrokerId 来区分。

   $ROCKETMQ_HOST 指的 RocketMQ 安装目录,需要用户自己设置此环境变量