RocketMQ是一款分布式、队列模型的消息中间件,具有以下特点:
-
能够保证严格的消息顺序
-
提供丰富的消息拉取模式
-
高效的订阅者水平扩展能力
-
实时的消息订阅机制
-
亿级消息堆积能力
1.安装RocketMQ
1.1 安装环境git,Java,Maven
安装git
1
|
yum install git
|
安装jdk环境
下载jdk
http://www.oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html
安装并设置环境变量
1
2
3
|
rpm -ivh jdk-7u51-linux-x64.rpm
echo
"exportJAVA_HOME=/usr/java/default"
>> /etc/profile
source /etc/profile
|
安装maven
1
2
3
4
5
6
7
8
|
mkdir /usr/local/maven
tar zxvf apache-maven-
3.2
.
1
-bin.tar.gz -C/usr/local/maven/
echo
'exportM2_HOME=/usr/local/maven/apache-maven-3.2.1'
>> /etc/profile
echo
'export M2=$M2_HOME/bin'
>>/etc/profile
echo
'export MAVEN_OPTS="-Xms256m-Xmx512m"'
>> /etc/profile
echo
'export PATH=$M2:$PATH'
>>/etc/profile
source /etc/profile
mvn -v
|
1.2 安装RocketMQ
1
2
3
4
5
|
wget https:
//github.com/alibaba/RocketMQ/archive/v3.0.8-beta1.tar.gz
tar zxvf v3.
0.8
-beta1.tar.gz
cd rocketmq
sh install.sh
cd devenv
|
2.RocketMQ部署
Producer、Consumer、Broker都可以分布式部署。Producer、Consumer通过Name Server来寻找Broker,Broker启动后,会定时将要发布的Topic注册到NameServer。
2.1 启动nameserver
1
|
nohup mqnamesrv &
|
在生产环境部署nameserver,请参考以下软硬件要求
https://github.com/alibaba/RocketMQ/wiki/system_requirements
2.2 启动broker
1
|
nohup mqbroker -n
"192.168.0.1:9876;192.168.0.2:9876"
&
|
Broker指定Name Server地址的方式(优先级按照高低顺序排序)
启动Broker时,命令行方式指定
1
|
mqbroker -n
"192.168.0.1:9876;192.168.0.2:9876"
|
通过环境变量指定
1
|
exportNAMESRV_ADDR=
192.168
.
0.1
:
9876
;
192.168
.
0.2
:
9876
|
2.3 关闭nameserver或broker
1
2
|
sh ./mqshutdown
Useage: mqshutdown broker | namesrv
|
2.4 Producer/Consumer指定Name Server地址
通过代码中指定
1
|
producer.setNamesrvAddr(
"192.168.0.1:9876;192.168.0.2:9876"
);
|
或
1
|
consumer.setNamesrvAddr(
"192.168.0.1:9876;192.168.0.2:9876"
);
|
通过Java启动参数中指定
1
|
-Drocketmq.namesrv.addr=
192.168
.
0.1
:
9876
;
192.168
.
0.2
:
9876
|
通过环境变量指定
1
|
exportNAMESRV_ADDR=
192.168
.
0.1
:
9876
;
192.168
.
0.2
:
9876
|
在生产环境部署Broker,请参考以下软硬件要求
https://github.com/alibaba/RocketMQ/wiki/system_requirements
2.5 Broker集群部署
推荐的几种 Broker 集群部署方式,这里的Slave 不可写,但可读,类似与 Mysql 主备方式。
1.单个 Master
这种方式风险较大,一旦Broker 重启或者宕机时,会导致整个服务不可用,不建议线上环境使用。
2.多 Master 模式
一个集群无 Slave,全是 Master,例如 2 个 Master 或者 3 个 Master
优点:配置简单,单个Master 宕机或重启维护对应用无影响,在磁盘配置为 RAID10 时,即使机器宕机不可恢复情况下,由与 RAID10 磁盘非常可靠,消息也不会丢(异步刷盘丢失少量消息,同步刷盘一条不丢)。性能最高。
缺点:单台机器宕机期间,这台机器上未被消费的消息在机器恢复之前不可订阅,消息实时性会受到受到影响。
### 先启动 NameServer,例如机器 IP 为:192.168.1.1:9876
1
|
nohup sh mqnamesrv &
|
### 在机器 A,启动第一个 Master
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-noslave/broker-a.properties &
|
### 在机器 B,启动第二个 Master
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-noslave/broker-b.properties &
|
3.多 Master 多 Slave 模式,异步复制
每个 Master 配置一个 Slave,有多对Master-Slave,HA 采用异步复制方式,主备有短暂消息延迟,毫秒级。
优点:即使磁盘损坏,消息丢失的非常少,且消息实时性不会受影响,因为 Master 宕机后,消费者仍然可以从 Slave 消费,此过程对应用透明。不需要人工干预。性能同多 Master 模式几乎一样。
缺点:Master 宕机,磁盘损坏情况,会丢失少量消息。
### 先启动 NameServer,例如机器 IP 为:192.168.1.1:9876
1
|
nohup sh mqnamesrv &
|
### 在机器 A,启动第一个 Master
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-2s-async/broker-a.properties &
|
### 在机器 B,启动第二个 Master
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-2s-async/broker-b.properties &
|
### 在机器 C,启动第一个 Slave
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-2s-async/broker-a-s.properties &
|
### 在机器 D,启动第二个 Slave
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-2s-async/broker-b-s.properties &
|
4. 多 Master 多 Slave 模式,同步双写
每个 Master 配置一个 Slave,有多对Master-Slave,HA 采用同步双写方式,主备都写成功,向应用返回成功。
优点:数据与服务都无单点,Master宕机情况下,消息无延迟,服务可用性与数据可用性都非常高
缺点:性能比异步复制模式略低,大约低 10%左右,发送单个消息的 RT 会略高。目前主宕机后,备机不能自动切换为主机,后续会支持自动切换功能。
### 先启动 NameServer,例如机器 IP 为:192.168.1.1:9876
1
|
nohup sh mqnamesrv &
|
### 在机器 A,启动第一个 Master
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-a.properties &
|
### 在机器 B,启动第二个 Master
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-b.properties &
|
### 在机器 C,启动第一个 Slave
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-a-s.properties &
|
### 在机器 D,启动第二个 Slave
1
|
nohup sh mqbroker -n
192.168
.
1.1
:
9876
-c$ROCKETMQ_HOME/conf/2m-2s-sync/broker-b-s.properties &
|
以上 Broker 与 Slave 配对是通过指定相同的brokerName 参数来配对,Master 的 BrokerId 必须是 0,Slave的BrokerId 必须是大与 0 的数。另外一个 Master 下面可以挂载多个 Slave,同一 Master 下的多个 Slave 通过指定不同的 BrokerId 来区分。
$ROCKETMQ_HOST 指的 RocketMQ 安装目录,需要用户自己设置此环境变量