RocketMQ集群搭建步骤及搭建常见问题

本文详细介绍如何搭建RocketMQ的2m-2s双主双从集群架构,包括服务器环境配置、防火墙设置、环境变量配置、消息存储路径创建及Broker配置等关键步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.安装背景:

1)两台服务器:都安装了rocketmq
安装步骤可参考:https://blog.youkuaiyun.com/weixin_43184017/article/details/116427978

#我的安装路径
cat /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release

2)2m-2s 双主双从
腾讯云:Master1, Slave2
阿里云:Master2, Slave1
在这里插入图片描述

2.步骤

排个坑:master和slave指定不同的store文件夹才能启动成功,store目录不能重叠,同一台机器部署两个broker,消息存储路径不能一样

2.1.服务器环境

序号IP角色架构模式
1 腾讯云49.232.***.***nameserver、brokerserverMaster1、Slave2
2 阿里云106.14.***.***nameserver、brokerserverMaster2、Slave1
iptables -L  #默认查看filter
iptables -P FORWARD ACCEPT  #修改默认命令

2.2 Host添加信息

vim /etc/hosts

在最后面,配置(添加)如下信息,搭建集群架构名称:

# nameserver
49.232.***.*** rocketmq-nameserver1
106.14.***.*** rocketmq-nameserver2
# broker
49.232.***.*** rocketmq-master1
49.232.***.*** rocketmq-slave2
106.14.***.*** rocketmq-master2
106.14.***.*** rocketmq-slave1

配置完成后, 重启网卡

systemctl restart network

2.3 防火墙配置

宿主机需要远程访问虚拟机的rocketmq服务和web服务,需要开放相关的端口号,简单粗暴的方式是直接关闭防火墙

# 关闭防火墙
systemctl stop firewalld.service 
# 查看防火墙的状态
firewall-cmd --state 
# 禁止firewall开机启动
systemctl disable firewalld.service

或者为了安全,只开放特定的端口号,RocketMQ默认使用3个端口:9876 、10911 、11011 。如果防火墙没有关闭的话,那么防火墙就必须开放这些端口:

  • nameserver 默认使用 9876 端口
  • master 默认使用 10911 端口
  • slave 默认使用11011 端口

执行以下命令:

# 开放name server默认端口
firewall-cmd --remove-port=9876/tcp --permanent
# 开放master默认端口
firewall-cmd --remove-port=10911/tcp --permanent
# 开放slave默认端口 (当前集群模式可不开启)
firewall-cmd --remove-port=11011/tcp --permanent 
# 重启防火墙
firewall-cmd --reload

2.4 环境变量配置

vim /etc/profile

在profile文件的末尾加入如下命令

#set rocketmq  解压目录(java的环境变量配置也是在这里)
ROCKETMQ_HOME=/usr/local/rocketmq/rocketmq-all-4.8.0-bin-release
PATH=$PATH:$ROCKETMQ_HOME/bin
export ROCKETMQ_HOME PATH

输入:wq! 保存并退出, 并使得配置立刻生效:

source /etc/profile

2.5 创建消息存储路径

备注同一台机器主从节点共用存储路径会冲突报错,需要方便创建两个目录避坑,下一步配置文件需使用对应的路径
参考:https://blog.youkuaiyun.com/qq_42043982/article/details/103602528?utm_medium=distribute.pc_aggpage_search_result.none-task-blog-2aggregatepagefirst_rank_v2~rank_aggregation-1-103602528.pc_agg_rank_aggregation&utm_term=rocketmq+%E9%9B%86%E7%BE%A4%E6%A8%A1%E5%BC%8F%E5%8F%8C%E4%B8%BB%E5%8F%8C%E4%BB%8E&spm=1000.2123.3001.4430

#master存储路径
mkdir /usr/local/rocketmq/store
mkdir /usr/local/rocketmq/store/commitlog
mkdir /usr/local/rocketmq/store/consumequeue
mkdir /usr/local/rocketmq/store/index
#slave存储路径
mkdir /usr/local/rocketmq/sstore
mkdir /usr/local/rocketmq/sstore/commitlog
mkdir /usr/local/rocketmq/sstore/consumequeue
mkdir /usr/local/rocketmq/sstore/index

2.6 broker配置文件

0)jps检查下,若namserv和broker在运行,关掉
# 1.关闭NameServer
sh bin/mqshutdown namesrv
# 2.关闭Broker
sh bin/mqshutdown broker
1)master1
cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync #查看目录

在这里插入图片描述

腾讯云服务器:49.232.***.***
在这里插入图片描述
使用下列命令,或直接在nppftp中可视化修改(上图)

vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-a.properties 

修改配置如下:

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
2)slave2

服务器:49.232.***.***

vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-b-s.properties

修改配置如下:

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/sstore
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/sstore/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/sstore/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/sstore/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/sstore/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/sstore/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
3)master2

阿里云服务器:106.14.***.***
在这里插入图片描述或直接在nppftp中可视化修改(上图)

vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-b.properties

修改配置如下:

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
4)slave1

阿里云服务器:106.14.***.***

vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-a-s.properties

修改配置如下:

#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/sstore
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/sstore/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/sstore/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/sstore/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/sstore/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/sstore/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128

2.7 修改启动脚本文件

1)runbroker.sh
vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin/runbroker.sh

需要根据内存大小对JVM参数进行适当的调整:

#===================================================
# 开发环境配置 JVM Configuration
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m"

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Rs6KZPlP-1620553255338)(C:\Users\PC\AppData\Roaming\Typora\typora-user-images\image-20210509154248850.png)]

2)runserver.sh
vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin/runserver.sh
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"

在这里插入图片描述

2.8 服务启动

1)启动NameServer集群

分别在腾讯云49.232.***.***和阿里云106.14.***.***启动NameServer

cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin  
nohup sh mqnamesrv &  #因已配置了环境变量,直接在这行启动即可
2)启动Broker集群
  • 在腾讯云 49.232.***.*** 上启动master1和slave2

master1:

cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqbroker -c /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-a.properties &

slave2:

cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqbroker -c /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-b-s.properties &
  • 在阿里云 106.14.***.***上启动master2和slave2

master2

cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqbroker -c /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-b.properties &

slave1

cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqbroker -c /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-a-s.properties &

3 查看进程状态

启动后通过JPS查看启动进程,若两台服务器显示如下图红框中的进程数量(2个Broker,1个NameSer),表示启动成功
在这里插入图片描述

4 查看日志

# 查看nameServer日志
tail -500f ~/logs/rocketmqlogs/namesrv.log
# 查看broker日志
tail -500f ~/logs/rocketmqlogs/broker.log

5.安装常见问题:

5.1只能启动一个Broker

原因1:
Master1、Slave2和Master2、Slave1配置错误。理清顺序,重新配置。参考2.6中这里的截图

在这里插入图片描述
在这里插入图片描述
原因2:
同一台服务器master和slave指定不同的store文件夹才能启动成功,store目录不能重叠,同一台机器部署两个broker,消息存储路径不能一样。

详细检查Broker的配置:
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

5.2启动不了Broker

查看jvm的配置,调小一下即可!

在这里插入图片描述

参考:

1.安装视频:https://www.bilibili.com/video/BV1L4411y7mn?p=12
2.问题排查:https://blog.youkuaiyun.com/weixin_44684539/article/details/107643985
3.查看iptables防火墙设置,关于包的过滤、转发等
详解链接:https://blog.51cto.com/yijiu/1356254

欢迎讨论交流

在这里插入图片描述

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值