1.安装背景:
1)两台服务器:都安装了rocketmq
安装步骤可参考:https://blog.youkuaiyun.com/weixin_43184017/article/details/116427978
#我的安装路径
cat /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release
2)2m-2s 双主双从
腾讯云:Master1, Slave2
阿里云:Master2, Slave1
2.步骤
排个坑:master和slave指定不同的store文件夹才能启动成功,store目录不能重叠,同一台机器部署两个broker,消息存储路径不能一样
2.1.服务器环境
序号 | IP | 角色 | 架构模式 |
---|---|---|---|
1 腾讯云 | 49.232.***.*** | nameserver、brokerserver | Master1、Slave2 |
2 阿里云 | 106.14.***.*** | nameserver、brokerserver | Master2、Slave1 |
iptables -L #默认查看filter
iptables -P FORWARD ACCEPT #修改默认命令
2.2 Host添加信息
vim /etc/hosts
在最后面,配置(添加)如下信息,搭建集群架构名称:
# nameserver
49.232.***.*** rocketmq-nameserver1
106.14.***.*** rocketmq-nameserver2
# broker
49.232.***.*** rocketmq-master1
49.232.***.*** rocketmq-slave2
106.14.***.*** rocketmq-master2
106.14.***.*** rocketmq-slave1
配置完成后, 重启网卡
systemctl restart network
2.3 防火墙配置
宿主机需要远程访问虚拟机的rocketmq服务和web服务,需要开放相关的端口号,简单粗暴的方式是直接关闭防火墙
# 关闭防火墙
systemctl stop firewalld.service
# 查看防火墙的状态
firewall-cmd --state
# 禁止firewall开机启动
systemctl disable firewalld.service
或者为了安全,只开放特定的端口号,RocketMQ默认使用3个端口:9876 、10911 、11011 。如果防火墙没有关闭的话,那么防火墙就必须开放这些端口:
nameserver
默认使用 9876 端口master
默认使用 10911 端口slave
默认使用11011 端口
执行以下命令:
# 开放name server默认端口
firewall-cmd --remove-port=9876/tcp --permanent
# 开放master默认端口
firewall-cmd --remove-port=10911/tcp --permanent
# 开放slave默认端口 (当前集群模式可不开启)
firewall-cmd --remove-port=11011/tcp --permanent
# 重启防火墙
firewall-cmd --reload
2.4 环境变量配置
vim /etc/profile
在profile文件的末尾加入如下命令
#set rocketmq 解压目录(java的环境变量配置也是在这里)
ROCKETMQ_HOME=/usr/local/rocketmq/rocketmq-all-4.8.0-bin-release
PATH=$PATH:$ROCKETMQ_HOME/bin
export ROCKETMQ_HOME PATH
输入:wq! 保存并退出, 并使得配置立刻生效:
source /etc/profile
2.5 创建消息存储路径
备注:同一台机器主从节点共用存储路径会冲突报错,需要方便创建两个目录避坑,下一步配置文件需使用对应的路径
参考:https://blog.youkuaiyun.com/qq_42043982/article/details/103602528?utm_medium=distribute.pc_aggpage_search_result.none-task-blog-2aggregatepagefirst_rank_v2~rank_aggregation-1-103602528.pc_agg_rank_aggregation&utm_term=rocketmq+%E9%9B%86%E7%BE%A4%E6%A8%A1%E5%BC%8F%E5%8F%8C%E4%B8%BB%E5%8F%8C%E4%BB%8E&spm=1000.2123.3001.4430
#master存储路径
mkdir /usr/local/rocketmq/store
mkdir /usr/local/rocketmq/store/commitlog
mkdir /usr/local/rocketmq/store/consumequeue
mkdir /usr/local/rocketmq/store/index
#slave存储路径
mkdir /usr/local/rocketmq/sstore
mkdir /usr/local/rocketmq/sstore/commitlog
mkdir /usr/local/rocketmq/sstore/consumequeue
mkdir /usr/local/rocketmq/sstore/index
2.6 broker配置文件
0)jps检查下,若namserv和broker在运行,关掉
# 1.关闭NameServer
sh bin/mqshutdown namesrv
# 2.关闭Broker
sh bin/mqshutdown broker
1)master1
cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync #查看目录
腾讯云服务器:49.232.***.***
使用下列命令,或直接在nppftp中可视化修改(上图)
vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-a.properties
修改配置如下:
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
2)slave2
服务器:49.232.***.***
vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-b-s.properties
修改配置如下:
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/sstore
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/sstore/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/sstore/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/sstore/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/sstore/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/sstore/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
3)master2
阿里云服务器:106.14.***.***
或直接在nppftp中可视化修改(上图)
vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-b.properties
修改配置如下:
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-b
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=SYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
4)slave1
阿里云服务器:106.14.***.***
vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-a-s.properties
修改配置如下:
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=1
#nameServer地址,分号分割
namesrvAddr=rocketmq-nameserver1:9876;rocketmq-nameserver2:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=11011
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/usr/local/rocketmq/sstore
#commitLog 存储路径
storePathCommitLog=/usr/local/rocketmq/sstore/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/usr/local/rocketmq/sstore/consumequeue
#消息索引存储路径
storePathIndex=/usr/local/rocketmq/sstore/index
#checkpoint 文件存储路径
storeCheckpoint=/usr/local/rocketmq/sstore/checkpoint
#abort 文件存储路径
abortFile=/usr/local/rocketmq/sstore/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=SLAVE
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
2.7 修改启动脚本文件
1)runbroker.sh
vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin/runbroker.sh
需要根据内存大小对JVM参数进行适当的调整:
#===================================================
# 开发环境配置 JVM Configuration
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m"
2)runserver.sh
vim /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin/runserver.sh
JAVA_OPT="${JAVA_OPT} -server -Xms256m -Xmx256m -Xmn128m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
2.8 服务启动
1)启动NameServer集群
分别在腾讯云49.232.***.***和阿里云106.14.***.***启动NameServer
cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqnamesrv & #因已配置了环境变量,直接在这行启动即可
2)启动Broker集群
- 在腾讯云 49.232.***.*** 上启动master1和slave2
master1:
cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqbroker -c /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-a.properties &
slave2:
cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqbroker -c /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-b-s.properties &
- 在阿里云 106.14.***.***上启动master2和slave2
master2
cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqbroker -c /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-b.properties &
slave1
cd /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/bin
nohup sh mqbroker -c /usr/local/rocketmq/rocketmq-all-4.8.0-bin-release/conf/2m-2s-sync/broker-a-s.properties &
3 查看进程状态
启动后通过JPS查看启动进程,若两台服务器显示如下图红框中的进程数量(2个Broker,1个NameSer),表示启动成功
4 查看日志
# 查看nameServer日志
tail -500f ~/logs/rocketmqlogs/namesrv.log
# 查看broker日志
tail -500f ~/logs/rocketmqlogs/broker.log
5.安装常见问题:
5.1只能启动一个Broker
原因1:
Master1、Slave2和Master2、Slave1配置错误。理清顺序,重新配置。参考2.6中这里的截图
原因2:
同一台服务器master和slave指定不同的store文件夹才能启动成功,store目录不能重叠,同一台机器部署两个broker,消息存储路径不能一样。
详细检查Broker的配置:
5.2启动不了Broker
查看jvm的配置,调小一下即可!
参考:
1.安装视频:https://www.bilibili.com/video/BV1L4411y7mn?p=12
2.问题排查:https://blog.youkuaiyun.com/weixin_44684539/article/details/107643985
3.查看iptables防火墙设置,关于包的过滤、转发等
详解链接:https://blog.51cto.com/yijiu/1356254
欢迎讨论交流