RocketMQ双Master模式搭建

本文详细介绍如何在Hadoop环境中部署RocketMQ消息中间件,包括环境搭建、配置修改、日志配置及启动过程。提供了具体步骤与参数设置建议。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

服务器环境
192.168.1.106 hadoop master
192.168.1.107 hadoop master
上传解压
tar zxvf apache-rocketmq.tar.gz -C /home/hadoop
mv apache-rocketmq apache-rocketmq-4.2.0
ln -s ./apache-rocketmq-4.2.0 rocketmq
创建存储路径
mkdir -p /home/hadoop/rocketmq/store
mkdir -p /home/hadoop/rocketmq/store/commitlog
mkdir -p /home/hadoop/rocketmq/store/consumequeue
mkdir -p /home/hadoop/rocketmq/store/index
修改配置文件
1、cd /home/hadoop/rocketmq/conf/2m-noslave
2、修改配置文件vi broker-a.properties
#所属集群名字
brokerClusterName=rocketmq-cluster
#broker名字,注意此处不同的配置文件填写的不一样
brokerName=broker-a
#0 表示 Master,>0 表示 Slave
brokerId=0
#nameServer地址,分号分割
namesrvAddr=node01:9876;node02:9876
#在发送消息时,自动创建服务器不存在的topic,默认创建的队列数
defaultTopicQueueNums=4
#是否允许 Broker 自动创建Topic,建议线下开启,线上关闭
autoCreateTopicEnable=true
#是否允许 Broker 自动创建订阅组,建议线下开启,线上关闭
autoCreateSubscriptionGroup=true
#Broker 对外服务的监听端口
listenPort=10911
#删除文件时间点,默认凌晨 4点
deleteWhen=04
#文件保留时间,默认 48 小时
fileReservedTime=120
#commitLog每个文件的大小默认1G
mapedFileSizeCommitLog=1073741824
#ConsumeQueue每个文件默认存30W条,根据业务情况调整
mapedFileSizeConsumeQueue=300000
#destroyMapedFileIntervalForcibly=120000
#redeleteHangedFileInterval=120000
#检测物理文件磁盘空间
diskMaxUsedSpaceRatio=88
#存储路径
storePathRootDir=/home/hadoop/rocketmq/store
#commitLog 存储路径
storePathCommitLog=/home/hadoop/rocketmq/store/commitlog
#消费队列存储路径存储路径
storePathConsumeQueue=/home/hadoop/rocketmq/store/consumequeue
#消息索引存储路径
storePathIndex=/home/hadoop/rocketmq/store/index
#checkpoint 文件存储路径
storeCheckpoint=/home/hadoop/rocketmq/store/checkpoint
#abort 文件存储路径
abortFile=/home/hadoop/rocketmq/store/abort
#限制的消息大小
maxMessageSize=65536
#flushCommitLogLeastPages=4
#flushConsumeQueueLeastPages=2
#flushCommitLogThoroughInterval=10000
#flushConsumeQueueThoroughInterval=60000
#Broker 的角色
#- ASYNC_MASTER 异步复制Master
#- SYNC_MASTER 同步双写Master
#- SLAVE
brokerRole=ASYNC_MASTER
#刷盘方式
#- ASYNC_FLUSH 异步刷盘
#- SYNC_FLUSH 同步刷盘
flushDiskType=ASYNC_FLUSH
#checkTransactionMessageEnable=false
#发消息线程池数量
#sendMessageThreadPoolNums=128
#拉消息线程池数量
#pullMessageThreadPoolNums=128
3、cp broker-a.properties broker-b.properties
并修改brokerName
修改日志配置文件
mkdir -p /home/hadoop/rocketmq/logscd /home/hadoop/rocketmq/conf && sed -i 's#${user.home}#/home/hadoop/rocketmq#g' *.xml
修改启动脚本
vi /home/hadoop/rocketmq/bin/runbroker.sh
JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn512m"
vi /home/hadoop/rocketmq/bin/runserver.sh
JAVA_OPT="${JAVA_OPT} -server -Xms1g -Xmx1g -Xmn512m -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=320m"
将rocketmq同步到107主机
scp -r rocketmq node02:/home/hadoop/
启动NameServer
分别在2台主机执行以下命令
nohup sh mqnamesrv &
查看日志确认NameServer是否启动成功
tail -200f ../logs/rocketmqlogs/namesrv.log
启动Broker
分别在106,107主机执行以下命令
nohup sh mqbroker -c /home/hadoop/rocketmq/conf/2m-noslave/broker-a.properties >/dev/null 2>&1 &
nohup sh mqbroker -c /home/hadoop/rocketmq/conf/2m-noslave/broker-b.properties >/dev/null 2>&1 &
查看日志
tail -200f ../logs/rocketmqlogs/broker.log


### 配置RocketMQ 5.3.1三主节点集群 #### 创建必要的目录结构和环境准备 为了部署三个主节点的RocketMQ集群,首先需要创建用于存储日志和其他数据文件的相关目录。假设这些操作在一个Linux环境中执行。 ```bash mkdir -p /opt/rocketmq/{namesrv,master1,master2,master3} chown -R rocketmq:rocketmq /opt/rocketmq/ ``` 这里`/opt/rocketmq/namesrv`, `/opt/rocketmq/master1`, `...master3`分别代表Name Server以及各个Broker Master实例的工作路径[^1]。 #### 下载并解压RocketMQ软件包 获取指定版本(此处为5.3.1)的官方二进制分发版,并将其放置到所有计划运行Broker的服务端上: ```bash wget https://archive.apache.org/dist/rocketmq/5.3.1/apache-rocketmq-5.3.1-bin-release.zip unzip apache-rocketmq-5.3.1-bin-release.zip -d /usr/local/ ln -s /usr/local/apache-rocketmq-5.3.1 /usr/local/rocketmq ``` 上述命令会下载、解压缩并将最新版本链接至更短的名字以便于管理。 #### 修改配置文件适应多Master场景 编辑位于`/usr/local/rocketmq/conf/broker.conf`中的参数来支持多个Master Broker: ```properties brokerClusterName=DefaultCluster brokerName=broker-a # 对应第一个Master, 其他两个依次命名为 broker-b 和 broker-c brokerId=0 # 所有Master都应该是0表示这是个Leader角色 deleteWhen=04 # 清理过期消息的时间点可以自定义调整 fileReservedTime=72 # 日志保留天数也可以按需设定 ... listenPort=10911 # 每台机器上的监听端口应该不同; 如此处设定了10911,则其他两台可分别为10912, 10913 storePathRootDir=/opt/rocketmq/master1/store # 存储根目录同样要针对每台服务器单独设置 storePathCommitLog=/opt/rocketmq/master1/store/commitlog accessMessageInDiskBySwitch=false # 如果磁盘性能良好建议关闭该选项提高吞吐量 autoCreateTopicEnable=true # 自动创建主题功能开启与否取决于具体需求 defaultTopicQueueNums=4 # 默认队列数量可根据业务特点适当增减 filterServerNums=1 # 过滤器服务数目一般保持默认即可 flushDiskType=ASYNC_FLUSH # 同步刷写还是异步刷写视硬件条件而定 enableOrder=true # 是否启用有序消费特性 ``` 注意以上配置项仅作为示例,在实际应用中应当依据实际情况做出相应修改。 #### 启动Nameserver和服务进程 确保所有的Nameservers已经启动完毕之后再逐一启动各Broker Master节点: ```bash nohup sh /usr/local/rocketmq/bin/mqnamesrv & sleep 3s && tail -f ~/logs/rocketmqlogs/namesrv.log # 查看启动状态直到成功为止 for i in {a..c}; do \ nohup sh /usr/local/rocketmq/bin/mqbroker -n localhost:9876 -c /usr/local/rocketmq/conf/${i}.conf &\ done; tail -f ~/logs/rocketmqlogs/broker*.log # 监控每个Broker的日志输出确认无误后继续下一步 ``` 通过这种方式可以在一台或多台物理机上面搭建起具备高可用特性的三主架构RocketMQ集群。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值