2.Rocket消费实例

博客介绍了RocketMQ相关知识,相同group的消费客户端属同一集群,相同group下topic和tag须一致,消费端和生产者的group可不同。还介绍了消息发送分类,包括异步、单向、顺序、批量、事务发送等,以及事务消费的流程和注意事项。

注意:

  1. 相同group的消费客户端,属于同一个集群。相同group下的topic和tag必须一致,不然信息会丢失。
  2. 消费端的group和生产者的group没有直接关系,可以不同。

 

2.1 demo

 

2.1.1 pom.xml(我部署的mq为4.4.0版本) 

   <dependency>

            <groupId>org.apache.rocketmq</groupId>

            <artifactId>rocketmq-client</artifactId>

            <version>4.4.0</version>

        </dependency>

2.1.2 application.properties

server.port=8082

rocketmq.producer.groupName=groupOne

rocketmq.producer.namesrvAddr=localhost:9876

 

2.1.3 product

@Service

public class ProducterService {

    @Value("${rocketmq.producer.namesrvAddr}")

    private String nameAddr;

    @Value("${rocketmq.producer.groupName}")

    private String group;



    private  DefaultMQProducer defaultMQProducer;

    @PostConstruct

    public void getProducer() {

        {

            defaultMQProducer = new DefaultMQProducer(group);

            defaultMQProducer.setNamesrvAddr(nameAddr);

        }

    }



 /*同步消费模式*/

    public void defaultMQProducer() {



        try {

            defaultMQProducer.start();

            for(int i = 0;i < 10; i++) {



                Message message = new Message("topic-one","test","key"+i, ("sync"+i).getBytes());

//              message.setDelayTimeLevel(3);//延迟发送

                SendResult result = defaultMQProducer.send(message);

                System.out.println("send msgId " + result.getMsgId() + " resultStatus:" + result.getSendStatus());

            }

            defaultMQProducer.shutdown();



        } catch (Exception e) {

            e.printStackTrace();

        }

}

}

2.1.4 Consumer

@Service

public class ConsumerService {



    @Value("${rocketmq.producer.namesrvAddr}")

    private String nameAddr;

    @Value("${rocketmq.producer.groupName}")

    private String group;

6.3 消费者

   /**

    * 无序消费

    * 和defultConsumer2的conusmer group,topic和tag一致是同一个集群

    * */

    @PostConstruct

    public void defultConsumer() throws MQClientException {

        int max = 2;

        DefaultMQPushConsumer consumer = new DefaultMQPushConsumer(group);

        consumer.setNamesrvAddr(nameAddr);

        consumer.subscribe("topic-one","test||pre");

        consumer.setInstanceName("one");

        /*设置消费失败后的重试次数,重试指定次数还是失败后不成功,则被放入死信队列,需要人工干预*/

        consumer.setMaxReconsumeTimes(max);

        consumer.registerMessageListener(new MessageListenerConcurrently() {

            @Override

            public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {

                for (MessageExt msg: msgs) {

                    try {

                        System.out.println("******消费 One:" + new String(msg.getBody(), "utf-8") + " key is:" +msg.getKeys());

                    } catch (UnsupportedEncodingException e) {

                        e.printStackTrace();

                    }finally {

                        if(msg.getReconsumeTimes() == max) {

                            System.out.println("到了最大重试次数了");

                            return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;

                        }

                    }

                }

                return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;

            }

        });

        consumer.start();

    }

}



2.2分类

2.2.1 异步发送消息

  1. 异步发送是指发送方发出数据后,不等接收方发回响应,接着发送下个数据包的通讯方式
  2. 消息发送后,会另起线程执行SendCallback里的方法
  3. 上文中producer里的方法改为如下,其他一致


   

/**

     * 异步发送消息

     * */6.3 消费者

    public void asyncMqProducer() throws MQClientException, RemotingException, InterruptedException {

        defaultMQProducer.start();

        defaultMQProducer.setRetryTimesWhenSendAsyncFailed(0);



        for(int i=0;i<10;i++) {



            Message message = new Message("topic-one","test","OrderID"+i,("async"+i).getBytes());

            System.out.println("product ready to send message "+ i);

            defaultMQPr6.oducer.send(message, new SendCallback() {

                @Override

                public void onSuccess(SendResult sendResult) {

                    System.out.println("async success msg:"+sendResult.getSendStatus());

                }



                @Override

                public void onException(Throwable e) {

                    System.out.println("async failed msg:"+e.getMessage());

                }

            });

        }

        Thread.sleep(10000);

        defaultMQPro6.ducer.shutdown();



    }

2.2.2 单向发送消息   

 /**

     * 单向发送消息

     * */

    public void defaultOneWayMQProducer() {

        try {

            defaultMQProducer.start();

            for(int i = 0;i < 10; i++) {

                Message message = new Message("topic-one","test","key"+i, ("sync"+i).getBytes());

                defaultMQProducer.sendOneway(message);

            }

            defaultMQ6.Producer.shutdown();

        } catch (Exception e) {

            e.printStackTrace();

        }

}

2.2.3顺序消息

 

  1. 通过轮询所有队列来发送的(负载均衡策略),orderId 相同的发送到同一个队列
  2. 同一个队列里的消息消费是有序的,非同队列中的消息消费无序

 

  1. Producer
    /**

     * 顺序消息

     * 通过轮询所有队列来发送的(负载均衡策略)

     * 消费端使用MessageListenerConcurrently

     * */

    public void orderMqProducer() throws MQClientException, RemotingException, InterruptedException, MQBrokerException {

        defaultMQProducer.start();

        for (int i = 1; i< 11; i++) {

            int orderId = i % 2;

            Message message = new Message("topic-one", "test","OrderID"+i,("orderMqProducer"+i).getBytes());

            System.out.println("orderMqProducer ready to send message "+ i);

            SendResult result = defaultMQProducer.send(message, new MessageQueueSelector() {

                @Override

                public MessageQueue select(List<MessageQueue> mqs, Message msg, Object arg) {

                    Integer id = (Integer) arg;

                    int index = id % mqs.size();

                    return mqs.get(index);

                }

            },orderId );

            System.out.println("orderMqProducer send msgId " + result.getMsgId() + " resultStatus:" + result.getSendStatus());

        }

        defaultMQProducer.shutdown();

    }



2.Consumer
 

 /**

     * 顺序消费

     * 同一个队列里的信息顺序消费

     * 只是针对集群消费

     * */

    @PostConstruct

    public void defultConsumerOrderly() throws MQClientException {

        DefaultMQPushConsumer consumer = new DefaultMQPushConsumer(group);

        consumer.setNamesrvAddr(nameAddr);

        consumer.setConsumeFromWhere(ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);

        consumer.subscribe("topic-one","test");

        consumer.registerMessageListener(new MessageListenerOrderly() {

            @Override

            public ConsumeOrderlyStatus consumeMessage(List<MessageExt> msgs, ConsumeOrderlyContext context) {

                for (MessageExt msg: msgs) {

                    try {

                        System.out.println("###defultConsumerOrderly msg:" + new String(msg.getBody(), "utf-8") + " key is:" +msg.getKeys());

                    } catch (UnsupportedEncodingException e) {

                        e.printStackTrace();6.3 消费者



                    }

                }

                return ConsumeOrderlyStatus.SUCCESS;

            }

        });

        consumer.start();



}







 

 

2.2.4批量消费

 /**

     * 批量发送的要求

     * 1.同一批次的信息要有同样的topic

     * 2.同样的waitStoreMsgOK

     * 3.不是计划消息

     * 4.同一批次所有的消息大小不超过1M

     * */

    public void BatchMqProducer(){

        try {

            defaultMQProducer.start();

            AtomicInteger integer = new AtomicInteger();

            System.out.println(integer.getAndIncrement());

            List<Message> messages = new ArrayList<>();

            for (int i = 1; i< 2; i++) {

                Message message = new Message("topic-one", "test","OrderID"+i,("BatchMqProducer"+i).getBytes());

                System.out.println("BatchMqProducer ready to send message "+ i);

                messages.add(message);

            }

            SendResult result = defaultMQProducer.send(messages);

            System.out.println( "BatchMqProducer resultStatus:" + result.getSendStatus());

            defaultMQProducer.shutdown();

        } catch (Exception e) {

            e.printStackTrace();

        }

    }

2.2.5事务消费

  1. 生产者发送Prepared消息,会拿到消息的地址
  2. 执行本地事物(executeLocalTransaction),执行成功或者失败会通过第一阶段拿到的地址去访问消息,并修改状态。
  3. RocketMQ轮训发现`Prepared消息`时,会回查事务(checkLocalTransaction)。

 

注意:

  1. rocektmq 4.4支持事务回查
  2. 并且需要在broker配置中配置:”checkTransactionMessageEnable=true
  3. 事务回查没有完成之前不要执行producer.shutdown,否则执行回查的线程池会关闭。

 

 

1 TransactionListenerImpl


 

public class TransactionListenerImpl implements TransactionListener {

    @Override

    public LocalTransactionState executeLocalTransaction(Message msg, Object arg) {





        return LocalTransactionState.COMMIT_MESSAGE;

    }



    @Override

    public LocalTransactionState checkLocalTransaction(MessageExt msg) {

        System.out.println("***********checkLocalTransaction################");

        return LocalTransactionState.COMMIT_MESSAGE;

    }

}

2 生产者

 /**

     * 事务消息

     * */

    public void DefultTransactionProducer() throws MQClientException, InterruptedException {

        TransactionMQProducer producer = new TransactionMQProducer(group);

        producer.setNamesrvAddr(nameAddr);



        TransactionListener listener = new TransactionListenerImpl();

        ExecutorService executorService = new ThreadPoolExecutor(2, 5,

                100, TimeUnit.SECONDS, new ArrayBlockingQueue<Runnable>(2000), new ThreadFactory() {

            @Override

            public Thread newThread(Runnable r) {

                Thread thread = new Thread(r);

                thread.setName("transaction-thread");

                return thread;

            }

        });

        producer.setExecutorService(executorService);

        producer.setTransactionListener(listener);

        producer.start();



        for (int i = 0; i< 10; i++) {

            Message message = new Message("topic-one", "TagA","OrderID"+i,("DefultTransactionProducer"+i).getBytes());

            TransactionSendResult result = producer.sendMessageInTransaction(message,null);

            Thread.sleep(10);

        }



        for (int i = 0; i < 100; i++) {

            Thread.sleep(1000);

        }

        producer.shutdown();



}

3 消费者

   /**

    * 无序消费

   * */

    @PostConstruct

    public void defultConsumer() throws MQClientException {

        int max = 2;

        DefaultMQPushConsumer consumer = new DefaultMQPushConsumer(group);

        consumer.setNamesrvAddr(nameAddr);

        consumer.setConsumeFromWhere(ConsumeFromWhere.CONSUME_FROM_FIRST_OFFSET);

        consumer.subscribe("topic-one","*");

        consumer.setInstanceName("one");

        /*设置消费失败后的重试次数,重试指定次数还是失败后不成功,则被放入死信队列,需要人工干预*/

        consumer.setMaxReconsumeTimes(max);

        consumer.registerMessageListener(new MessageListenerConcurrently() {

            @Override

            public ConsumeConcurrentlyStatus consumeMessage(List<MessageExt> msgs, ConsumeConcurrentlyContext context) {

                for (MessageExt msg: msgs) {

                    try {

                        System.out.println("******消费 One:" + new String(msg.getBody(), "utf-8") + " key is:" +msg.getKeys() +" tag:"+msg.getTags() +" topic:"+msg.getTopic() );

                    } catch (UnsupportedEncodingException e) {

                        e.printStackTrace();

                    }finally {

                        if(msg.getReconsumeTimes() == max) {

                            System.out.println("到了最大重试次数了");

                            return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;

                        }

                    }

                }

                return ConsumeConcurrentlyStatus.CONSUME_SUCCESS;

            }

        });

        consumer.start();

    }

 

<think> 嗯,用户现在聚焦在RocketMQ的Group ID概念上,看来ta正在深入研究消息队列的细节。结合之前分布式架构的讨论,Group ID其实是实现分布式消息系统的关键设计之一。 从用户引用的资料来看,ta应该已经看过RocketMQ的基础文档,但对Group ID的具体作用还存在疑问。尤其引用[2]提到Group ID是基本概念之一,引用[3]和[5]又涉及消息分组的使用场景,需要把这些碎片串联起来。 Group ID的核心作用其实体现在三个层面:在生产者端,不同业务模块使用独立的Group ID可以隔离消息流;在消费者端,同一个Group ID下的多个实例能自动负载均衡;而不同Group ID订阅相同Topic则实现广播。这种设计完美呼应了之前讨论的分布式架构特性——既保持节点自治性,又通过标准协议协作。 特别要注意引用[3]展示的代码片段,通过MessageQueueSelector实现顺序消息的场景。这里Group ID虽然没直接出现,但实际隐含了生产者Group的配置前提。用户如果关注电商场景,这个点值得展开说明。 安全方面需要提醒用户注意Group ID的命名规范,避免使用保留字段。另外引用[5]提到的标签管理其实和Group ID是互补关系,可以形成多维度的消息管理体系。 用户的学习路径很清晰,从架构原理深入到具体组件实现。接下来ta可能会追问消费者重平衡机制,或者Group ID在事务消息中的应用,需要准备好这方面的技术细节。 </think> 以下是关于 **RocketMQ Group ID** 的核心解析,结合引用资料和技术原理: --- ### 一、Group ID 的本质作用 Group ID 是 **消息生产者和消费者的逻辑分组标识**,用于实现两类核心功能: 1. **资源隔离** - 不同业务模块使用独立的 Group ID(如 `order_producer_group`、`payment_consumer_group`),避免消息流相互干扰[^2][^5]。 2. **负载均衡与协同消费** - **同 Group 的消费者**:自动分配 Topic 中的 Queue 实现并行处理(如订单服务 3 个实例共用一个 Group ID)[^2][^3]。 - **不同 Group 的消费者**:独立消费全量消息,实现广播模式(如日志采集服务订阅同一 Topic)[^2]。 --- ### 二、Group ID 的关键特性 | **场景** | **规则说明** | **引用依据** | |------------------|-----------------------------------------------------------------------------|------------| | **生产者 Group** | 标识消息来源方,用于事务消息回查(如 `producer_group_order`) | [^1][^3] | | **消费者 Group** | 相同 Group 的多个实例共享消费进度,确保消息不被重复消费 | [^2][^3] | | **命名规范** | 需全局唯一,建议格式:`业务域_角色_环境`(如 `payment_consumer_prod`) | [^5] | --- ### 三、Group ID 的技术原理 1. **消费位点管理** - Broker 为每个 **Consumer Group + Topic + Queue** 组合维护消费偏移量(offset)[^3]。 ```java // 消费者初始化时指定 Group ID DefaultMQPushConsumer consumer = new DefaultMQPushConsumer("inventory_consumer_group"); consumer.subscribe("order_topic", "*"); ``` 2. **重平衡机制** - 当消费实例增减时,Group 内触发 Queue 重新分配(如图): ```mermaid graph LR A[Topic: order_topic] --> B[Queue 0] A --> C[Queue 1] A --> D[Queue 2] B -->|Group1 Consumer A| E[实例1] C -->|Group1 Consumer B| F[实例2] D -->|Group1 Consumer C| G[实例3] ``` 若 Consumer B 下线,Queue 1 将分配给 Group1 的其他实例[^3]。 3. **顺序消息保障** - 指定同一 Group 内**特定 Queue 由单线程消费**,实现局部有序(如订单 ID 取模路由到固定 Queue)[^3]: ```java producer.send(msg, new MessageQueueSelector() { @Override public MessageQueue select(List<MessageQueue> mqs, Message msg, Object arg) { Long orderId = (Long) arg; return mqs.get(orderId % mqs.size()); // 同一订单路由到固定 Queue } }, orderId); ``` --- ### 四、最佳实践 1. **严格隔离生产/消费 Group** - 禁止生产者与消费者共用 Group ID,避免系统混乱[^2]。 2. **按业务维度划分 Group** - 参考标签(Tags)分类思维(引用[^5]),将支付、库存等业务分配到独立 Group。 3. **避免 Group 滥用** - 单个 Topic 关联的 Group 数量过多会导致 Broker 元数据膨胀,需定期清理闲置 Group[^5]。 > 💡 **本质总结**:Group ID 是 RocketMQ 分布式协作的**逻辑单元标识**,通过分组机制实现消息路由、负载均衡、进度管理等核心能力。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值