springboot2.x +kafka使用和源码分析八(自定义分区器)

1:生产者分区器

1:DefaultPartitioner默认分区器

如果producer没指定落地到指定partition中,Kafak通过默认的分区器对数据进行partition,默认的分区的规则是对key进行hash取值 % 分区数, 相同的key会分布到同一分区中。如果没指定key,则就按照轮询算法将消息均匀的分布在主题的可用分区上。

/**
 *
 * 自定义分区器
 */
public class DefaultPartitioner implements Partitioner {

    /**
     *  线程安全topic计数器容器
     */
    private final ConcurrentMap<String, AtomicInteger> topicCounterMap = new ConcurrentHashMap<>();

    /**
     * 获取配置定义属性
     * @param configs
     */
    @Override
    public void configure(Map<String, ?> configs) {}

    /**
     * 核心分区方法
     */
    @Override
    public int partition(String topic, Object key, byte[] keyBytes, Object value, byte[] valueBytes, Cluster cluster) {

        //获取该topic下partition
        List<PartitionInfo> partitions = cluster.partitionsForTopic(topic);
        int numPartitions = partitions.size();

        if (keyBytes == null) {
            //没有指定key的话 按照轮询算法来算出partit
要在Spring Boot 2.x中配置Kafka 2.2.0,首先需要在项目的pom.xml文件中添加相应的依赖项。在这个例子中,我们将使用Spring Kafka来与Kafka集成: ```xml <!-- Spring Kafka --> <dependency> <groupId>org.springframework.kafka</groupId> <artifactId>spring-kafka</artifactId> <version>2.2.0.RELEASE</version> </dependency> ``` 添加了依赖项后,可以在Spring Boot应用程序的配置文件(application.properties或application.yml)中配置Kafka连接相关属性。下面是一个示例的application.properties文件配置: ```properties # Kafka连接配置 spring.kafka.bootstrap-servers=localhost:9092 # 消费者配置 spring.kafka.consumer.group-id=my-group spring.kafka.consumer.auto-offset-reset=earliest # 生产者配置 spring.kafka.producer.key-serializer=org.apache.kafka.common.serialization.StringSerializer spring.kafka.producer.value-serializer=org.apache.kafka.common.serialization.StringSerializer ``` 以上配置示例设置了Kafka的连接地址为localhost:9092,并指定了消费者生产者的相关配置。你可以根据需要进行修改。 接下来,你可以创建Kafka消费者生产者的相关类。这些类可以使用Spring Kafka提供的注解模板来简化Kafka操作。下面是一个示例的Kafka消费者类: ```java import org.springframework.kafka.annotation.KafkaListener; import org.springframework.stereotype.Component; @Component public class KafkaConsumer { @KafkaListener(topics = "my-topic", groupId = "my-group") public void consume(String message) { // 处理接收到的消息 System.out.println("Received message: " + message); } } ``` 上面示例中的Kafka消费者使用了`@KafkaListener`注解来监听名为"my-topic"的Kafka主题,并将接收到的消息作为字符串进行处理。 类似地,你可以创建一个Kafka生产者类来发送消息。下面是一个示例的Kafka生产者类: ```java import org.springframework.kafka.core.KafkaTemplate; import org.springframework.stereotype.Component; @Component public class KafkaProducer { private final KafkaTemplate<String, String> kafkaTemplate; public KafkaProducer(KafkaTemplate<String, String> kafkaTemplate) { this.kafkaTemplate = kafkaTemplate; } public void sendMessage(String topic, String message) { kafkaTemplate.send(topic, message); } } ``` 上面示例中的Kafka生产者使用了`KafkaTemplate`来发送消息。 现在,你已经配置了Kafka并创建了消费者生产者类。你可以在其他的Spring Boot组件中使用这些类来实现Kafka的消费生产操作。 请注意,这只是一个简单的示例,实际使用中可能需要更多的配置自定义。你可以根据具体需求在项目中添加额外的配置逻辑。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值