Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者和生产者之间的所有实时数据。 Apache Kafka是由Scala编写的开源流处理平台,设计用于构建实时数据管道和流应用。
在Java中使用Kafka,首先需要引入Kafka的客户端库。如果你使用Maven,你可以在你的pom.xml文件中添加以下依赖:
<dependency>
<groupId>org.apache.kafka</groupId>
<artifactId>kafka-clients</artifactId>
<version>2.8.0</version> <!-- 根据你的需求选择合适的版本 -->
</dependency>
下面是一个简单的Java程序,展示了如何创建一个Kafka生产者和消费者。
首先,我们需要创建一个生产者来发送消息到Kafka:
import org.apache.kafka.clients.producer.*;
import java.util.Properties;
public class ProducerDemo {
public static void main(String[] args) {
//设置配置属性
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092"); //指定Kafka服务器地址
props.put("key.serializer","org.apache.kafka.common.serialization.StringSerializer"); //key序列化类
props.put("value.serializer", "org.apache.kafka.common.serialization.StringSerializer"); //value序列化类
Producer<String, String> producer = new KafkaProducer<>(props); //创建Producer对象
for(int i = 0; i < 100; i++) { //发送100条消息
ProducerRecord<String, String> record = new ProducerRecord<>("my-topic", Integer.toString(i), Integer.toString(i)); //创建ProducerRecord对象,指定topic,key和value
producer.send(record); //发送消息
}
producer.close(); //关闭Producer对象
}
}
然后,我们需要创建一个消费者来消费这些消息:
import org.apache.kafka.clients.consumer.*;
import org.apache.kafka.common.TopicPartition;
import org.apache.kafka.common.serialization.StringDeserializer;
import java.util.*;
import java.util.concurrent.TimeUnit;
public class ConsumerDemo {
public static void main(String[] args) {
Properties props = new Properties(); //设置配置属性
props.put("bootstrap.servers", "localhost:9092"); //指定Kafka服务器地址
props.put("group id", "test"); //指定group id
props.put("key.deserializer", StringDeserializer.class); //key反序列化类
props.put("value.deserializer", StringDeserializer.class); //value反序列化类
KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props); //创建Consumer对象,指定group id和要消费的主题(topic)和分区(partition)等参数,然后进行初始化操作。 需要注意的是,这里的主题和分区都是需要提前创建好的。如果没有创建主题和分区,需要在创建完Consumer后进行创建。另外,如果需要订阅多个主题或分区,可以在创建Consumer时指定多个主题或分区。
