配置Kafka

1.最好是配置成三台,这里我只有2台机器(gk-1,gk-2),就这样配置了。

2.kafka各个节点配置 ,gk-1节点对应的机器 /etc/hosts如下:

3.  kafka配置文件,server.properties

isteners=PLAINTEXT://:9092 

zookeeper.connect=localhost:2181

broker.id=0  (其他kafka节点依次配置1,2,3...)

ps:zookeeper先配置成集群

iptables开放端口9092(kafka通讯端口),2181

 

4. 各节点server.properties配置各自的  advertised.host.name 和port  用于外网发现。gk-1节点对应的机器对应的节点机器配置如下:

5.到此 服务器配置完毕。 可以使用bin/kafka-server-start.sh config/server.properties启动,下面命令用于测试

生产:bin/kafka-console-producer.sh --broker-list localhost:9092 --topic my-replicated-topic

消费:bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --from-beginning --topic my-replicated-topic

6.代码对应的机器还需要配置各个节点的hosts,如我windows本机配置:

 

ps:

kafka发布消息报错LEADER_NOT_AVAILABLE:

      zookeeper-shell.sh gk-0,gk-1  查看是否缺少broker

参考:

https://blog.youkuaiyun.com/BoomHankers/article/details/79089090

在Java项目中配置 Apache Kafka 主要涉及引入 Kafka 的依赖库、配置 Kafka 生产者(Producer)和消费者(Consumer)参数,并编写相应的消息发送和接收逻辑。以下是详细的配置步骤和代码示例。 ### 1. 添加 Kafka 依赖 首先,在项目的 `pom.xml` 文件中添加 Kafka 的 Maven 依赖: ```xml <dependency> <groupId>org.apache.kafka</groupId> <artifactId>kafka-clients</artifactId> <version>3.3.1</version> </dependency> ``` ### 2. 配置 Kafka 生产者 Kafka 生产者用于向 Kafka 集群发送消息。需要配置以下关键参数: - `bootstrap.servers`:指定 Kafka 集群的地址。 - `key.serializer` 和 `value.serializer`:定义键和值的序列化方式。 示例代码如下: ```java import org.apache.kafka.clients.producer.KafkaProducer; import org.apache.kafka.clients.producer.ProducerConfig; import org.apache.kafka.clients.producer.ProducerRecord; import org.apache.kafka.common.serialization.StringSerializer; import java.util.Properties; public class KafkaProducerExample { public static void main(String[] args) { Properties props = new Properties(); props.put(ProducerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092"); props.put(ProducerConfig.KEY_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName()); props.put(ProducerConfig.VALUE_SERIALIZER_CLASS_CONFIG, StringSerializer.class.getName()); KafkaProducer<String, String> producer = new KafkaProducer<>(props); ProducerRecord<String, String> record = new ProducerRecord<>("my-topic", "Hello, Kafka!"); producer.send(record); producer.close(); } } ``` ### 3. 配置 Kafka 消费者 Kafka 消费者用于从 Kafka 集群中消费消息。需要配置以下关键参数: - `bootstrap.servers`:指定 Kafka 集群的地址。 - `group.id`:消费者组的唯一标识。 - `key.deserializer` 和 `value.deserializer`:定义键和值的反序列化方式。 示例代码如下: ```java import org.apache.kafka.clients.consumer.ConsumerConfig; import org.apache.kafka.clients.consumer.ConsumerRecord; import org.apache.kafka.clients.consumer.ConsumerRecords; import org.apache.kafka.clients.consumer.KafkaConsumer; import org.apache.kafka.common.serialization.StringDeserializer; import java.time.Duration; import java.util.Collections; import java.util.Properties; public class KafkaConsumerExample { public static void main(String[] args) { Properties props = new Properties(); props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092"); props.put(ConsumerConfig.GROUP_ID_CONFIG, "test-group"); props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName()); props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, StringDeserializer.class.getName()); KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props); consumer.subscribe(Collections.singletonList("my-topic")); while (true) { ConsumerRecords<String, String> records = consumer.poll(Duration.ofMillis(100)); for (ConsumerRecord<String, String> record : records) { System.out.printf("Received: %s\n", record.value()); } } } } ``` ### 4. Kafka 配置建议 - **生产环境配置**:确保 Kafka 服务器的 `server.properties` 文件中配置了合适的 `listeners` 和 `advertised.listeners`,以便消费者能够正确连接到 Kafka 集群 [^5]。 - **序列化/反序列化**:根据实际数据格式选择合适的序列化方式,例如 `StringSerializer`、`JsonSerializer` 等 [^3]。 - **错误处理**:在生产环境中,建议添加重试机制和异常处理逻辑,以提高系统的健壮性。 ### 5. 运行 Kafka 服务器 确保 Kafka 服务器已启动,可以使用以下命令启动 Kafka 服务器 [^5]: ```bash start cmd /k "cd D:\IT\Kafka\kafka_2.13-2.8.0 && bin\windows\kafka-server-start.bat .\config\server.properties" ``` ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值