docker上启动kafka

在docker上启动kafka,是因为最近我们开发的程序需要部署到k8s,在k8s上连接kafka,连接失败,因此我先搭建个环境,以供后续还原问题,解决问题。



一、docker上启动kafka

1.下载zookeeper镜像

docker pull wurstmeister/zookeeper

2.下载kafka镜像

docker pull wurstmeister/kafka

3.启动zookeeper

docker run -d --name zookeeper -p 2181:2181  -t wurstmeister/zookeeper

4.启动kafka

docker run -d --name kafka --publish 9092:9092 --link zookeeper:zookeeper -e KAFKA_BROKER_ID=1  -e HOST_IP=192.168.65.7  -e KAFKA_ZOOKEEPER_CONNECT=zookeeper:2181 -e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://192.168.65.7:9092  -e KAFKA_ADVERTISED_HOST_NAME=192.168.65.7 -e KAFKA_ADVERTISED_PORT=9082  --restart=always  -t  wurstmeister/kafka

部分参数含义:

KAFKA_BROKER_ID=1 kafka在集群中的唯一标识
KAFKA_ZOOKEEPER_CONNECT=zookeeper:12181 监听zookeeper的地址 
KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://192.168.65.7:19092 kafka服务器的地址

5.进入kafka容器

1.先查看kafka镜像ID:
docker ps -a
在这里插入图片描述
2.进入容器
docker exec -it ${CONTAINER ID} /bin/bash
3.进入kafka的bin目录下
cd /opt/kafka_2.18/bin
4.创建topic
./kafka-topics.sh --create --zookeeper zookeeper:2181 --replication-factor 1 --partitions 1 --topic mykafka
5.运行生产者
./kafka-console-producer.sh --broker-list localhost:9092 --topic mykafka
在这里插入图片描述
6.消费topic
./kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9092 --from-beginning --topic mykafka
在这里插入图片描述

6.问题记录

1.当第一次启动kafka时报以下错误,连接超时的错,我报这错是因为我启动命令错了:
 ERROR Fatal error during KafkaServer startup. Prepare to shutdown (kafka.server.KafkaServer)
kafka.zookeeper.ZooKeeperClientTimeoutException: Timed out waiting for connection while in state: CONNECTING At kafka.zookeeper.ZooKeeperClient.waitUntilConnected(ZooKeeperClient.scala:271)
        at kafka.zookeeper.ZooKeeperClient.<init>(ZooKeeperClient.scala:125)
        at kafka.zk.KafkaZkClient$.apply(KafkaZkClient.scala:1948)
        at kafka.server.KafkaServer.createZkClient$1(KafkaServer.scala:431)
        at kafka.server.KafkaServer.initZkClient(KafkaServer.scala:456)
        at kafka.server.KafkaServer.startup(KafkaServer.scala:191)
        at kafka.Kafka$.main(Kafka.scala:109)
        at kafka.Kafka.main(Kafka.scala)
[2022-01-20 07:33:19,615] INFO shutting down (kafka.server.KafkaServer)
[2022-01-20 07:33:19,645] INFO App info kafka.server for 0 unregistered (org.apache.kafka.common.utils.AppInfoParser)
[2022-01-20 07:33:19,646] INFO shut down completed (kafka.server.KafkaServer)
[2022-01-20 07:33:19,647] ERROR Exiting Kafka. (kafka.Kafka$)
[2022-01-20 07:33:19,657] INFO shutting down (kafka.server.KafkaServer)
INFO Opening socket connection to server 192.168.65.7/192.168.65.7:2181. Will not attempt to authenticate using SASL (unknown error) (org.apache.zookeeper.ClientCnxn)
报错的启动命令:
docker run -d --name kafka --publish 9092:9092 --link zookeeper --env KAFKA_ZOOKEEPER_CONNECT=192.168.65.7:2181 --env KAFKA_ADVERTISED_HOST_NAME=192.168.65.7 --env KAFKA_ADVERTISED_PORT=9092 wurstmeister/kafka

总结

启动kafka遇到了很多问题,一直以为自己是网络不通,防火墙没开之类的,最后发现一直是自己的运行命令不正确,菜鸟的我,还需继续努力呀。

### 使用 Docker 启动 Kafka 3.7 和 Zookeeper 为了启动 Kafka 3.7 版本及其依赖的 Zookeeper,可以采用 Docker 容器化的方式简化部署过程。下面提供了一种通过 `docker run` 命令来分别创建并运行这两个服务的方法。 #### 创建网络以便容器间通信 由于 Kafka 需要连接到 Zookeeper 来存储元数据信息,因此建议先建立一个自定义桥接网络让两者能够互相发现: ```bash docker network create kafka-network ``` #### 启动 Zookeeper 实例 接着,在上述创建好的网络环境中启动 Zookeeper 容器实例,并指定版本标签为 `confluentinc/cp-zookeeper:7.0.1`, 这里选择了 Confluent 提供的一个兼容性较好的镜像作为基础[^1]: ```bash docker run -d \ --name=zookeeper \ --network=kafka-network \ -e ZOOKEEPER_CLIENT_PORT=2181 \ confluentinc/cp-zookeeper:7.0.1 ``` #### 启动 Kafka 实例并与 Zookeeper 关联 最后一步就是基于相同网络环境下的 Zookeeper 地址配置参数 `-e KAFKA_ZOOKEEPER_CONNECT=zookeeper:2181` 来启动 Kafka broker: ```bash docker run -d \ --name=kafka-broker \ --network=kafka-network \ -e KAFKA_BROKER_ID=1 \ -e KAFKA_ZOOKEEPER_CONNECT=zookeeper:2181 \ -e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://kafka-broker:9092 \ -e KAFKA_OFFSETS_TOPIC_REPLICATION_FACTOR=1 \ confluentinc/cp-kafka:7.0.1 ``` 以上命令会下载官方提供的最新稳定版 Apache Kafka (由 Confluent 维护),并通过设置环境变量完成必要的初始化工作。请注意这里使用的 Kafka 和 Zookeeper 的具体版本号可能不是严格意义上的 "Kafka 3.7", 而是选择了一个较为接近且稳定的组合方案。
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值