kafka 的安装及测试

本文详细介绍Kafka集群的搭建步骤,包括下载、解压、配置修改、启动测试及消息发送接收过程。涵盖broker.id、log.dirs和zookeeper配置修改,以及如何通过命令行进行topic创建、producer和consumer操作。

1.下载

下载地址: http://kafka.apache.org/downloads

2.解压到/opt/kafka目录

3.修改server.properties

   3.1 修改broker.id,全局唯一,例如 broker.id=1

   3.2 修改log.dirs,消息超时或者缓存一定时间会存盘,这是存盘路径

   3.3 修改zookeeper配置

4. 测试启动

   master,slave1,slave2三台机器都要启动

  安装目录下

./bin/kafka-server-start.sh config/server.properties

如果启动正常,则以后台方式启动

nohup ./bin/kafka-server-start.sh config/server.properties >/dev/null 2>&1 &

 以jps命令查看进程是否启动

5.测试发送

  5.1 新建topic

bin/kafka-topics.sh --zookeeper localhost:2181 --create --topic test --partitions 3 --replication-factor 2

  partitions 为分区数,一个分区只会有一个消费者,replication-factor为备份数

 使用下面查看创建的 topic: 

bin/kafka-topics.sh --zookeeper localhost:2181 --list

启动一个 producer

以 sync 模式启动一个 producer:

$ bin/kafka-console-producer.sh --broker-list master:9092,slave1:9092,slave2:9092 --sync --topic zerg.hydra

然后,输入以下内容:

Hello, world!
Rock: Nerf Paper. Scissors is fine.

启动一个 consumer

在另一个终端运行:

$ bin/kafka-console-consumer.sh --bootstrap-server master:9092 --topic zerg.hydra --from-beginning

注意,生产环境通常不会添加 --from-beginning 参数。

观察输出,你会看到下面内容:

Hello, world!
Rock: Nerf Paper. Scissors is fine.

把 consumer 停掉再启动,你还会看到相同的输出结果。

参考链接:

https://www.cnblogs.com/valor-xh/p/6306250.html

https://www.cnblogs.com/zhaojiankai/p/7257617.html

 

 

<think>好的,我需要帮助用户在头歌平台上进行Kafka安装测试。首先,我得了解头歌平台的环境是否已经预装了一些组件,比如Java或者Zookeeper,因为Kafka依赖这些。根据用户提供的引用内容,Kafka需要Zookeeper,所以可能需要先安装配置Zookeeper[^3]。 接下来,用户可能需要在头歌平台上执行下载和解压Kafka的步骤。引用[1]提到要访问Kafka官网下载,但头歌平台可能已经内置了安装包,或者有特定的路径。可能需要调整下载步骤,使用平台提供的资源。 然后是配置Kafka Broker,引用[3]指出配置文件在config/server.properties,可能需要修改监听地址和Zookeeper连接地址。例如,将yourhost替换为localhost或平台指定的主机名[^2]。 启动服务部分,需要先启动Zookeeper,再启动Kafka服务器。引用[3]和[4]提到了启动命令,但需要注意平台上的路径是否正确,比如bin/zookeeper-server-start.sh的位置。 测试环节,用户需要创建主题、启动生产者和消费者。引用[4]和[2]提供了生产者和消费者的命令,这里要确保主题名称一致,端口是否正确。可能需要检查防火墙或平台权限是否允许这些端口通信。 最后,用户可能需要指导如何关闭服务,释放资源。此外,常见问题如端口冲突或依赖缺失,需要提醒用户检查Java版本和Zookeeper状态。 需要验证步骤是否适合头歌平台的环境,可能有些命令需要调整路径或参数。确保所有命令在平台的终端中可执行,并且配置文件路径正确。另外,引用中的链接可能需要替换为平台内部资源,避免用户无法访问外部网站。</think>### 头歌平台 Kafka 安装教程及测试方法 #### 一、安装前准备 1. **环境要求** - 确保平台已安装 Java 8+ 环境,可通过 `java -version` 验证。 - 头歌平台通常已预装 Zookeeper,无需单独安装。 2. **下载 Kafka** - 若平台未预装 Kafka,可通过命令行下载: ```bash wget https://downloads.apache.org/kafka/3.6.1/kafka_2.13-3.6.1.tgz ``` - 解压并进入目录: ```bash tar -xzf kafka_2.13-3.6.1.tgz && cd kafka_2.13-3.6.1 ``` #### 二、配置 Kafka 1. **修改 Zookeeper 配置(可选)** - 若需调整 Zookeeper 连接,编辑 `config/zookeeper.properties`: ```properties dataDir=/tmp/zookeeper clientPort=2181 ``` 2. **配置 Kafka Broker** - 编辑 `config/server.properties`,修改以下参数: ```properties listeners=PLAINTEXT://localhost:9092 zookeeper.connect=localhost:2181 ``` #### 三、启动服务 1. **启动 Zookeeper** ```bash bin/zookeeper-server-start.sh config/zookeeper.properties & ``` 2. **启动 Kafka 服务器** ```bash bin/kafka-server-start.sh config/server.properties & ``` #### 四、测试 Kafka 功能 1. **创建测试主题** ```bash bin/kafka-topics.sh --create --topic test --bootstrap-server localhost:9092 --partitions 1 --replication-factor 1 ``` 2. **启动生产者发送消息** ```bash bin/kafka-console-producer.sh --bootstrap-server localhost:9092 --topic test ``` 输入任意文本(如 `Hello Kafka`)后按回车发送[^4]。 3. **启动消费者接收消息** ```bash bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning ``` 若看到发送的消息,则测试成功。 #### 五、关闭服务 1. 停止 Kafka 服务器: ```bash bin/kafka-server-stop.sh ``` 2. 停止 Zookeeper: ```bash bin/zookeeper-server-stop.sh ``` #### 常见问题 - **端口冲突**:检查 `9092` 和 `2181` 端口是否被占用。 - **依赖缺失**:确保 Java 环境变量配置正确。 - **消息未消费**:确认消费者命令包含 `--from-beginning` 参数。 ---
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值