zk、kafka入门单机搭建

本文介绍如何搭建ZooKeeper及Kafka集群环境。包括创建安装目录、配置文件修改及启动服务等步骤。同时提供了Kafka主题管理的常用命令。

一、版本说明      

  • jdk : 1.7
  • zk : zookeeper-3.4.6.tar.gz
  • kafka : kafka_2.11-0.8.2.1.tgz

二、zk搭建

2.1  创建安装目录,并将zk的安装文件放到对应目录

        

2.2   解压文件

        

2.3   修改配置文件zoo.cfg

        

         

2.4   启动zk:bin/zkServer.sh start

        

2.5   常用命令

  •  查看zk状态:bin/zkServer.sh status
        
  •  登录zk服务器:bin/zkCli.sh -server localhost:2181
        
  • zk节点操作
         

三、kafka搭建

3.1  创建安装目录,并将kafka的安装文件放到对应目录

       

3.2   解压文件

        

3.3   修改配置文件,主要参数为:

        log.dirs=/data/kafka/kafka-logs

        zookeeper.connect=127.0.0.1:2181

        

3.4   启动kafka

        

3.5  kafka常用命令

  •  --list topic

        bin/kafka-topics.sh --list --zookeeper localhost:2181

  •  --create a topic

        bin/kafka-topics.sh --create --zookeeper localhost:2181--replication-factor  1 --partitions 1 --topic topic_zl

  • --Send some messages

       bin/kafka-console-producer.sh --broker-list localhost:9092 --topictopic_zl

  • --Start a consumer

      bin/kafka-console-consumer.sh--bootstrap-server localhost:9092 --topic topic_zl --from-beginning

  • --describe topics

      bin/kafka-topics.sh --describe --zookeeper localhost:2181 --topictopic_zl

  • --__consumer_offsets

  bin/kafka-simple-consumer-shell.sh--topic __consumer_offsets --partition 40 --broker-list 127.0.0.1:9092

  -- formatter "kafka.coordinator.GroupMetadataManager\$OffsetsMessageFormatter"




### Kafka 单机安装与配置教程 #### 准备工作 确保已安装并配置好 Java 运行环境,因为 Kafka 是基于 Scala 开发的工具,依赖于 Java 环境[^4]。 #### 下载与解压 Kafka 下载最新版本的 Kafka 并将其解压缩至目标路径。例如: ```bash wget https://downloads.apache.org/kafka/2.5.0/kafka_2.12-2.5.0.tgz tar -xzf kafka_2.12-2.5.0.tgz cd kafka_2.12-2.5.0 ``` #### 配置文件调整 进入 `config` 文件夹,找到 `server.properties` 文件,并对其进行必要的修改。以下是几个重要参数说明: - 修改监听地址为实际 IP 地址而非默认的 localhost。例如设置如下属性以避免连接问题: ```properties listeners=PLAINTEXT://<your-ip>:9092 advertised.listeners=PLAINTEXT://<your-ip>:9092 ``` 如果不更改上述两项,默认情况下可能会导致客户端无法正确访问 Kafka 实例[^2]。 - 设置数据存储目录(可选),通过指定 log.dirs 参数来定义日志保存位置: ```properties log.dirs=/tmp/kafka-logs ``` 完成以上改动后保存退出编辑器。 #### 启动 ZookeeperKafka Server Kafka 使用 Apache ZooKeeper 来管理集群元数据,在单节点模式下也需要先启动它。 ```bash ./bin/zookeeper-server-start.sh -daemon config/zookeeper.properties ``` 接着再开启 Kafka broker 服务进程: ```bash ./bin/kafka-server-start.sh -daemon config/server.properties ``` 此时可以通过 ps 命令验证两个后台程序均已正常运行状态存在[^3]。 #### 创建 Topic 及测试消息收发功能 利用自带脚本快速建立一个新的 topic 名称为 test 的队列结构体实例化操作命令如下所示: ```bash ./bin/kafka-topics.sh --bootstrap-server <your-ip>:9092 --create --topic test --partitions 1 --replication-factor 1 ``` 随后分别打开两个终端窗口用于模拟生产者发送以及消费者接收端逻辑行为过程演示效果展示出来即可证明整个流程搭建顺利完成[^1]。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值