Kafka 系列 —(2)Kafka 安装与配置(从零到可运行)

目录

1.Kafka 安装前准备

系统要求

检查 Java

2.下载 Kafka

3.目录结构说明

4.单机模式安装与启动

4.1 启动 Zookeeper

4.2 启动 Kafka Broker

5.Kafka 常用配置(生产环境核心配置)

5.1 Broker ID

5.2 监听地址

5.3 日志存储目录(非常重要!)

5.4 副本数与分区数

5.5 连接数限制(提升并发能力)

5.6 消息存储与删除策略

6.Kafka 常用操作命令

6.1 创建 Topic

6.2 查看 Topic 列表

6.3 发送消息(Producer)

6.4 消费消息(Consumer)

7.Kafka 集群模式安装(3 节点示例)

7.1 修改三台服务器的 server.properties

7.2 启动 Zookeeper 集群

7.3 启动 Kafka Broker

8.Kafka KRaft(无 Zookeeper)安装(推荐 Kafka 3.x+)

9.常见问题(FAQ)

1. 远程客户端无法连接?

2. Kafka 报错 “Connection refused”?

3. Topic 创建失败?

4. 消费者不消费数据?

10.Kafka 安装最佳实践


1.Kafka 安装前准备

系统要求

  • Linux 推荐(CentOS / Ubuntu / Debian 均可)

  • Java 8+ 或 OpenJDK 11+

  • 4GB+ RAM(最低需求)

  • SSD 磁盘性能最佳

检查 Java

java -version

如果没有 Java,安装 OpenJDK 11:

sudo apt install openjdk-11-jdk

2.下载 Kafka

访问 Apache Kafka 下载地址(Stable 版本):

https://kafka.apache.org/downloads

示例安装:

wget https://downloads.apache.org/kafka/3.6.0/kafka_2.13-3.6.0.tgz
tar -zxvf kafka_2.13-3.6.0.tgz
cd kafka_2.13-3.6.0

3.目录结构说明

├── bin/                 # Kafka 与 Zookeeper 启动脚本
├── config/              # 配置文件目录
│   ├── server.properties   # Kafka Broker 配置
│   ├── zookeeper.properties # Zookeeper 配置
│   └── producer.properties / consumer.properties
├── libs/                # JAR 包
└── logs/                # 运行日志

4.单机模式安装与启动

Kafka 的经典架构需要:

  • ① Zookeeper

  • ② Kafka Broker

4.1 启动 Zookeeper

bin/zookeeper-server-start.sh config/zookeeper.properties

默认端口:2181


4.2 启动 Kafka Broker

另开终端:

bin/kafka-server-start.sh config/server.properties

默认端口:9092

启动成功后 Kafka 即可运行。


5.Kafka 常用配置(生产环境核心配置)

以下内容适合写入 config/server.properties


5.1 Broker ID

唯一标识一个 Kafka 节点:

broker.id=0

集群中必须唯一。


5.2 监听地址

允许外部访问:

listeners=PLAINTEXT://0.0.0.0:9092
advertised.listeners=PLAINTEXT://你的服务器IP:9092

(避免客户端无法访问的 “回环地址” 问题)


5.3 日志存储目录(非常重要!)

log.dirs=/data/kafka-logs

建议使用 SSD


5.4 副本数与分区数

num.partitions=3
default.replication.factor=3

集群环境使用,单机只需 1。


5.5 连接数限制(提升并发能力)

num.network.threads=8
num.io.threads=16
queued.max.requests=500

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

34号树洞

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值