VM安装kafka

本文详细介绍如何下载并安装Kafka 2.5.0版本,包括配置Zookeeper和搭建Kafka集群的过程。涵盖从环境准备到各节点配置的具体步骤,以及启动服务的命令。

下载安装
wget https://mirrors.bfsu.edu.cn/apache/kafka/2.5.0/kafka_2.12-2.5.0.tgz

tar zxvf kafka_2.12-2.5.0.tgz

#以下操作在该目录下
cd kafka_2.12-2.5.0

zookeeper需要java环境
yum -y install java-1.8.0

自带的zookeeper
grep “[#]” config/zookeeper.properties

dataDir=/tmp/zookeeper   #数据存储目录
clientPort=2181   #zookeeper端口
maxClientCnxns=0

集群搭建
1、为每个代理创建一个配置文件
cp config/server.properties config/server-1.properties
cp config/server.properties config/server-2.properties

config/server-1.properties:

    broker.id=1
    listeners=PLAINTEXT://:9093
    log.dir=/tmp/kafka-logs-1

config/server-2.properties:

    broker.id=2
    listeners=PLAINTEXT://:9094
    log.dir=/tmp/kafka-logs-2

2、分别启动:
bin/zookeeper-server-start.sh config/zookeeper.properties &
bin/kafka-server-start.sh config/server-1.properties &
bin/kafka-server-start.sh config/server-2.properties &

注意事项
当server-1.properties中的broker.id与meta.properties中不一致时:
修改meta.properties:
cd kafka_2.12-2.5.0/kafka-logs
vim meta.properties

在虚拟机(VM)上使用 Kafka 包含部署、配置、启动、测试等一系列流程。 ### 单机部署 可以采用 Linux 虚拟机部署 Kafka + ZooKeeper 单机方案。首先从 https://archive.apache.org/dist/kafka/3.4.1/kafka_2.12 - 3.4.1.tgz 下载 Kafka 安装包,使用 `wget` 命令: ```bash [root@xionghj kafka]# wget https://archive.apache.org/dist/kafka/3.4.1/kafka_2.12-3.4.1.tgz ``` 接着创建 Kafka 安装所需目录,包括存放解压包、数据和日志的目录: ```bash [root@xionghj /]# mkdir -p /opt/kafka [root@xionghj /]# mkdir -p /opt/kafka/kafka_data [root@xionghj /]# mkdir -p /opt/kafka/kafka_log ``` 然后解压并安装 Kafka 服务: ```bash [root@xionghj kafka]# tar -zxvf kafka_2.12-3.4.1.tgz ``` 修改 Kafka 服务配置,进入配置文件目录并编辑 `server.properties` 文件: ```bash [root@xionghj kafka]# cd /opt/kafka/kafka_2.12-3.4.1/config [root@xionghj config ]# vim server.properties ``` 修改以下参数: ```properties broker.id=0 port=9092 host.name=localhost log.dirs=/opt/kafka/kafka_log zookeeper.connect=localhost:2181 ``` 最后启动并测试 Kafka 服务 [^1]。 ### 集群部署 若要搭建集群,从新建 Linux 虚拟机开始,依次进行安装虚拟机、创建虚拟机、配置网络等操作。之后进行搭建集群准备工作,包括安装 JDK,检查是否已安装 openjdk,下载、上传安装包,解压,修改环境变量并检测是否配置成功。搭建 ZooKeeper 集群,需完成下载、上传、解压、配置、启动集群和查看启动状态等步骤。搭建 Kafka 集群则要进行下载、上传、解压、更改文件夹名称、新建 logs 文件夹、修改配置文件,将修改后的文件扩展到其他节点,最后启动 Kafka。使用 Kafka 时,可以创建 topic、查看 topic 及其详细信息、发送和接收消息以及删除 topic 等操作 [^2]。 ### 测试 Kafka 可以使用以下命令进行测试: ```bash bin/kafka-console-consumer.sh --bootstrap-server hdp-1:9092,hdp-2:9092,hdp-3:9092 --topic test --from-beginning ``` 此命令可从指定的 Kafka 集群的 `test` 主题开始接收消息 [^3]。 ### 解决访问问题 在虚拟机上搭建 Docker Kafka 时,若宿主机器程序无法访问,可通过 `-e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://139.226.179.239:9092` 将 Kafka 的地址端口注册给 ZooKeeper,若要远程访问需将其改成外网 IP [^4]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值