Kafka中间件集群部署(spring+kafka集群项目整合也会上传)

本文详细介绍如何在三台CentOS 7虚拟机上搭建Kafka集群,包括配置静态IP地址、安装Java 1.8环境、配置并启动Kafka与Zookeeper服务,以及创建与管理Kafka Topic。

1、创建三个centos 7虚拟机,vi /etc/sysconfig/network-scripts/ifcfg-ens33配置静态IP地址    

TYPE=Ethernet
PROXY_METHOD=none
BROWSER_ONLY=no
BOOTPROTO="static"
IPADDR=172.18.160.175/172.18.160.176/172.18.160.177
NETMASK=255.255.255.0
GATEWAY=172.18.160.254
DNS1=172.18.160.254
NM_CONTROLLED=no
DEFROUTE=yes
IPV4_FAILURE_FATAL=no
IPV6INIT=yes
IPV6_AUTOCONF=yes
IPV6_DEFROUTE=yes
IPV6_FAILURE_FATAL=no
IPV6_ADDR_GEN_MODE=stable-privacy
NAME=ens33
UUID=d19423f1-5855-4ce2-9dd7-1bfc75eec8e5
DEVICE=ens33
ONBOOT=yes  

 2、配置java1.8环境(在整合spring+kafka过程低于jdk1.8会有问题),下载jdk1.8解压/usr/local/java/jdk1.8.0_171,使用 vi /ect/profile 添加

export JAVA_HOME=/usr/local/java/jdk1.8.0_171
export CLASSPATH=.:$JAVA_HOME/lib.jar:$JAVA_HOME/lib/tools.jar
export PATH=$JAVA_HOME/bin:$PATH

3、分别关闭防火墙 systemctl stop firewalld.service(firewall-cmd --permanent --add-port=9092/tcp 开放指定端口)

4、下载kafka_2.11-1.1.0.tgz 版本(记住不要下载-src结尾的那是需要编译),解压在目录/java/kafka/kafka_2.11-1.1.0

5、分别修改/java/kafka/kafka_2.11-1.1.0/config/server.properties

broker.id=0/1/2
listeners=PLAINTEXT://172.18.160.175:9092  / 172.18.160.176:9092 / 172.18.160.177:9092
log.dirs=/java/kafka/logs(三台虚拟机日志统一一样的目录下面)
num.partitions=5 (分区数目设置为5)
zookeeper.connect=172.18.160.175:2181,172.18.160.176:2181,172.18.160.175:2181(目前zookeeper集群服务直接使用kafka自带的zookeeper集群)

6、修改zookeeper存放日志/java/kafka/kafka_2.11-1.1.0/config/zookeeper.properties

dataDir=/tmp/zookeeper

7、在175/176/177启动zookeeper 进去/java/kafka/kafka_2.11-1.1.0 

bin/zookeeper.service.start.sh config/zookeeper.properties

8、在175/176/177启动kafka 进去/java/kafka/kafka_2.11-1.1.0 

bin/kafka.service.start.sh config/server.properties

9、创建topic,主题名:test_topic

bash kafka-topics.sh --create --zookeeper zk地址:2181 --replication-factor 2 --partitions 6 --topic test_topic

# 解释
--replication-factor 2   #复制2份
--partitions 6 #创建6个分区
--topic #主题为 test_topic

10、查看topic分布情况

bash kafka-topics.sh --zookeeper zk地址:2181 --topic "test_topic" --describe

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值