1.下载地址:http://archive.apache.org/dist/ (ctrl+f搜索kafka)
2.上传jar包到linux服务器并解压:tar -zxvf kafka_2.11-0.11.0.2.tgz
3.重命名并进入该目录,在该目录下创建logs文件夹:
mv kafka_2.11-0.11.0.2 kafka
cd kafka
mkdir logs
4.配置集群
cd /opt/module/hhhsf/kafka/config
vi server.properties
具体配置内容看server.properties文件注释说明地方即可
配置结束后将kafka整个目录复制到其它服务器,然后修改broker.id=1的值
5.kafka常用脚本介绍:
kafka-server-start.sh
kafka-server-stop.sh
kafka启动关闭脚本,kafka并没有提供群起脚本,因此开启集群需要到每台机器单独启动
kafka-topics.sh
所有关于主题的操作
kafka-console-consumer.sh
kafka-console-producer.sh
控制台消费者,生产者,测试环境测试使用
6.启动集群
先启动zk集群zkServer.sh start(集群分别启动)
在启动kafka集群:bin/kafka-server-start.sh config/server.properties &(所有kafka集群都要执行该命令)
7.关闭集群
关闭kafka集群:bin/kafka-server-stop.sh (所有kafka集群都要执行该命令)
如果执行关闭失败可以尝试如下解决办法:
vi /opt/module/hhhsf/kafka/bin/kafka-server.stop.sh
找到PIDS=$(ps ax | grep -i ‘kafka.Kafka’ | grep java | grep -v grep | awk ‘{print $1}’)
中间有两个卡夫卡’kafka.Kafka’,改成’Kafka’就行了
8.查看进程命令:jps 或 jps -l
kafka命令大全:http://orchome.com/454
10.kafka集群安装及kafkaManager监控安装见:电商数仓-笔记-尚硅谷大数据项目之电商数仓(1用户行为数据采集).docx
1.同一个分区只通被同个消费组里的其中一个消费者消费