kafka启动停止脚本

linux常见文件

cat>>start.sh

ctrl+d推出保存

kafka启动脚本

#!/bin/bash
echo "start kafka>>>"
#cd /home/software/kafka_2.11-0.11.0.3
bin/zookeeper-server-start.sh -daemon config/zookeeper.properties
sleep 1
bin/kafka-server-start.sh -daemon config/server.properties


kafka停止脚本

#!/bin/bash
echo  "kafka stop >>>?"
bin/kafka-server-stop.sh
sleep 1
bin/zookeeper-server-stop.sh

常见命令

生产者客户端
bin/kafka-console-producer.sh --broker-list 192.168.43.122:9092 --topic test
bin/kafka-console-producer.sh --broker-list iod.kafka:6667 --topic test
bin/kafka-console-producer.sh --broker-list 192.168.43.161:9092 --topic test

消费者客户端
bin/kafka-console-consumer.sh --bootstrap-server 192.168.43.122:9092 --topic vehicle_passlog--from-beginning

bin/kafka-console-consumer.sh --bootstrap-server 192.168.43.161:9092 --topic test
bin/kafka-console-consumer.sh --bootstrap-server iod.kafka:6667 --topic vehicle_passlog
bin/kafka-console-consumer.sh --zookeeper iod.kafka:2181 --topic iod_gcjlout

启动zookeeper
nohup bin/zookeeper-server-start.sh config/zookeeper.properties >/dev/null &
bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

启动kafka
nohup bin/kafka-server-start.sh config/server.properties &
bin/kafka-server-start.sh -daemon config/server.properties


查看topic列表
bin/kafka-topics.sh --list --zookeeper 192.168.43.122:2181
bin/kafka-topics.sh --list --zookeeper 61.16.43.64:2181

查看topic详情
bin/kafka-topics.sh --zookeeper 192.168.43.122:2181 --describe --topic test

查看消费情况
bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper localhost:2181 --group zhsq --topic vehicle_passlog

bin/kafka-consumer-offset-checker.sh --zookeeper 61.16.43.64:2181 --topic iod_gcjlout --group zhsq

创建topic ,1个副本6个分区,副本数小于broker数,一个分区只能同时被一个消费者线程消费,一般分区数量等于线程数量,
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 6 --topic test

删除topic
bin/kafka-topics.sh --delete --zookeeper localhost:2181 --topic test

后台启动kafka
bin/kafka-server-start.sh -daemon config/server.properties

hosts目录
C:\Windows\System32\drivers\etc


auto.offset.reset
如果存在已经提交的offest时,不管设置为earliest 或者latest 都会从已经提交的offest处开始消费
如果不存在已经提交的offest时,earliest 表示从头开始消费,latest 表示从最新的数据消费,也就是新产生的数据.

Apache Kafka是一个分布式流处理平台,用于构建实时数据管道和流应用。为了管理和操作Kafka集群,通常会编写启动停止脚本来自动化这个过程。以下是创建Kafka集群启动停止脚本的一些基本步骤: **启动脚本(Kafka启动.sh)**: 1. **检查环境**: 确保所有依赖已安装,如Zookeeper、JDK等。 2. **设置环境变量**: 配置Kafka_HOME指向安装目录,设置其他环境变量如KAFKA_OPTS(例如内存限制)。 3. **启动服务**: 使用`bin/kafka-server-start.sh`命令启动Kafka broker节点,可以指定配置文件路径。 4. **日志监控**: 可能还需要添加对日志文件和进程状态的检查。 **停止脚本(Kafka停止.sh)**: 1. **停止服务**: 使用`bin/kafka-server-stop.sh`命令优雅地关闭broker节点。 2. **确认停止**: 检查Kafka是否完全停止,包括清理网络连接和停止后台线程。 3. **清理资源**: 如果有持久化数据,确保它们已经妥善清理。 **例子脚本片段**(假设脚本名为kafka_start_stop.sh): ```bash #!/bin/bash # 启动 start_kafka() { if [ ! -d "$KAFKA_HOME/logs" ]; then mkdir -p $KAFKA_HOME/logs fi export KAFKA_OPTS="-Dlog.dirs=$KAFKA_HOME/logs" echo "Starting Kafka..." bin/kafka-server-start.sh ${KAFKA_CONFIG_DIR}/server.properties & sleep 5 # 等待服务器启动完成 } # 停止 stop_kafka() { echo "Stopping Kafka..." kill $(ps aux | grep kafka-server-start | awk '{print $2}') wait echo "Kafka stopped." } # 脚本控制 case "$1" in start) start_kafka ;; stop) stop_kafka ;; *) echo "Usage: ./kafka_start_stop.sh {start|stop}" exit 1 ;; esac ```
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值