
kafka
woloqun
这个作者很懒,什么都没留下…
展开
-
kafka topic 删除异常
公司kafka集群是允许删除topic,但是前段时间组里小伙伴有个topic总是删不掉,也不知道他是怎么删的;后来我尝试手动删除zookeeper中的元数据,看看能否删掉这个topic,操作如下rmr /brokers/topics/nginx_clean_error_datarmr /admin/delete_topics/nginx_clean_error_data命令执行了,但是zookeeper目录依旧存在,这就有点奇怪了,查看日志发现这个topic自动重建了,这也就是为什么zookee原创 2020-05-20 17:16:01 · 4853 阅读 · 2 评论 -
kafka运维
启动:./bin/kafka-server-start.sh -daemon config/server.properties创建1replica 1 partition 的topic bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic t...原创 2020-02-11 15:02:24 · 2067 阅读 · 0 评论 -
topic partition leader rebalance
leader rebalance之前,有好几个分区的leader都在broker1上[root@hzv_stat_es1 ~]# kafka-topics.sh --describe --zookeeper localhost:2181 --topic resshows_testTopic:resshows_test PartitionCount:6 ReplicationFactor...原创 2020-01-17 14:10:32 · 1257 阅读 · 0 评论 -
kafka low-level consumer详解
博客地址:http://www.fanlegefan.com 文章地址:http://www.fanlegefan.com/archives/kafka-low-level-consumerkafkaKafka是一种高吞吐量的分布式发布订阅消息系统,作为大数据系统中重要的一环,目前最新版本为kafka_2.11-0.10.2.0;在0.9.0版本后就统一了consumer api,不在区分high原创 2017-08-20 02:35:34 · 3248 阅读 · 0 评论 -
kafka connect 简单测试
博客地址:http://www.fanlegefan.com 文章地址:http://www.fanlegefan.com/archives/kafka-connect将文件中的数据推送topic:connect-test中配置connect-file-source.propertiescat connect-file-source.propertiesname=local-file-sourc原创 2017-08-21 18:12:09 · 8334 阅读 · 2 评论 -
浅谈分布式消息技术 Kafka
本文转载自 linkedkeeper.com (文/张松然)博客地址:http://www.fanlegefan.com文章地址:http://www.fanlegefan.com/archives/distribute-kafkaKafka的基本介绍Kafka是最初由Linkedin公司开发,是一个分布式、分区的、多副本的、多订阅者,基于zookeep转载 2017-08-25 11:12:56 · 483 阅读 · 0 评论 -
flume简单测试hdfssink && hivesink
博客地址:http://www.fanlegefan.com 文章地址:http://www.fanlegefan.com/archives/flume-hdfssink-hivesinkquich startvi example.conf# example.conf: A single-node Flume configuration# Name the components on this a原创 2017-08-28 17:09:09 · 3851 阅读 · 3 评论 -
kafka 消息格式设计实现
目前kafka消息格式有三个版本(假定v0,v1,v2),0.10.0之前使用的是v0版本,之后慢慢演变出v1,v2,后两个版本在设计方式上没有什么特别大的区别,只是做了些空间上的优化,同样的消息,新版本的使用存储空间会更小,优化主要在于消息头部的压缩,当然还有些功能上的优化,例如添加了时间戳,相对偏移量等;这些不是今天讨论的重点,今天主要来介绍下v0版本的消息格式设计,首先来看下kafka消息的...原创 2018-09-30 10:12:02 · 3015 阅读 · 0 评论