
kafka
文章平均质量分 79
浅弋、璃鱼
永远相信美好的事情即将发生...
展开
-
kakfa从入门到放弃(四): 分区和副本机制、高级与低级API、 kafka-eagle、原理、数据清理、限速
文章目录一、分区和副本机制:1. 生产者分区写入策略:1.1 轮训分配策略:1.2 随机策略(不用):1.3 按key分配策略:1.4 乱序问题:1.5 自动以分区策略:2. 消费者组Rebalance机制:2.1 Rebalance 再平衡:2.2 rebalance的不良影响:3. 消费者分区消费策略:3.1 Range范围分配策略:一、分区和副本机制:1. 生产者分区写入策略:生产者写入消息到topic, kafak将依据不同的策略将数据分配到不同的分区中:轮训分区策略;随机分区策略;按原创 2022-03-14 23:04:34 · 3334 阅读 · 0 评论 -
kakfa从入门到放弃(三): 相关概念,幂等性&事务
文章目录一、kafka中的重要概念:1.broker:2. zookeeper:3. producer生产者:4. consumer消费者:5. consumer group 消费者组:6. partition 分区:7. replicas 副本:8. topic 主题:9 offset 偏移量:10.消费者组二、kafka生产者幂等性与事务:1. 幂等性:1.1 简介:1.2 kafka生产者幂等性:1.3 golang的sarama开启生产者幂等性1.4 幂等性原理:2. 事务:2.1 简介:2.2 事原创 2022-03-14 00:32:51 · 2241 阅读 · 0 评论 -
kakfa从入门到放弃(二): golang编程操作kafka
文章目录一、kafka代理及创建topic二、生产者:三、消费者:一、kafka代理及创建topicpackage amqpimport ( "context" "errors" "git-pd.megvii-inc.com/iotteam/viid/pkg/logger" "github.com/Shopify/sarama")const ( prefix = "hello_" // topic前缀)var ( TopicTTLPolicy = "delete"原创 2022-03-13 21:20:03 · 2542 阅读 · 0 评论 -
kakfa从入门到放弃(一): kafka入门,环境搭建,命令行操作
文章目录一、简介:1. 消息队列:2. 消息队列中间:3. 消息队列的应用场景:4. 生产者, 消费者模型:5. 消息队列的两种模式:5.1 点对点模式5.2 发布订阅模式一、简介:1. 消息队列:消息队列, 英文名: Message Queue, 常缩写为: MQ;消息队列是一种用来存储消息的队列;很多时候消息队列不是一个永久性的存储, 是作为临时存储的// 1. 创建一个保存字符串的队列strQueue := make(chan string, 20)// 2. 往消息队列里放入消息原创 2022-03-07 00:08:54 · 1462 阅读 · 0 评论