
mq
文章平均质量分 94
hongmingover
。。。。。。。
展开
-
Kafka水位(high watermark)与leader epoch的讨论
Kafka水位(high watermark)与leader epoch的讨论 ~~~这是一篇有点长的文章,希望不会令你昏昏欲睡~~~ 本文主要讨论0.11版本之前Kafka的副本备份机制的设计问题以及0.11是如何解决的。简单来说,0.11之前副本备份机制主要依赖水位(或水印)的概念,而0.11采用了leader epoch来标识备份进度。后面我们会详细讨论两种机制的差异。不过首先先做一些基本的名词含义解析。 水位或水印(watermark)一词,也可称为高水位(high watermark),通常转载 2021-08-09 15:42:53 · 550 阅读 · 0 评论 -
Kafka 架构原理解析
Kafka 架构原理解析 臧远慧分布式实验室2020-04-10 本文主要讲解 Kafka 是什么、Kafka 的架构包括工作流程和存储机制,以及生产者和消费者。最终大家会掌握 Kafka 中最重要的概念,分别是 Broker、Producer、Consumer、Consumer Group、Topic、Partition、Replica、Leader、Follower,这是学会和理解 Kafka 的基础和必备内容。 定义 Kafka 是一个分布式的基于发布/订阅模式的消息队列(M...转载 2021-04-07 12:56:57 · 184 阅读 · 0 评论 -
分布式开放消息系统(RocketMQ)的原理与实践
分布式开放消息系统(RocketMQ)的原理与实践 一年前为了一次内部分享而写的这篇文章,没想到会有这么多人阅读,抽空更新一版,对文中一些晦涩的语句做了修正,删除了一些口水话和附录内容,尽量给大家更好的阅读体验 (第二版更新于2017年春节)。 分布式消息系统作为实现分布式系统可扩展、可伸缩性的关键组件,需要具有高吞吐量、高可用等特点。而谈到消息系统的设计,就回避不转载 2017-06-22 16:05:12 · 418 阅读 · 0 评论 -
rocketmq注意点
rocketmq注意点 1.消费者与生产者如何负载均衡 生产者发送: 重试3次,循环负载。其中一台broker挂了,如果存在另外一台broker有这个topic则往这台发送。 思者:borker单点,可以布署多组master,slave。每组master都有这个topic。这样保证某个组的broker master挂了后,业务还能正常进行。 消费者根据消费转载 2017-08-16 09:46:49 · 613 阅读 · 1 评论 -
RocketMQ 问题整理
问题1:有多个topic吗?有没有上限? 对于消息中间件rocketmq来说,可以存在多topic,无上限规定,实现对消息进行归类和隔离。随着Topic的增加对性能的影响较小,稳定性较好。 问题2:业务较多时,能用一个topic实现吗?如何区别不同业务? 业务较多时,可以使用一个topic,通过tags标签去区分不同的业务,代表一类消息。 问题3:怎么处理消息重复的问题?原创 2017-12-20 10:30:30 · 2943 阅读 · 0 评论 -
MQ如何快速实现流量削峰填谷
MQ如何快速实现流量削峰填谷 版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.youkuaiyun.com/u011676417/article/details/70168194 问:站点与服务,服务与服务上下游之间,一般如何通讯? 答:有两种常见的方式 一种是“直接调用”,通过RPC框架,上游直接调用下游。 在某些业务场景之下(具体哪些业务场景,见《到底什...转载 2019-04-18 20:41:11 · 692 阅读 · 0 评论