
消息队列
文章平均质量分 60
消息队列
vmaps
这个作者很懒,什么都没留下…
展开
-
Rocketmq 写入流程 读取流程 事务消息
RocketMQ 是一个开源的分布式消息中间件,它提供了高性能、高可靠性的消息发布和订阅服务。RocketMQ 支持多种消息模式,包括普通消息、顺序消息、事务消息等。下面将介绍 RocketMQ 的写入流程和读取流程,以及事务消息的处理机制。原创 2024-03-05 08:40:48 · 852 阅读 · 0 评论 -
Kafka 顺序写,随机写,原理对比
当数据写入时,Kafka会先将数据写入内存缓冲区,当缓冲区满后,再将数据一次性地、顺序地写入到磁盘中,并生成新的日志段。这种顺序写的方式省去了大量的磁头寻址时间,因为磁头只需要随着磁盘顺序旋转即可,从而大大提高了写入效率。在随机写的过程中,磁头需要频繁地移动以定位到正确的写入位置,这会增加磁头寻址时间和磁盘臂移动时间,从而降低了写入效率。综上所述,Kafka通过采用顺序写的方式,实现了高效的数据写入和读取,从而满足了分布式系统中数据采集、日志处理、实时计算等场景的需求。原创 2024-04-18 09:23:43 · 634 阅读 · 0 评论 -
kafka 再平衡机制 与解决方案
当消费者组内成员发生变更(如增加或减少消费者)、主题的分区数发生改变(目前Kafka只支持分区增加)或订阅的主题发生变化(例如,消费者使用正则表达式订阅主题,恰好增加的主题就是订阅的主题)时,就会触发再平衡机制。优化消费者组的配置:合理设置消费者组的参数,如session.timeout.ms和heartbeat.interval.ms,以避免因网络波动或消费者处理速度过慢导致的消费者被误判为宕机,从而触发不必要的再平衡。减少主题和分区的变更:尽量避免频繁的主题和分区变更操作,以减少触发再平衡的次数。原创 2024-03-07 10:35:16 · 634 阅读 · 0 评论 -
Kafka 写入原理 读原理 生产发送ack Isr 高水位
Kafka是由Apache软件基金会开发的一个开源流处理平台,用Scala和Java编写,是一个高吞吐量的分布式发布订阅消息系统,它可以处理消费者在网站中的所有动作流数据。以上信息仅供参考,如需更专业的解释,建议咨询相关技术人员或查阅相关书籍资料。原创 2024-03-04 10:05:21 · 441 阅读 · 0 评论 -
Rabbitmq kafka 区别 延迟队列
综上所述,RabbitMQ和Kafka在多个方面存在显著差异,需要根据具体的应用场景和需求来选择合适的消息队列系统。在需要保证消息顺序、提供高级路由和过滤规则、支持消息存活时间和延迟处理、以及消费者复杂度较低的场景下,RabbitMQ可能更合适;而在需要处理大量数据流、要求高性能和伸缩性的场景下,Kafka可能更合适。RabbitMQ和Kafka在数据处理方式、消息处理顺序、消息路由和过滤、消息存活时间、容错处理、伸缩性、消费者复杂度、优先级队列和延迟队列等方面存在显著的区别。原创 2024-03-05 08:43:56 · 887 阅读 · 1 评论