项目小结:Kafka队列有序数据顺序执行 + 高tps + 高吞吐

针对Kafka中有序分组数据的高效处理方案,通过独立线程接收与处理机制,提升系统吞吐量与tps,适用于高并发场景如Mysql binlog日志处理。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

项目背景

数据交换系统,从 Kafka 中拉取数据(数据按 Id 分组,并在 同一 Partition 中有序排列),系统需要 针对 同一组数据,按序处理。(如 Mysql 的 binlog 日志)

要求尽可能做到 提高 tps 和 吞吐量

设计思路

在这里插入图片描述

Kafka Consumer线程 只负责接收数据,不再处理数据和业务逻辑;另起多线程处理 接收到的数据

Kafka Consumer线程 从 对应 Partition 接收消息,根据 ID 将同组数据 放到同一 队列Queue 中(如 图中的 Queue1 和 Queue2),数据处理线程 一对一 处理 Queue 中的数据

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值