Storm 反压机制 back pressure设置失效

Storm的topology.max.spout.pending属性用于控制Spout的发送速率,防止下游Bolt处理不过来导致浪费资源。然而,此参数可能无法确保最佳的反压性能,并且在某些场景下设置无效。文中介绍了一种自动反压(ABP)方案,利用ZooKeeper和Disruptor队列实现快速响应的流量控制。当executor接收队列超过高水位时,启动反压机制,通知Spout降低发射tuple的速度。此外,文中提到Alibaba的JStorm提供了不同的反压解决方案。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >


image


topology.max.spout.pending 的意义在于 ,缓存spout 发送出去的tuple,当下流的bolt还有to

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值