Storm 性能调优与资源争用处理
在数据处理领域,Storm 是一款强大的实时计算框架。为了让 Storm 拓扑高效运行,我们需要对其进行性能调优,并处理可能出现的资源争用问题。
Storm 性能调优中的指标收集
在 Storm 中,为了追求速度,我们可能会在某些方面做出权衡,比如偶尔接受推荐给每个客户的销售数量的准确性损失。但我们需要了解这个决策带来的影响,例如有多少销售信息没有发送给客户。幸运的是,Storm 提供了一些内置的指标收集功能,帮助我们解决这些问题。
使用 Storm 内置的 CountMetric
在 Storm 0.9.x 系列版本之前,指标收集比较混乱。现在的 Metrics API 为我们提供了获取指标的好方法。以 LookupSalesDetails 螺栓为例,我们可以使用 CountMetric 来记录销售查找的成功和失败次数。
public class LookupSalesDetails extends BaseRichBolt {
...
private final int METRICS_WINDOW = 60;
private transient CountMetric salesLookedUp;
private transient CountMetric salesLookupFailures;
@Override
public void prepare(Map config,
TopologyConte
Storm性能调优与资源争用解析
超级会员免费看
订阅专栏 解锁全文
967

被折叠的 条评论
为什么被折叠?



