
Storm
stable_阿甘
用心学习,用心做事
展开
-
Strom 0.9.2-incubating 斜街 Kafka 重复消费数据
一、问题描述 今天在做 storm 斜街 kafka 作业的时候,storm 的 spout 作为 kafka 的消费者,接收到消息发送到 bolt 进行输出,发现 storm 一直提交的都是同样的偏移量,这就导致了重复消费数据。 二、解决方案 在通过看 GitHub 上官方的示例后,发现是自己的 bolt 在输出数据之后没有发送 ack,这就导致了作为消费者的 spout 不会向 kaf...原创 2020-03-21 19:31:46 · 213 阅读 · 0 评论 -
Storm
一、Storm 是什么 Storm 是一个分布式、实时计算框架,适用于处理无边界的流数据。 无边界就是指 Storm 可以无限制地接收流数据,分布式是指可以实时添加设备来增加运算能力。 二、Strom 架构 Nimbus:Nimbus 是运行在 master node 上的进程,它负责任务分配以及监控任务。 Supervisor:Supervisor 是运行在 worker node 上...原创 2020-03-21 19:24:49 · 199 阅读 · 0 评论