1、应用架构
问题:公司怎么提交的实时任务,有多少 Job Manager?
解答:
1. 我们使用 yarn Per-job or Application Mode 模式提交任务。每次提交都会创建一个新的 Flink 集群,任务之间互相独立,互不影响, 方便管理。任务执行完成之后创建的集群也会消失。线上命令脚本如下:
2. 集群默认只有一个 Job Manager。但为了防止单点故障,我们配置了高可用。 我们公司一般配置一个主 Job Manager,两个备用 Job Manager,然后结合 ZooKeeper 的使用,来达到高可用。
2、压测和监控
问题:怎么做压力测试和监控?
解答:我们一般碰到的压力来自以下几个方面:
一,产生数据流的速度如果过快,而下游的算子消费不过来的话,会产生背压。 背压的监控可以使用 Flink Web UI(localhost:8081) 来可视化监控,一旦报警就能知道。一般
Flink面试精讲:13个关键问题解析

本文涵盖了Flink应用架构、压力测试与监控、选用Flink的原因、checkpoint机制、exactly-once语义、状态管理、watermark机制等13个面试重点。解答涉及Flink的Yarn模式、高可用配置、背压处理、状态后端RocksDB、Bloom Filter去重、Watermark处理乱序事件以及如何在数据高峰时确保系统稳定等实践策略。
最低0.47元/天 解锁文章
3695

被折叠的 条评论
为什么被折叠?



