- 博客(2)
- 收藏
- 关注
原创 Flink数据倾斜优化 FlinkSql及FlinkDataStream
1).现象:相同 Task 的多个 Subtask 中,个别 Subtask 接收到的数据量明显大于其他 Subtask 接收到的数据量,通过Flink Web U1 可以精确地看到每个 Subtask 处理了多少数据,即可判断出 Flink 任务是否存在数据倾斜。通常,数据倾斜也会引起反压。2).解决:(1)数据源倾斜比如消费 katka,但是 katka 的 topic 的分区之间数据不均衡读进来之后调用重分区算子:rescale、rebalance、shuffle,(2)单表分组聚合(纯流式)倾斜AP
2024-12-13 17:10:39
1493
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人