- 博客(2)
- 收藏
- 关注
RSS订阅原创 Flink数据倾斜优化 FlinkSql及FlinkDataStream
1).现象：相同 Task 的多个 Subtask 中，个别 Subtask 接收到的数据量明显大于其他 Subtask 接收到的数据量，通过Flink Web U1 可以精确地看到每个 Subtask 处理了多少数据，即可判断出 Flink 任务是否存在数据倾斜。通常，数据倾斜也会引起反压。2).解决：(1)数据源倾斜比如消费 katka，但是 katka 的 topic 的分区之间数据不均衡读进来之后调用重分区算子:rescale、rebalance、shuffle，(2)单表分组聚合(纯流式)倾斜AP
2024-12-13 17:10:39
1499
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人