Flink数据倾斜优化 FlinkSql及FlinkDataStream

一.现象及解决

1).现象：相同 Task 的多个 Subtask 中，个别 Subtask 接收到的数据量明显大于其他 Subtask 接收到的数据量，通过Flink Web U1 可以精确地看到每个 Subtask 处理了多少数据，即可判断出 Flink 任务是否存在数据倾斜。通常，数据倾斜也会引起反压。

2).解决：

(1)数据源倾斜

比如消费 katka，但是 katka 的 topic 的分区之间数据不均衡读进来之后调用重分区算子:rescale、rebalance、shuffle，

(2)单表分组聚合(纯流式)倾斜

API:利用 fatmmap 攒批、预聚合

SQL:开启 MiniBatch+LocalGloba