结论
Flink1.11 某个小版本有 bug,或者当内部改造 checkpoint 的逻辑不完善时也会间接导致该问题。
因为 CheckpointCoordinator#completePendingCheckpoint 方法中会先 finalizeCheckpoint,然后再 sendAcknowledgeMessages 中去触发 coordinator.checkpointComplete。外部应用(用户最常自定义实现的部分)会在 coordinator.checkpointComplete 中做一些自定义实现。 但是此时 finalizeCheckpoint 方法中就出错了,所以不会执行 coordinator.checkpointComplete,用户实现的代码不会执行,因此产生了不符合预期的操作。
Flink revert 相关 cp 改造的 commit 后恢复正常。
背景
Flink 版本升级后作业重启能够正常完成 checkpoint,但是在 jobmanager 日志中发现报错信息:
2022-09-14 15:06:06,725 WARN org.apache.flink.runtime.jobmaster.JobMaster jobmanager-future-thread-3 [
在使用Flink 1.11的一个小版本时,遇到无法完成pending checkpoint的问题,原因是finalize checkpoint阶段出现错误,导致checkpoint协调器的checkpointComplete方法未执行,进而影响自定义实现的代码,如Hudi数据无法commit instant。解决方案是回退相关checkpoint改造的commit。
订阅专栏 解锁全文
2309

被折叠的 条评论
为什么被折叠?



