Flink-状态一致性 | 状态一致性分类 | 端到端状态一致性 | 幂等写入 | 事务写入 | WAL | 2PC

本文探讨了Flink中的状态一致性,包括状态一致性的重要性、分类、一致性检查点、端到端状态一致性、幂等写入、事务写入、预写日志WAL以及两阶段提交2PC。通过理解这些概念,可以更好地实现Flink流处理的Exactly-once语义,确保在故障恢复后仍保持结果的准确性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

状态一致性

当在分布式系统中引入状态时,自然也引入了一致性问题。一致性实际上是"正确性级别"的另一种说法,也就是说在成功处理故障并恢复之后得到的结果,与没有发生任何故障时得到的结果相比,前者到底有多正确?举例来说,假设要对最近一小时登录的用户计数。在系统经历故障之后,计数结果是多少?如果有偏差,是有漏掉的计数还是重复计数?

什么是状态一致性

  1. 有状态的流处理,内部每个算子任务都可以有自己的状态
  2. 对于流处理器内部来说,所谓的状态一致性,其实就是我们所说的计算结果要保证准确。
  3. 一条数据不应该丢失,也不应该重复计算
  4. 在遇到故障时可以恢复状态,恢复以后的重新计算,结果应该也是完全正确的。

在这里插入图片描述

状态一致性分类

Flink的一个重大价值在于,它既保证了exactly-once,也具有低延迟和高吞吐的处理能力。

  1. AT-MOST-ONCE(最多一次)
    当任务故障时,最简单的做法是什么都不干,既不恢复丢失的状态,也不重播丢失的数据。At-most-once 语义的含义是最多处理一次事件。这其实是没有正确性保障的委婉说法——故障发生之后,计数结果可能丢失。同样的还有udp。
  2. AT-LEAST-ONCE(至少一次)
    在大多数的真实应用场景&#x
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值