交流群:942277506,问题答案:董长春
重要说明
该文将根据本人学习进度不断更新,计划分章节仔细介绍,随着对知识的不断学习,我将会对前边的内容进行优化,以保证技术描述的准确,以及与官方版本同步。
Flink介绍
Apache Flink 是一个海量数据计算框架和分布式处理引擎,用于在无边界和有边界数据流(离线、流式)上进行有状态的计算。Flink 能在所有常见集群环境中运行,并能以内存速度和任意规模进行计算。
那么如何来理解有边界和无边界的数据流呢?
无界流
有定义流的开始,但没有定义流的结束。它们会无休止地产生数据。无界流的数据必须持续处理,即数据被摄取后需要立刻处理。我们不能等到所有数据都到达再处理,因为输入是无限的,在任何时候输入都不会完成。处理无界数据通常要求以特定顺序摄取事件,例如事件发生的顺序,以便能够推断结果的完整性。
有界流
有定义流的开始,也有定义流的结束。有界流可以在摄取所有数据后再进行计算。有界流所有数据可以被排序,所以并不需要有序摄取。有界流处理通常被称为批处理。