一起学习Spark（七）结构化流Structured Streaming编程指南（3）-Streaming Join操作

最新推荐文章于 2023-12-28 17:04:03 发布

原创

最新推荐文章于 2023-12-28 17:04:03 发布 · 938 阅读

4 ·

CC 4.0 BY-SA版权

文章标签：

#spark #structured streaming #stream join

本文深入探讨了StructuredStreaming中流式与静态、流式与流式的Dataset/DataFrame连接机制，包括内连接、外连接及其与水印的关系，展示了如何在不同场景下正确配置连接条件以生成预期结果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Structured Streaming支持一个流式DataSet/DataFrame与另一个流式或静态的DataSet/DataFrame进行Join操作。Join的结果将会是渐进性的增量改变的，类似于之前的流聚合的结果。在本节中，我们将探索在上述情况下支持哪种类型的连接(即内部连接、外部连接等)。在所有受支持的连接类型中，流DataSet/DataFrame连接的结果与流中包含相同数据的静态DataSet/DataFrame连接的结果完全相同。

stream-static Join

自从Spark 2.0引入以来，Structured Streaming已经支持流和静态DataFrame/Dataset之间的连接(内部连接和某种类型的外部连接)。这里有一个简单的例子。

val staticDf = spark.read. ...
val streamingDf = spark.readStream. ...

streamingDf.join(staticDf, "type")          // 内部连接一个静态DF
streamingDf.join(staticDf, "type", "right_join")  // 右外连接一个静态DF

注意stream-static连接是无状态的，所以不需要状态管理。需要注意的是有一些外连接不能被stream-static Join支持，这些会在博客的后面列出。

stream-stream Join

在Spark2.3中，Spark增加了对stream-stream连接的支持，也就是说，可以把两个流式DataSet/DataFrame连接起来，生成两个流式DS/DF连接的结果的挑战是在任何时间点DS的视图对于连接的两边都是不完整的，这使得查找输入之间的匹配非常困难。从一个输入流接收到的任何行都可能与将来从另一个输入流接收到的任何尚未接收到的行匹配

最低0.47元/天解锁文章

200万优质内容无限畅学