spark--transform算子--join

最新推荐文章于 2025-03-19 22:15:00 发布

原创最新推荐文章于 2025-03-19 22:15:00 发布 · 343 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#spark #join

spark 专栏收录该内容

30 篇文章

订阅专栏

本文通过具体示例介绍了如何使用Apache Spark进行Join操作。演示了不同类型的RDD（弹性分布式数据集）如何通过Key进行连接，并展示了Join操作后的输出结果。

import org.apache.spark.{SparkConf, SparkContext}

/**
  * Created by liupeng on 2017/6/16.
  */
object T_join {
  System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5")

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("join_test").setMaster("local")
    val sc = new SparkContext(conf)

    val rdd = sc.parallelize(List(("A",1), ("B", 2), ("C", 3)))
    val rdd1 = sc.parallelize(List(("A", 4)))
    val rdd2 = sc.parallelize(List(("A", 4), ("A", 5)))
    //join方法为(K,V)和(K,W)的数据集调用，返回相同的K所组成的数据集
    val sum = rdd.join(rdd1)
      .foreach(println)
    val sum1 = rdd.join(rdd2)
      .foreach(println)
  }
}

运行结果：

(A,(1,4))

(A,(1,4))
(A,(1,5))