spark--transform算子--union

Spark RDD Union 示例

最新推荐文章于 2023-05-16 09:27:54 发布

原创最新推荐文章于 2023-05-16 09:27:54 发布 · 422 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#spark #union

spark 专栏收录该内容

30 篇文章

订阅专栏

本文介绍了一个使用Apache Spark的Scala程序示例，展示了如何利用union方法合并两个RDD，并给出了具体的实现代码及运行结果。

import org.apache.spark.{SparkConf, SparkContext}

/**
  * Created by liupeng on 2017/6/16.
  */
object T_union {
  System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5")

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("union_test").setMaster("local")
    val sc = new SparkContext(conf)

    var rdd = sc.parallelize(1 to 5, 1)
    var rdd1 = sc.parallelize(4 to 7, 1)

    //union方法可以合并两个RDD，但是不去重，仅仅合并而已
    val sum = rdd.union(rdd1)
      .foreach(println)
  }
}

运行结果：

1
2
3
4
5

4
5
6
7