spark--actions算子--reduce

最新推荐文章于 2024-04-21 14:28:25 发布

原创最新推荐文章于 2024-04-21 14:28:25 发布 · 351 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#spark #actions #reduce

spark 专栏收录该内容

30 篇文章

订阅专栏

本文演示了如何使用Apache Spark的reduce操作来聚合数据集元素。通过一个简单的整数列表示例，展示了reduce函数如何将数据集中的所有元素累加起来。

import org.apache.spark.{SparkConf, SparkContext}

/**
  * Created by liupeng on 2017/6/16.
  */
object A_reduce {
  System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5")

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("reduce_test").setMaster("local")
    val sc = new SparkContext(conf)
    //准备一下数据，有一个集合，通过reduce来进行累加
    val list = List(1, 2, 3, 4, 5)
    val rdd = sc.parallelize(list)

    //reduce它需要两个参数并返回一个，来聚合数据集的元素。
    val sum = rdd.reduce((x,y) => x + y)
    println(sum)
  }
}

运行结果：