spark--Actions算子--countByKey

使用Spark进行countByKey操作

最新推荐文章于 2025-05-12 10:57:53 发布

原创最新推荐文章于 2025-05-12 10:57:53 发布 · 251 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#spark #actions #countByKey

spark 专栏收录该内容

30 篇文章

订阅专栏

本文介绍了如何使用Apache Spark的countByKey方法来统计特定数据集中的元素出现次数。通过一个具体的例子展示了从创建Spark配置到执行countByKey操作的全过程，并最终输出了各元素及其对应的计数值。

import org.apache.log4j.{Level, Logger}
import org.apache.spark.{SparkConf, SparkContext}

/**
  * Created by liupeng on 2017/6/17.
  */
object A_countByKey {
  System.setProperty("hadoop.home.dir","F:\\hadoop-2.6.5")
  Logger.getLogger("org").setLevel(Level.ERROR)

  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("countByKey_test").setMaster("local")
    val sc = new SparkContext(conf)
    //准备一下数据
    val nameList = List(("A",1),("A",2),("B",1))
    val data = sc.parallelize(nameList)
    //仅适用于类型（K，V）的RDD,返回与每个键的计数的（K，Int）对的hashmap
    val num = data.countByKey()
    for (x <- num) {
      println(x)
    }
  }
}

运行结果：

(B,1)
(A,2)