spark中的reduceByKey()算子按照key聚合value

spark 中reduceByKey()算子,记录下
import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

object KeyValue02_reduceByKey {
def main(args: Array[String]): Unit = {

//1.创建SparkConf并设置App名称
val conf: SparkConf = new SparkConf().setAppName("SparkCoreTest").setMaster("local[*]")

//2.创建SparkContext,该对象是提交Spark App的入口
val sc: SparkContext = new SparkContext(conf)
//3.创建一个rdd
val rdd: RDD[(String, Int)] =sc.makeRDD(List(("a",1),("b",5),("a",5),("b",2)))
//4.调用reduceByKey()方法按key聚合,求value的值
val reduceRDD: RDD[(String, Int)] = rdd.reduceByKey((v1,v2)=>v1+v2)
//打印
reduceRDD.collect().foreach(println)
//4.关闭连接
sc.stop()

}

}
结果:(a,6)
(b,7)
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值