Scala中的流程(包括:sc.textfile=>flatmap=>map=>reduceByKey等阶段,以及输出分区的个数)【Scala纯代码】

本文介绍了一个使用Apache Spark进行单词频率统计的例子。通过读取文件,将每一行拆分为单词,并利用flatMap、map和reduceByKey等操作实现单词计数。最后展示了如何对结果进行排序并打印。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

package com.bjsxt.spark

import org.apache.spark.SparkConf
import org.apache.spark.SparkContext

object map {
  def main(args: Array[String]): Unit = {
    val conf = new SparkConf().setAppName("test").setMaster("local")
    val sc=new SparkContext(conf)
    val lines=sc.textFile("./words");
    val words =lines.flatMap(line=>{
      line.split(" ")  
    })
    val pairWords=words.map(word=>{
      new Tuple2(word,1)  
      
    })
    println("pairwords partitions ="+pairWords.partitions.length)
    val reduceResult=pairWords.reduceByKey((v1,v2)=>{v1+v2},3)
    println("pairwords partitions ="+reduceResult.partitions.length)
    val result =reduceResult.sortBy(tuple=>{tuple._2},false)
      result.foreach(tuple=>{
        println(tuple)
      })
      
      
    
    
    sc.stop()
    
  }
  
}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值