Spark的MapReduce

最新推荐文章于 2025-06-26 20:22:06 发布

原创最新推荐文章于 2025-06-26 20:22:06 发布 · 630 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#spark

spark 专栏收录该内容

3 篇文章

订阅专栏

本文介绍了如何使用Apache Spark实现MapReduce的基本操作流程。包括从创建测试文件开始，通过加载文件到RDD，再到使用filter()、flatMap()等函数进行数据处理，并最终保存处理结果。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

Spark的MapReduce相对是比较简单的,步骤如下:
先编写测试文件

[zyf@hadoop ~]$ vi b.txt
[zyf@hadoop ~]$ cat b.txt 
aaa bbb
ccc fff
aaa bbb
bbb fff

（1）、将本地文件或者HDFS上的文件通过sc.textFile(“/input/b.txt”)加载到RDD中
（2）、可以将RDD文件通过filter（）函数中的高阶函数进行过滤

scala> val ardd = sc.textFile("/input/a.txt").filter(line=>line.contains("aaa"))
ardd: org.apache.spark.rdd.RDD[String] = MapPartitionsRDD[23] at filter at <console>:27

scala>

（3）、将过滤后的RDD进行map（）函数定义split分隔符读取文件，或者通过faltMap（）函数读取文件。faltMap（）读取后是将分割后的每个集合中的数据提取出来。

scala> val linerdd=ardd.flatMap(line=>line.split("\t"))
linerdd: org.apache.spark.rdd.RDD[String] = MapPartitionsRDD[3] at flatMap at <console>:29

scala>

（4）、将map后的RDD文件进行reduce（）函数定义的高阶函数进行处理rdd.collect集合的元素。也可以用过reduceByKey（），按照元素的Key先进行分组，再进行对分组在一起的数据，进行处理。

scala> val kvrdd=linerdd.map(word=>(word,1))
kvrdd: org.apache.spark.rdd.RDD[(String, Int)] = MapPartitionsRDD[4] at map at <console>:31

scala>

（5）、RDD通过的文件saveAsTextFile（”/output”）进行存储