Spark的MapReduce相对是比较简单的,步骤如下:
先编写测试文件
[zyf@hadoop ~]$ vi b.txt
[zyf@hadoop ~]$ cat b.txt
aaa bbb
ccc fff
aaa bbb
bbb fff
(1)、将本地文件或者HDFS上的文件通过sc.textFile(“/input/b.txt”)加载到RDD中
(2)、可以将RDD文件通过filter()函数中的高阶函数进行过滤
scala> val ardd = sc.textFile("/input/a.txt").filter(line=>line.contains("aaa"))
ardd: org.apache.spark.rdd.RDD[String] = MapPartitionsRDD[23] at filter at <console>:27
scala>
(3)、将过滤后的RDD进行map()函数定义split分隔符读取文件,或者通过faltMap()函数读取文件。faltMap()读取后是将分割后的每个集合中的数据提取出来。
scala> val linerdd=ardd.flatMap(line=>line.split("\t"))
linerdd: org.apache.spark.rdd.RDD[String] = MapPartitionsRDD[3] at flatMap at <console>:29
scala>
(4)、将map后的RDD文件进行reduce()函数定义的高阶函数进行处理rdd.collect集合的元素。也可以用过reduceByKey(),按照元素的Key先进行分组,再进行对分组在一起的数据,进行处理。
scala> val kvrdd=linerdd.map(word=>(word,1))
kvrdd: org.apache.spark.rdd.RDD[(String, Int)] = MapPartitionsRDD[4] at map at <console>:31
scala>
(5)、RDD通过的文件saveAsTextFile(”/output”)进行存储