spark之实用案例

本文转自 https://www.ibm.com/developerworks/cn/opensource/os-cn-spark-practice1/

运行环境介绍

为了避免读者对本文案例运行环境产生困惑，本节会对本文用到的集群环境的基本情况做个简单介绍。

• 本文所有实例数据存储的环境是一个 8 个机器的 Hadoop 集群，文件系统总容量是 1.12T，NameNode 叫 hadoop036166, 服务端口是 9000。读者可以不关心具体的节点分布，因为这个不会影响到您阅读后面的文章。
• 本文运行实例程序使用的 Spark 集群是一个包含四个节点的 Standalone 模式的集群, 其中包含一个 Master 节点 (监听端口 7077) 和三个 Worker 节点，具体分布如下：

Server Name	Role
hadoop036166	Master
hadoop036187	Worker
hadoop036188	Worker
hadoop036227	Worker

• Spark 提供一个 Web UI 去查看集群信息并且监控执行结果，默认地址是:http://<spark_master_ip>:8080 ，对于该实例提交后我们也可以到 web 页面上去查看执行结果，当然也可以通过查看日志去找到执行结果。

图 4. Spark 的 web console

案例分析与编程实现

案例一

a. 案例描述

提起 Word Count(词频数统计)，相信大家都不陌生，就是统计一个或者多个文件中单词出现的次数。本文将此作为一个入门级案例，由浅入深的开启使用 Scala 编写 Spark 大数据处理程序的大门。

b．案例分析

对于词频数统计，用 Spark 提供的算子来实现，我们首先需要将文本文件中的每一行转化成一个个的单词, 其次是对每一个出现的单词进行记一次数，最后就是把所有相同单词的计数相加得到最终的结果。

对于第一步我们自然的想到使用 flatMap 算子把一行文本 split 成多个单词，然后对于第二步我们需要使用 map 算子把单个的单词转化成一个有计数的 Key-Value 对，即 word -> (word,1). 对于最后一步统计相同单词的出现次数，我们需要使用 reduceByKey 算子把相同单词的计数相加得到最终结果。
c. 编程实现

清单 1.SparkWordCount 类源码

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26

import org.apache.spark.SparkConf import org.apache.spark.SparkContext import org.apache.spark.SparkContext._   object SparkWordCount {  def FILE_NAME:String = "word_count_results_";  def main(args:Array[String]) {  if (args.length < 1) {  println("Usage:SparkWordCount FileName");  System.exit(1);  }  valconf= newSparkConf().setAppName("Spark Exercise: Spark Version Word Count Program");  valsc= newSparkContext(conf);  valtextFile= sc.textFile(args(0));  valwordCounts= textFile.flatMap(line => line.split(" ")).map(                                         word => (word, 1)).reduceByKey((a, b) => a + b)  //print the results,for debug use.  //println("Word Count program running results:");  //wordCounts.collect().foreach(e => {  //val (k,v) = e  //println(k+"="+v)  //});  wordCounts.saveAsTextFile(FILE_NAME+System.currentTimeMillis());  println("Word Count program running results are successfully saved.");  } }

d. 提交到集群执行

本实例中, 我们将统计 HDFS 文件系统中/user/fams 目录下所有 txt 文件中词频数。其中 spark-exercise.jar 是 Spark 工程打包后的 jar 包，这个 jar 包执行时会被上传到目标服务器的/home/fams 目录下。运行此实例的具体命令如下：

清单 2.SparkWordCount 类执行命令

1 2 3 4 5 6 7 8

./spark-submit \ --class com.ibm.spark.exercise.basic.SparkWordCount \ --master spark://hadoop036166:7077 \ --num-executors 3 \ --driver-memory 6g --executor-memory 2g \ --executor-cores 2 \ /home/fams/sparkexercise.jar \ hdfs://hadoop036166:9000/user/fams/*.txt

e. 监控执行状态

该实例把最终的结果存储在了 HDFS 上，那么如果程序运行正常我们可以在 HDFS 上找到生成的文件信息

图 5. 案例一输出结果

打开 Spark 集群的 Web UI, 可以看到刚才提交的 job 的执行结果。

图 6. 案例一完成状态

如果程序还没运行完成，那么我们可以在 Running Applications 列表里找到它。

案例二

a. 案例描述

该案例中，我们将假设我们需要统计一个 1000 万人口的所有人的平均年龄，当然如果您想测试 Spark 对于大数据的处理能力，您可以把人口数放的更大，比如 1 亿人口，当然这个取决于测试所用集群的存储容量。假设这些年龄信息都存储在一个文件里，并且该文件的格式如下，第一列是 ID，第二列是年龄。

图 7. 案例二测试数据格式预览

现在我们需要用 Scala 写一个生成 1000 万人口年龄数据的文件，源程序如下：

清单 3. 年龄信息文件生成类源码

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17

import java.io.FileWriter import java.io.File import scala.util.Random   object SampleDataFileGenerator {   def main(args:Array[String]) { val writer = new FileWriter(new File("C: \\sample_age_data.txt"),false) val rand = new Random() for ( i <- 1 to 10000000) { writer.write( i + " " + rand.nextInt(100)) writer.write(System.getProperty("line.separator")) } writer.flush() writer.close() } }

b. 案例分析

要计算平均年龄，那么首先需要对源文件对应的 RDD 进行处理，也就是将它转化成一个只包含年龄信息的 RDD，其次是计算元素个数即为总人数，然后是把所有年龄数加起来，最后平均年龄=总年龄/人数。

对于第一步我们需要使用 map 算子把源文件对应的 RDD 映射成一个新的只包含年龄数据的 RDD，很显然需要对在 map 算子的传入函数中使用 split 方法，得到数组后只取第二个元素即为年龄信息；第二步计算数据元素总数需要对于第一步映射的结果 RDD 使用 count 算子；第三步则是使用 reduce 算子对只包含年龄信息的 RDD 的所有元素用加法求和；最后使用除法计算平均年龄即可。

由于本例输出结果很简单，所以只打印在控制台即可。

c. 编程实现

清单 4.AvgAgeCalculator 类源码

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

import org.apache.spark.SparkConf import org.apache.spark.SparkContext object AvgAgeCalculator {  def main(args:Array[String]) {  if (args.length < 1){  println("Usage:AvgAgeCalculator datafile")  System.exit(1)  }  valconf= newSparkConf().setAppName("Spark Exercise:Average Age Calculator")  valsc= newSparkContext(conf)  valdataFile= sc.textFile(args(0), 5);  valcount= dataFile.count()  valageData= dataFile.map(line => line.split(" ")(1))  val totalAge = ageData.map(age => Integer.parseInt(                                 String.valueOf(age))).collect().reduce((a,b) => a+b)  println("Total Age:" + totalAge + ";Number of People:" + count )  val avgAge : Double = totalAge.toDouble / count.toDouble  println("Average Age is " + avgAge)  } }

d. 提交到集群执行

要执行本实例的程序，需要将刚刚生成的年龄信息文件上传到 HDFS 上，假设您刚才已经在目标机器上执行生成年龄信息文件的 Scala 类，并且文件被生成到了/home/fams 目录下。

那么您需要运行一下 HDFS 命令把文件拷贝到 HDFS 的/user/fams 目录。

清单 5. 年龄信息文件拷贝到 HDFS 目录的命令

1	hdfs dfs –copyFromLocal /home/fams /user/fams

清单 6.AvgAgeCalculator 类的执行命令

1 2 3 4 5 6 7 8 9

./spark-submit \ --class com.ibm.spark.exercise.basic.AvgAgeCalculator \ --master spark://hadoop036166:7077 \ --num-executors 3 \ --driver-memory 6g \ --executor-memory 2g \ --executor-cores 2 \ /home/fams/sparkexercise.jar \ hdfs://hadoop036166:9000/user/fams/inputfiles/sample_age_data.txt

e. 监控执行状态

在控制台您可以看到如下所示信息：

图 8. 案例二输出结果

我们也可以到 Spark Web Console 去查看 Job 的执行状态

图 9. 案例二完成状态

案例三

a. 案例描述

本案例假设我们需要对某个省的人口 (1 亿) 性别还有身高进行统计，需要计算出男女人数，男性中的最高和最低身高，以及女性中的最高和最低身高。本案例中用到的源文件有以下格式, 三列分别是 ID，性别，身高 (cm)。

图 10. 案例三测试数据格式预览

我们将用以下 Scala 程序生成这个文件，源码如下：

清单 7. 人口信息生成类源码

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36

import java.io.FileWriter import java.io.File import scala.util.Random   object PeopleInfoFileGenerator {  def main(args:Array[String]) {  val writer = new FileWriter(new File("C:\\LOCAL_DISK_D\\sample_people_info.txt"),false)  val rand = new Random()  for ( i <- 1 to 100000000) {  var height = rand.nextInt(220)  if (height < 50) {  height = height + 50  }  var gender = getRandomGender  if (height < 100 && gender == "M")  height = height + 100  if (height < 100 && gender == "F")  height = height + 50  writer.write( i + " " + getRandomGender + " " + height)  writer.write(System.getProperty("line.separator"))  }  writer.flush()  writer.close()  println("People Information File generated successfully.")  }     def getRandomGender() :String = {  val rand = new Random()  val randNum = rand.nextInt(2) + 1  if (randNum % 2 == 0) {  "M"  } else {  "F"  }  } }

b. 案例分析

对于这个案例，我们要分别统计男女的信息，那么很自然的想到首先需要对于男女信息从源文件的对应的 RDD 中进行分离，这样会产生两个新的 RDD，分别包含男女信息；其次是分别对男女信息对应的 RDD 的数据进行进一步映射，使其只包含身高数据，这样我们又得到两个 RDD，分别对应男性身高和女性身高；最后需要对这两个 RDD 进行排序，进而得到最高和最低的男性或女性身高。

对于第一步，也就是分离男女信息，我们需要使用 filter 算子，过滤条件就是包含”M” 的行是男性，包含”F”的行是女性；第二步我们需要使用 map 算子把男女各自的身高数据从 RDD 中分离出来；第三步我们需要使用 sortBy 算子对男女身高数据进行排序。

c. 编程实现

在实现上，有一个需要注意的点是在 RDD 转化的过程中需要把身高数据转换成整数，否则 sortBy 算子会把它视为字符串，那么排序结果就会受到影响，例如 身高数据如果是：123,110,84,72,100，那么升序排序结果将会是 100,110,123,72,84，显然这是不对的。

清单 8.PeopleInfoCalculator 类源码

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36

object PeopleInfoCalculator {  def main(args:Array[String]) {  if (args.length < 1){  println("Usage:PeopleInfoCalculator datafile")  System.exit(1)  }  valconf= newSparkConf().setAppName("Spark Exercise:People Info(Gender & Height) Calculator")  valsc= newSparkContext(conf)  valdataFile= sc.textFile(args(0), 5);  valmaleData= dataFile.filter(line => line.contains("M")).map(                               line => (line.split(" ")(1) + " " + line.split(" ")(2)))  val femaleData = dataFile.filter(line => line.contains("F")).map(                               line => (line.split(" ")(1) + " " + line.split(" ")(2)))  //for debug use  //maleData.collect().foreach { x => println(x)}  //femaleData.collect().foreach { x => println(x)}  val maleHeightData = maleData.map(line => line.split(" ")(1).toInt)  val femaleHeightData = femaleData.map(line => line.split(" ")(1).toInt)  //for debug use  //maleHeightData.collect().foreach { x => println(x)}  //femaleHeightData.collect().foreach { x => println(x)}  val lowestMale = maleHeightData.sortBy(x => x,true).first()  val lowestFemale = femaleHeightData.sortBy(x => x,true).first()  //for debug use  //maleHeightData.collect().sortBy(x => x).foreach { x => println(x)}  //femaleHeightData.collect().sortBy(x => x).foreach { x => println(x)}  val highestMale = maleHeightData.sortBy(x => x, false).first()  val highestFemale = femaleHeightData.sortBy(x => x, false).first()  println("Number of Male Peole:" + maleData.count())  println("Number of Female Peole:" + femaleData.count())  println("Lowest Male:" + lowestMale)  println("Lowest Female:" + lowestFemale)  println("Highest Male:" + highestMale)  println("Highest Female:" + highestFemale)  } }

d. 提交到集群执行

在提交该程序到集群执行之前，我们需要将刚才生成的人口信息数据文件上传到 HDFS 集群，具体命令可以参照上文。

清单 9.PeopleInfoCalculator 类的执行命令

1 2 3 4 5 6 7 8 9

./spark-submit \ --class com.ibm.spark.exercise.basic.PeopleInfoCalculator \ --master spark://hadoop036166:7077 \ --num-executors 3 \ --driver-memory 6g \ --executor-memory 3g \ --executor-cores 2 \ /home/fams/sparkexercise.jar \ hdfs://hadoop036166:9000/user/fams/inputfiles/sample_people_info.txt

e. 监控执行状态

对于该实例，如程序中打印的一样，会在控制台显示如下信息：

图 11. 案例三输出结果

在 Spark Web Console 里可以看到具体的执行状态信息

图 12. 案例三完成状态

案例四

a. 案例描述

该案例中我们假设某搜索引擎公司要统计过去一年搜索频率最高的 K 个科技关键词或词组，为了简化问题，我们假设关键词组已经被整理到一个或者多个文本文件中，并且文档具有以下格式。

图 13. 案例四测试数据格式预览

我们可以看到一个关键词或者词组可能出现多次，并且大小写格式可能不一致。

b. 案例分析

要解决这个问题，首先我们需要对每个关键词出现的次数进行计算，在这个过程中需要识别不同大小写的相同单词或者词组，如”Spark”和“spark” 需要被认定为一个单词。对于出现次数统计的过程和 word count 案例类似；其次我们需要对关键词或者词组按照出现的次数进行降序排序，在排序前需要把 RDD 数据元素从 (k,v) 转化成 (v,k)；最后取排在最前面的 K 个单词或者词组。

对于第一步，我们需要使用 map 算子对源数据对应的 RDD 数据进行全小写转化并且给词组记一次数，然后调用 reduceByKey 算子计算相同词组的出现次数；第二步我们需要对第一步产生的 RDD 的数据元素用 sortByKey 算子进行降序排序；第三步再对排好序的 RDD 数据使用 take 算子获取前 K 个数据元素。

c. 编程实现

清单 10.TopKSearchKeyWords 类源码

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20

import org.apache.spark.SparkConf import org.apache.spark.SparkContext   object TopKSearchKeyWords {  def main(args:Array[String]){  if (args.length < 2) {  println("Usage:TopKSearchKeyWords KeyWordsFile K");  System.exit(1)  }  valconf= newSparkConf().setAppName("Spark Exercise:Top K Searching Key Words")  valsc= newSparkContext(conf)  valsrcData= sc.textFile(args(0))  valcountedData= srcData.map(line => (line.toLowerCase(),1)).reduceByKey((a,b) => a+b)  //for debug use  //countedData.foreach(x => println(x))  val sortedData = countedData.map{ case (k,v) => (v,k) }.sortByKey(false)  val topKData = sortedData.take(args(1).toInt).map{ case (v,k) => (k,v) }  topKData.foreach(println)  } }

d. 提交到集群执行

清单 11.TopKSearchKeyWords 类的执行命令

1 2 3 4 5 6 7 8 9

./spark-submit \ --class com.ibm.spark.exercise.basic.TopKSearchKeyWords \ --master spark://hadoop036166:7077 \ --num-executors 3 \ --driver-memory 6g \ --executor-memory 2g \ --executor-cores 2 \ /home/fams/sparkexercise.jar \ hdfs://hadoop036166:9000/user/fams/inputfiles/search_key_words.txt

e. 监控执行状态

如果程序成功执行，我们将在控制台看到以下信息。当然读者也可以仿照案例二和案例三那样，自己尝试使用 Scala 写一段小程序生成此案例需要的源数据文件，可以根据您的 HDFS 集群的容量，生成尽可能大的文件，用来测试本案例提供的程序。

图 14. 案例四输出结果

图 15. 案例四完成状态