RDD DataFrame DataSet 区别和转换

RDD、DataFrame和DataSet是容易产生混淆的概念，必须对其相互之间对比，才可以知道其中异同。

RDD和DataFrame

RDD-DataFrame

上图直观地体现了DataFrame和RDD的区别。左侧的RDD[Person]虽然以Person为类型参数，但Spark框架本身不了解 Person类的内部结构。而右侧的DataFrame却提供了详细的结构信息，使得Spark SQL可以清楚地知道该数据集中包含哪些列，每列的名称和类型各是什么。DataFrame多了数据的结构信息，即schema。RDD是分布式的 Java对象的集合。DataFrame是分布式的Row对象的集合。DataFrame除了提供了比RDD更丰富的算子以外，更重要的特点是提升执行效率、减少数据读取以及执行计划的优化，比如filter下推、裁剪等。

DataFrame和DataSet

Dataset可以认为是DataFrame的一个特例，主要区别是Dataset每一个record存储的是一个强类型值而不是一个Row。因此具有如下三个特点：

DataSet可以在编译时检查类型

并且是面向对象的编程接口。用wordcount举例：

1 2 3 4 5 6 7 8 9 10 11

//DataFrame   // Load a text file and interpret each line as a java.lang.String val ds = sqlContext . read . text ( "/home/spark/1.6/lines" ) . as [ String ] val result = ds    . flatMap ( _ . split ( " " ) )                // Split on whitespace    . filter ( _ != "" )                      // Filter empty words    . toDF ( )                                // Convert to DataFrame to perform aggregation / sorting    . groupBy ( $ "value" )                    // Count number of occurences of each word    . agg ( count ( "*" ) as "numOccurances" )    . orderBy ( $ "numOccurances" desc )        // Show most common words first

后面版本DataFrame会继承DataSet，DataFrame是面向Spark SQL的接口。

1 2 3 4 5 6 7

//DataSet,完全使用scala编程，不要切换到DataFrame   val wordCount =    ds . flatMap ( _ . split ( " " ) )      . filter ( _ != "" )      . groupBy ( _ . toLowerCase ( ) ) // Instead of grouping on a column expression (i.e. $"value") we pass a lambda function      . count ( )

DataFrame和DataSet可以相互转化， df.as[ElementType] 这样可以把DataFrame转化为DataSet， ds.toDF() 这样可以把DataSet转化为DataFrame。

DataFrame是一个组织成命名列的数据集。它在概念上等同于关系数据库中的表或R/Python中的数据框架，但其经过了优化。DataFrames可以从各种各样的源构建，例如：结构化数据文件，Hive中的表，外部数据库或现有RDD。DataFrame API 可以被Scala，Java，Python和R调用。在Scala和Java中，DataFrame由Rows的数据集表示。在Scala API中，DataFrame只是一个类型别名Dataset[Row]。而在Java API中，用户需要Dataset<Row>用来表示DataFrame。在本文档中，我们经常将Scala/Java数据集Row称为DataFrames。

那么DataFrame和spark核心数据结构RDD之间怎么进行转换呢？

代码如下：

[python]  view plain  copy

1. # -*- coding: utf-8 -*-  
2. from __future__ import print_function  
3. from pyspark.sql import SparkSession  
4. from pyspark.sql import Row  
5.   
6. if __name__ == "__main__":  
7.     # 初始化SparkSession  
8.     spark = SparkSession \  
9.         .builder \  
10.         .appName("RDD_and_DataFrame") \  
11.         .config("spark.some.config.option", "some-value") \  
12.         .getOrCreate()  
13.   
14.     sc = spark.sparkContext  
15.   
16.     lines = sc.textFile("employee.txt")  
17.     parts = lines.map(lambda l: l.split(","))  
18.     employee = parts.map(lambda p: Row(name=p[0], salary=int(p[1])))  
19.   
20.     #RDD转换成DataFrame  
21.     employee_temp = spark.createDataFrame(employee)  
22.   
23.     #显示DataFrame数据  
24.     employee_temp.show()  
25.   
26.     #创建视图  
27.     employee_temp.createOrReplaceTempView("employee")  
28.     #过滤数据  
29.     employee_result = spark.sql("SELECT name,salary FROM employee WHERE salary >= 14000 AND salary <= 20000")  
30.   
31.     # DataFrame转换成RDD  
32.     result = employee_result.rdd.map(lambda p: "name: " + p.name + "  salary: " + str(p.salary)).collect()  
33.   
34.     #打印RDD数据  
35.     for n in result:  
36.         print(n)