Spark学习（三）之 RDD

关注

原创最新推荐文章于 2026-06-14 19:52:15 发布 400 阅读 AI 写同款· GEO 优化 ›

大数据学习之Spark——04RDD概述及创建一. RDD概述 1. 什么是RDD RDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是Spark中最基本的数据抽象。代码中是一个抽象类，它代表一个不可变、可分区、里面的元素可并行计算的集合。 2. RDD的五大特性 RDD是由一系列partition组成算子(函数)是作用在RDD的partition上的 RDD之间有依赖关系分区器是作用在k, v格式的RDD上 partition提供数据计算的最佳位置, 利于数据处理的本地化. “计算移动, 数据不移动” 阅读详情

文章目录

1、什么是RDD

RDD（Resilient Distributed Dataset）叫做弹性分布式数据集，是Spark中最基本的数据抽象，它代表一个不可变、可分区、里面的元素可并行计算的集合。RDD具有数据流模型的特点：自动容错、位置感知性调度和可伸缩性。RDD允许用户在执行多个查询时显式地将工作集缓存在内存中，后续的查询能够重用工作集，这极大地提升了查询速度。

2、RDD的五大特性

1、RDD是由一系列的partition（分片）组成的，即数据集的基本组成单位对于RDD来说，每个分片都会被一个计算任务处理，并决定并行计算的粒度。用户可以在创建RDD时指定RDD的分片个数，如果没有指定，那么就会采用默认值。默认值就是程序所分配到的CPU Core的数目。

partition个数=split切片数≈block个数
当一个文件分3个block块，第二个最后一个汉字被分在了第二块和第三块，第三块只有一些不完整的东西，由于split切片要保证完整性，所以它会把数据分为2个切片
Spark没有读文件的方法，依赖于MR的文件的方法

2、RDD提供的每一个算子实际上是作用于每一个partition上
3、RDD是由一系列的依赖关系的，依赖于其他的RDD，RDD的每次转换都会生成一个新的RDD，所以RDD之间就会形成类似于流水线一样的前后依赖关系。

好处：提高容错性。当一些数据出错时，根据依赖性去找源数据，根据函数再次计算得到丢失的数据体现出了RDD的弹性。

4、可选：分区器作用在KV格式的RDD上，当前Spark中实现了两种类型的分片函数，一个是基于哈希的HashPartitioner，另外一个是基于范围的RangePartitioner。只有对于于key-value的RDD，才会有Partitioner，非key-value的RDD的Parititioner的值是None。

什么是KV格式的RDD？ RDD中存储的计算逻辑的返回值是二元组

5、每一个RDD都会提供一系列的最佳的计算位置，Spark在进行任务调度的时候，会尽可能地将计算任务分配到其所要处理数据块的存储位置。

好处计算找数据计算向数据移动数据不移动，计算移动

3、WordCount粗图解RDD

在这里插入图片描述

4、RDD的操作算子

RDD的操作算子包括两类，一类叫做transformations，它是用来将RDD进行转化，构建RDD的血缘关系；另一类叫做actions，它是用来触发RDD的计算，得到RDD的相关计算结果或者将RDD保存的文件系统中。下图是RDD所支持的操作算子列表。
在这里插入图片描述

Transformations类算子

主要做的是就是将一个已有的RDD生成另外一个RDD。Transformation具有lazy特性(延迟加载)。Transformation算子的代码不会真正被执行。只有当我们的程序里面遇到一个action算子的时候，代码才会真正的被执行。这种设计让Spark更加有效率地运行。

map	返回一个新的RDD，该RDD由每一个输入元素经过func函数转换后组成
filter	返回一个新的RDD，该RDD由经过func函数计算后返回值为true的输入元素组成
flatMap	类似于map，但是每一个输入元素可以被映射为0或多个输出元素（所以func应该返回一个序列，而不是单一元素）
distinct	对源RDD进行去重后返回一个新的RDD
groupByKey	在一个(K,V)的RDD上调用，返回一个(K, Iterator[V])的RDD
reduceByKey	在一个(K,V)的RDD上调用，返回一个(K,V)的RDD，使用指定的reduce函数，将相同key的值聚合到一起，与groupByKey类似，reduce任务的个数可以通过第二个可选的参数来设置
sortByKey	在一个(K,V)的RDD上调用，K必须实现Ordered接口，返回一个按照key进行排序的(K,V)的RDD
sortBy	与sortByKey类似，但是更灵活第一个参数是根据什么排序第二个是怎么排序 false倒序第三个排序后分区数默认与原RDD一样
join	在类型为(K,V)和(K,W)的RDD上调用，返回一个相同key对应的所有元素对在一起的(K,(V,W))的RDD 相当于内连接（求交集）
repartition	重新分区必须shuffle 参数是要分多少区少变多
combineByKey	合并相同的key的值 rdd1.combineByKey(x => x, (a: Int, b: Int) => a + b, (m: Int, n: Int) => m + n)
partitionBy（partitioner）	对RDD进行分区 partitioner是分区器

Action类算子

reduce	通过func函数聚集RDD中的所有元素，这个功能必须是课交换且可并联的
collect()	collect:将Task的计算结果拉回Driver端,在驱动程序中，以数组的形式返回数据集的所有元素
count()	返回RDD的元素个数
first()	返回RDD的第一个元素（类似于take(1)）
take(n)	返回一个由数据集的前n个元素组成的数组
saveAsTextFile(path)	将数据集的元素以textfile的形式保存到HDFS文件系统或者其他支持的文件系统，对于每个元素，Spark将会调用toString方法，将它装换为文件中的文本
countByKey()	针对(K,V)类型的RDD，返回一个(K,Int)的map，表示每一个key对应的元素个数。
foreach(func)	在数据集的每一个元素上，运行函数func进行更新。不会回收所有task的计算结果，原理：将用户传入的函数推送到各个节点上去执行查看结果的方式:1.web ui 2.去Worker的工作目录查看
lookup
foreachPartition

控制类算子

cache	RDD缓存，可以避免重复计算从而减少时间，区别：cache内部调用了persist算子，cache默认就一个缓存级别MEMORY-ONLY ，而persist则可以选择缓存级别
persist

注意点：控制类算子后不能立即紧跟action算子缓存单元是partition 懒执行，需要action算子出发执行如果你的Application中只有一个job，没有必要使用控制算子

5、RDD的宽依赖和窄依赖

由于RDD是粗粒度的操作数据集，每个Transformation操作都会生成一个新的RDD，所以RDD之间就会形成类似流水线的前后依赖关系；RDD和它依赖的父RDD（s）的关系有两种不同的类型，即窄依赖（narrow dependency）和宽依赖（wide dependency）。如图所示显示了RDD之间的依赖关系。
在这里插入图片描述
从图中可知：
窄依赖：是指每个父RDD的一个Partition最多被子RDD的一个Partition所使用，例如map、filter、union等操作都会产生窄依赖；（独生子女）
宽依赖：是指一个父RDD的Partition会被多个子RDD的Partition所使用，例如groupByKey、reduceByKey、sortByKey等操作都会产生宽依赖；（超生）

通过RDDs之间的这种依赖关系，一个任务流可以描述为DAG(有向无环图)，如下图所示，在实际执行过程中宽依赖对应于Shuffle(图中的reduceByKey和join)，窄依赖中的所有转换操作可以通过类似于管道的方式一气呵成执行(图中map和union可以一起执行)。
在这里插入图片描述

总结

如果父RDD的一个Partition被子RDD的一个Partition所使用就是窄依赖，否则的话就是宽依赖。因为是确定的partition数量的依赖关系，所以RDD之间的依赖关系就是窄依赖；由此我们可以得出一个推论：即窄依赖不仅包含一对一的窄依赖，还包含一对固定个数的窄依赖。
一对固定个数的窄依赖的理解：即子RDD的partition对父RDD依赖的Partition的数量不会随着RDD数据规模的改变而改变；换句话说，无论是有100T的数据量还是1P的数据量，在窄依赖中，子RDD所依赖的父RDD的partition的个数是确定的，而宽依赖是shuffle级别的，数据量越大，那么子RDD所依赖的父RDD的个数就越多，从而子RDD所依赖的父RDD的partition的个数也会变得越来越多。

收录于