超级会员免费看
本文详细介绍了Spark中的map算子及其使用，包括如何在数据转换中运用map，以及与mapPartitions的区别。mapPartitions在处理数据时以分区为单位，允许进行批量操作，性能优于map但可能引发内存问题。此外，还提到了mapPartitionsWithIndex，它在处理数据时还能获取当前分区索引。
前言
算子是spark中处理数据的重要的计算单元，RDD 根据数据处理方式的不同将算子整体上分为 Value 类型、双 Value 类型和 Key-Value类型；
Map使用
map在spark的数据转换中有着重要的作用，开发中几乎离不开map的使用，基本语法：
def map[U: ClassTag](f: T => U ): RDD[ U ]
函数说明：
- 将处理的数据逐条进行映射转换，这里的转换可以是类型的转换，也可以是值的转换
案例1
自定义一个List集合，将集合中的每个元素前面拼接一个字符串
import org.apache.spark.{SparkConf, SparkContext}
订阅专栏 解锁全文
扫一扫
976
到【灌水乐园】发言
