RDD之flatMap与Map对比

本文详细解释了flatMap与map在RDDAPI中的定义与用法,通过示例对比两者如何处理数据,flatMap在应用函数后会将结果扁平化。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

定义

首先我们列出flatMap与Map的定义,可参考RDD API

        def map[U](f: (T) ⇒ U)(implicit arg0: ClassTag[U]): RDD[U] 
        Return a new RDD by applying a function to all elements of this RDD.

        def flatMap[U](f: (T) ⇒ TraversableOnce[U])(implicit arg0: ClassTag[U]): RDD[U] 
        Return a new RDD by first applying a function to all elements of this RDD, and then flattening the results.

api已经讲解较为清楚,map是将每个元素对应执行f函数,而flatMap对应的是将每个元素执行f函数后将其扁平化 

示例

我们采用将每个元素按照空格的方法将每个元素进行分割,分别执行map与flatMap方法。 
map方法如下图所示:

flatMap方法如下图所示:

转自:https://blog.youkuaiyun.com/mingwar/article/details/79643126

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值