本文探讨Spark中MapPartitions操作的优势和潜在风险。MapPartitions让task仅执行一次function处理整个partition，提高性能，但可能导致一次性加载大量数据引起内存溢出。适用于数据量适中场景，实际应用前需评估RDD分区大小及executor内存资源，以防OOM问题。
spark中，最基本的原则，就是每个task处理一个RDD的partition。
1、MapPartitions操作的优点：
如果是普通的map，比如一个partition中有1万条数据；ok，那么你的function要执行和计算1万次。
但是，使用MapPartitions操作之后，一个task仅仅会执行一次function，function一次接收所有的partition数据。只要执行一次就可以了，性能比较高。
2、MapPartitions的缺点：
如果是普通的map操作，一次function的执行就处理一条数据；那么如果内存不够用的情况下，比如处理了1千条数据了，那么这个时候内存不够了，那么就可以将已经处理完的1千条数据从内存里面垃圾回收掉，或者用其他方法，腾出空间来吧。
所以说普通的map操作通常不会导致内存的OOM异常。
但是MapPartitions操作&#x
最低0.47元/天 解锁文章
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
