【菜鸟系列】spark常用算子总结（java）--union,intersection,coalesce,repartition,cartesian,distinct

最新推荐文章于 2021-02-28 12:19:15 发布

置顶 Java_Soldier

最新推荐文章于 2021-02-28 12:19:15 发布

阅读量2k

点赞数

CC 4.0 BY-SA版权

分类专栏： spark

本文链接：https://blog.youkuaiyun.com/Java_Soldier/article/details/80624473

spark 专栏收录该内容

13 篇文章

订阅专栏

本文主要介绍了Spark中几个关键的操作符，包括union、intersection、coalesce、repartition和distinct。这些操作对于数据处理和融合至关重要，尤其在Java开发中有着广泛的应用。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

/**
 * union
 * 合并
  */
JavaRDD rdd1 = jsc.parallelize(Arrays.asList(1,2,3,4,5,6,7),2);
JavaRDD rdd2 = jsc.parallelize(Arrays.asList(1,21,31,41,51,61,7),2);
JavaRDD rdd3 = rdd1.union(rdd2);
//System.out.println(rdd3.collect());

/**
 * intersection
 * 交集
 */
JavaRDD rdd4 = rdd1.intersection(rdd2);
//System.out.println(rdd4.collect());

/**
 * coalesce(numPartitions,shuffle)
 * shuffle=false是不能增加分区数量的
 * 当减少分区时，采用coalesce可以减少shuffle的损耗
 */
JavaRDD rdd5 = rdd1.coalesce(3,true);
/**
 * repartition(2)
 * 可以增加或者减少分区数量，底层调用coalesce（numpartitions,true）
 * 减少分区的时候建议使用coalesce，以免产生shuffle
 */
JavaRDD rdd6 = rdd1.repartition(2);
/**
 * cartesian
 * 笛卡尔积
 */
JavaPairRDD rdd7 = rdd1.cartesian(rdd2);
//System.out.println(rdd7.collect());
/**
 * distinct
 */
JavaRDD rdd8 = rdd3.distinct();
System.out.println(rdd8.collect());
JavaRDD rdd9 = rdd3.distinct(2);
System.out.println(rdd9.collect());