本文深入探讨了Spark中窄依赖与宽依赖的概念，解释了它们的区别，并通过实例阐述了如何识别这两种依赖类型。重点强调了窄依赖与宽依赖对RDD执行计划的影响及中间数据产生的原因。
1.窄依赖是指每个父RDD的一个Partion最多被子RDD的一个Partion所使用，例如map、filter、union等都会产生窄依赖；
2，宽依赖是指一个父RDD的Partion会被多个子RDD的partion所使用，例如groupByKey、reduceByKey、sortByKey等操作都会产生宽依赖
总结如果父RDD的一个Partion被子RDD的Partion所使用就是窄依赖，否则的话就是宽依赖。
如果子RDD中的Partition对父RDD的Partition依赖的数量不会随着RDD数据规模的改变而改变的话，就是窄依赖，否则的话就是宽依赖。
特别说明：对join操作有两种情况，如果说join操作的使用每个partition仅仅和已知的Partition进行join，这次是join操作就是窄依赖；其它情况的join操作就是宽依赖；
因为是确定的partition数量的依赖关系，所有就是窄依赖，得出一个推论，窄依赖不仅包含一对一的窄依赖，还包含一对固定个数的窄依赖（也就是说对父RDD的依赖的Partition的数量不会随着RDD数据规模的改变而改变）
思考：RDD基于依赖关系构成了不同的Stage，到底能不能把所有的RDD放到一个任务中运行？
如果所有的RDD放在一个Stage中，任务需要一个一个执行，会产生大量的中间数据，为啥要产生中间数据？中间数据需要存储起来，才能进行下一步计算
扫一扫
2153
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
