1、错误关键代码
print(len(rdd.glom()))
2、校正代码
print(len(rdd.glom().collect()))
3、全部代码
# 测试关于每一种集群的默认分区,并试试能否查看
from pyspark import SparkConf, SparkContext
conf = SparkConf().setAppName("测试9 App")
sc = SparkContext(conf=conf)
rdd = sc.parallelize([1, 2, 3, 4, 5])
# 查看rdd中的元素
rdd.foreach(print)
# 查看rdd每个分区
rdd.glom().foreach(print)
# 显示rdd的分区数量
print(len(rdd.glom().collect()))
4、报错原因:待定
本文介绍了在使用Python的SparkAPI时,如何正确处理错误代码(如`len(rdd.glom())`),以及如何检查RDD的分区数量。作者通过示例展示了如何创建SparkContext,生成RDD,查看元素和分区,并解释了`glom()`函数的作用。
354






