TypeError: object of type ‘PipelinedRDD‘ has no len()

本文介绍了在使用Python的SparkAPI时,如何正确处理错误代码(如`len(rdd.glom())`),以及如何检查RDD的分区数量。作者通过示例展示了如何创建SparkContext,生成RDD,查看元素和分区,并解释了`glom()`函数的作用。

1、错误关键代码

print(len(rdd.glom()))

2、校正代码

print(len(rdd.glom().collect()))

3、全部代码

# 测试关于每一种集群的默认分区,并试试能否查看
from pyspark import SparkConf, SparkContext

conf = SparkConf().setAppName("测试9 App")
sc = SparkContext(conf=conf)
rdd = sc.parallelize([1, 2, 3, 4, 5])
# 查看rdd中的元素
rdd.foreach(print)
# 查看rdd每个分区
rdd.glom().foreach(print)
# 显示rdd的分区数量
print(len(rdd.glom().collect()))

4、报错原因:待定 

评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值