RDD的创建

RDD可以从现有的集合创建:


scala> val col = List("a","b","c","d")
col: List[String] = List(a, b, c, d)

scala> val rdd1 = col.pa
padTo       par         partition   patch       

scala> val rdd1 = sc.parallelize(col)
rdd1: org.apache.spark.rdd.RDD[String] = ParallelCollectionRDD[0] at parallelize at <console>:23

scala> rdd1.first()
15/10/18 21:03:00 WARN SizeEstimator: Failed to check whether UseCompressedOops is set; assuming yes
res0: String = a

scala> rdd1.take
take          takeOrdered   takeSample    

scala> rdd1.take(3)
res1: Array[String] = Array(a, b, c)


另外RDD可以从HDFS,本地文件系统创建,基于Hadoop的RDD可以使用任何实现了Hadoop InpuFormat接口的输入格式,包括文本文件,其他Hadoop标准格式,HBase等。


从本地文件系统创建RDD:
scala> val rdd2 = sc.textFile("/home/caiyong/桌面/test8")
rdd2: org.apache.spark.rdd.RDD[String] = MapPartitionsRDD[2] at textFile at <console>:21




评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值