
Spark
AIgeeksu
致知力行!
展开
-
1.SparkRDD join案例
1.本实例主要假设有两个数据源,一个是使用了SparkSQL的API读取JSON文件,另一个数据源来自于自己构造的数据信息(实例中的peopleInformation)。 2.实例演示了JSON文件的读取,和RDD的JOIN操作,以及Schema,RDD和ROW之间的有趣关系; 3.具体实例如下: import org.apache.spark.SparkConf import org.a原创 2017-05-07 22:20:41 · 2181 阅读 · 1 评论 -
spark更新广播变量实例
实际项目中需要使用更新广播变量的方式来满足需求,其代码具体如下: @NotProguard public class WbBroadcastWrapper { Broadcast> broadcastBlackWhiteList = null; private static WbBroadcastWrapper obj = new WbBroadcastWrapper(); p原创 2017-10-11 00:27:48 · 3740 阅读 · 0 评论