
spark
骑单车的王小二
切勿眼高于顶,谨记脚踏实地。
展开
-
scala 解析json字符串
package Test import java.util import net.minidev.json.JSONObjectimport net.minidev.json.parser.JSONParser import scala.collection.JavaConversions._import scala.collection.mutableimport scala.util.parsing.json.JSON /** * Created by zhanghuayan o原创 2021-12-31 15:40:44 · 731 阅读 · 0 评论 -
spark/scala常用语法
SparkContext每一个Spark应用都是一个SparkContext实例,可以理解为一个SparkContext就是一个spark application的生命周期,一旦SparkContext创建之后,就可以用这个SparkContext来创建RDD、累加器、广播变量,并且可以通过SparkContext访问Spark的服务,运行任务。spark context设置内部服务,并建立与spark执行环境的连接。spark.sparkContext.textFile(path)textFile的原创 2021-11-18 15:16:10 · 1426 阅读 · 0 评论