
scala
荣晓
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
spark处理struct格式的数据
val spark = SparkSession.builder().master("local[*]").appName(this.getClass.getSimpleName).getOrCreate() val sc = spark.sparkContext val fs = FileSystem.get(sc.hadoopConfiguration) sc.setLogLevel("error") import spark.implicits._ v..原创 2021-07-27 11:07:50 · 1871 阅读 · 0 评论 -
使用scala将map转为case class 的类
case class Testtt(name:String,age:String)object TestDay { def main(args: Array[String]): Unit = { val map = new mutable.HashMap[String, String]() map.put("name","小明") map.put("age","20") println(createCaseClass[Testtt](map)) } .原创 2020-11-17 18:13:03 · 1172 阅读 · 0 评论 -
spark 写出的文件中出现{ “empty“:false, “traversableAgain“:true }
问题:scala语言spark将数据转成一个json写出去的时候,写出的文件中出现{ “empty”:false, “traversableAgain”:true }原因:JSON.toJSONString(map)转为string时出现问题,转为java的集合类就可以了JSON.toJSONString(map.asJava)//导包import collection.JavaConverters._...原创 2020-07-10 16:15:16 · 2941 阅读 · 0 评论 -
使用scala使用fastjson将map转json报错
报错内容Error:(87, 13) ambiguous reference to overloaded definition,both method toJSONString in object JSON of type (x$1: Any, x$2: com.alibaba.fastjson.serializer.SerializerFeature*)Stringand method toJSONString in object JSON of type (x$1: Any)Stringmat原创 2020-07-08 19:31:56 · 1481 阅读 · 0 评论 -
spark报错illegal cyclic reference involving object InterfaceAudience
代码中使用了两次1.第一次使用val fs = FileSystem.get(sparkSession.sparkContext.hadoopConfiguration)第二次使用2.sparkSession.sparkContext.parallelize(list)改为下述一次生成,多次调用:va sc=sparkSession.sparkContextval fs = File...原创 2019-10-29 13:47:38 · 2784 阅读 · 0 评论 -
scala 使用java8的LocalDateTime实现字符串和时间戳的互换
将字符串转换为时间戳 def coverStringTimeToLong(time:String): Long ={ val format = DateTimeFormatter.ofPattern("yyyy-MM-dd HH:mm:ss") val parse = LocalDateTime.parse(time, format) //getEpochSecond...原创 2019-10-16 15:06:54 · 583 阅读 · 0 评论