
Spark学习笔记
一直不懂
笔记
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
Spark SQL 使用示例
1、Spark SQL1.1、Spark SQL概述Spark SQL是Spark用来处理结构化数据的一个模块,它提供了一个编程抽象叫做DataFrame并且作为分布式SQL查询引擎的作用。Hive它是将Hive SQL转换成MapReduce然后提交到集群上执行,大大简化了编写MapReduce的程序的复杂性,由于MapReduce这种计算模型执行效率比较慢。所有Spark SQL的...原创 2019-08-24 00:50:46 · 1285 阅读 · 0 评论 -
Spark Streaming单词计数使用示例
首先定义一个trait StreamingExample继承于App,设置日志级别为WARN,定义几个常量子类使用。trait StreamingExample extends App { Logger.getRootLogger.setLevel(Level.WARN) val hostname = "localhost" val port = 9999 val che...原创 2019-08-26 23:05:09 · 536 阅读 · 0 评论