
spark
文章平均质量分 90
snetlogon20
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
spark-shell: 通过spark sql 操作hive
/************************************spark sql 连接hive**************************************///1) 前置条件#1.拷贝hive-site.xml到spark/conf下,拷贝mysql-connector-java-xxx-bin.jar到hive/lib下#2.开启hive元数据服务:hi...原创 2019-10-29 14:50:58 · 658 阅读 · 0 评论 -
PyCharm中通过pyspark调用spark报错的解决办法
问题:PyCharm中通过pyspark无法调起spark2019-10-16 20:39:09,343 | Dummy-1:22492 | django.db.backends:90 | utils:execute | DEBUG | (0.000) SELECT @@SQL_AUTO_IS_NULL; args=None2019-10-16 20:39:09,344 | Dummy-1...原创 2019-10-17 12:59:30 · 3032 阅读 · 0 评论 -
springboot2.0 操作 spark2.x
一、首先很少有java连接spark的情况,一般是python, scala 直接上了。二、话说,python也要引入pyspark,还有下载spark的lib, 也挺麻烦的。只有scala可以直接调用 spark-shell, 还算好用。废话不多说,直接上代码三、完整的pom,不多不少刚刚好。<?xml version="1.0" encoding="UTF-8"?><...原创 2019-10-04 10:01:42 · 866 阅读 · 1 评论