spark-sql的使用配置流程

1,安装配置好jdk,mysql和scala

2,安装配置hadoop

3,安装配置好hive

4,安装配置好spark

5,把hive的conf目录下hive-site.xml文件拷贝到spark的conf目录下

cp hive-site.xml /home/hadoop/app/spark-2.4.6-bin-hadoop2.7/conf

6,spark启动,需指定mysql驱动包,进入scala命令行

spark-shell local[2] --jars ~/software/mysql-connector-java-5.1.27-bin.jar

7.执行spark-sql指令,比查看某个表

scala> spark.sql("select * from emp1").show
20/07/17 20:26:43 WARN ObjectStore: Failed to get database global_temp, returning NoSuchObjectException
+---+---------+
| id|     name|
+---+---------+
|  1| Rafferty|
|  2|    Jones|
|  3|Steinberg|
|  4| Robinson|
|  5|    Smith|
|  6|     John|
+---+---------+

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值