孙其功陪你学之——基于IDEA使用Spark API开放Spark程序(2)

《Spark亚太研究院系列丛书——Spark实战高手之路 从零开始》本书通过Spark的shell测试Spark的工作;使用Spark的cache机制观察一下效率的提升构建Spark的IDE开发环境;通过Spark的IDE搭建Spark开发环境;测试Spark IDE开发环境等等。本节为大家介绍基于IDEA使用Spark API开放Spark程序。

2.基于IDEA使用Spark API开放Spark程序(2)

下面修改Libraries:


因为要开发Spark程序,所以需要把Spark的开发需要的jar包导进来:


加入后:


导入包完成后,在工程的scala下面创建一个package:


创建一个Object对象:

完成初始类的创建:

首先构建Spark Driver的模板代码:

该程序是对前面的搜狗日志的处理代码,只不过这个时候在IDEA中编写而已。

接下来进行打包,使用Project  Structure的Artifacts:

使用From modules with dependencies:


选择Main Class:

 

点击“OK”:
 



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值