Eclipse+maven+scala+spark环境搭建

eclipse+maven+scala+spark项目环境搭建 eclipse+maven+scala+spark项目环境搭建win7自用记录eclipse+maven+scala+spark项目环境搭建java的安装:Maven的安装和设置:对IDE进行修改和安装相应的软件:新建spark项目:hadoop设置运行测试 eclipse+maven+scala+spark项目环境搭建 几个重要的点: eclipse的安装,maven的配置,版本问题,一些问题尝... 阅读详情

Eclipse+maven+scala+spark环境搭建

标签: eclipse scala maven spark
3407人阅读  评论(0)  收藏  举报
  分类:
Spark(2) 

准备条件

我用的Eclipse版本 
Eclipse Java EE IDE for Web Developers. 
Version: Luna Release (4.4.0)

我用的是Eclipse for Java EE, 这个和Eclipse 是一样的 
最好是用高版本的Eclipse,版本太低的话不支持Scala-IDE

1.安装Scala-IDE

在Eclipse中开发Scala程序需要有scala插件,我们现在安装scala插件 
下面是安装过程截图 
Scala IDE用于提供scala语言的开发环境。直接在Marketplace下载安装,安装后如下图所示 


2.安装m2e-scala插件

m2e-scala用来支持scala开发中对maven的一些定制功能。通过eclipse的Install New Software安装。 
安装过程 
1.Help->Install New Software 
 
2.输入m2e-scala下载的url 
这一步我是跳过的,之前每次进行完这一步,我的Eclipse的maven插件反而找不到了,这个Eclipse自带的是 
m2e-eclipse插件,每次一安装m2e-scala插件后就找不到maven了,索性我就没进行这一步,用Eclipse自带的 m2e-eclipse. 
如下图 

url为:http://alchim31.free.fr/m2e-scala/update-site/ 
这里可以仅勾选第三项(图中红框所示) 
 
3.安装完成后,可在Help->Installation Details中查看 

3.新建Eclipse+scala+maven工程

新建maven工程 
 
此时的maven的Archetype需要设置为 org.scala-tools.archetypes 
如果没有安装Scala-IDE的话,会找不到org.scala-tools.archetypes这个类别 
然后Finish 
 
此时创建的工程还不是scala的工程,在项目名称上点击右键 


点击 Add Scala Nature后项目才转换为scala-maven项目 
然后pom.xml报下图中的错误,解决办法 
在 plugins 的外层加标签

解决方法: 
 
此时又报错 



意思是我有多个scala-library库的构建路径 
一个是scala-IDE插件带的,一个是maven库中的 
并且maven中自动设置的是scala版本是2.7.0的 
 
解决方法: 
把pox.xml中的scala-version改成和scala-IDE的版本一样 
这时候还是提示有多个scala-library的构建路径,但是不报错了

 

我们用一个构建路径,把其余的一个去掉 
这里我把pom.xml中的scala-library 注释掉,只用scala-IDE的库 
 
最后把自带的‘App.scala中的代码删除 
这样maven+scala的项目就成功搭建了。

4. Eclipse+maven+scala+spark

在pom.xml中加入spark的依赖 
我的spark的版本是 
 
这个版本的依赖 

<dependency> 
<groupId>org.apache.spark</groupId> 
<artifactId>spark-core_2.11</artifactId> 
<version>1.2.1</version> 
</dependency> 

我刚开始用的是 spark-core_2.10 ,结果报错,后来换成spark-core_2.11才合适,2.11是对应的scala版本 
然后一阵狂下在spark的依赖,最后是这个样子滴

 

终于把scala+maven+spark的环境搭建成功了,之前被maven那一步折腾的快疯了,最后索性没使用maven-for-scalaIDE

eclipse集成maven+scala 根据模板创建的maven项目,Pom文件中的scala版本是2.12.6,而我本地安装的scala-sdk为2.11.8,需要将修改scala版本为2.11.8。注意,可能restart要很久,如果太长时间就去任务管理器那里结束进程,再手动打开。我使用的jdk1.8.0_201。识别到scala插件,eclipse会弹出弹窗,选择OK重新启动eclipse。Scala对eclipse的版本有要求,必须要eclipse 4.x以上。右键项目,Run as,maven clean,否则会报错,找不到主类。 阅读详情

相关推荐

eclipse/myeclipse maven-for-scala插件

maven-for-scala插件,用来解决eclipse/myeclipse scala插件安装后报错的问题: Plugin execution not covered by lifecycle configuration: net.alchim31.maven:scala-maven-plugin:3.2.0:compile (execution: default, phase: compile)

eclipse环境搭建之五:Scala

最近由于开发的要求,需要使用Scala语言,这里就在前面搭建的eclipse的基础上搭建一个Scala的开发环境。 1、首先,你需要去Scala的官网上载你需要的安装包,这里我下载了最新的2.11.8的msi包。 2、双击进行安装: 点击"Next" 选择"I accept the terms in the License Agreement",然后点击"Next"

细雨潜行 1万+

Oracle EBS R12.2 安装 -- Step by Step

Oracle EBS R12.2 安装 -- Step by Step

Albert Tan DBA之路 1512

eclispe创建scala+maven项目

使用eclispe编写scala项目时需搭建scala环境、eclispe安装scala插件 1.win10下搭建scala环境 安装包尽量与spark版本中使用的scala保持一致   解压缩至指定目录下(D:\dev) 配置环境变量(右击此电脑 -- 属性 -- 高级系统设置 -- 环境变量 -- 系统环境变量 -- 新建SCALA_HOME) 设置系统环境变量:SCALA_H...

csdnmrliu的博客 2796

Unity中实现HLS视频加密与流式播放的完整方案

本文详细介绍了在Unity中实现HLS视频加密与流式播放的完整方案。针对Unity原生VideoPlayer无法直接支持实时解密的问题,提出了基于HLS协议与AES-128加密的成熟解决方案,并重点阐述了如何利用AVPro Video插件进行集成。文章涵盖了从密钥生成、使用FFmpeg进行视频加密切片,到在Unity中动态加载密钥并播放加密流的全流程,为保护付费课程、独家动画等视频内容提供了安全且高效的实践路径。

weixin_29290963的博客 393

保姆级教程:用Altium Designer 24从零画一块PCB(附完整库文件与避坑清单)

本文提供了一份详细的Altium Designer 24(AD24)PCB设计教程,从工程创建到最终文件输出,涵盖元件库管理、原理图设计、PCB布局布线等全流程。特别适合初学者,包含STM32最小系统板的实战案例,附完整库文件和避坑清单,帮助用户快速掌握AD24的核心功能与技巧。

weixin_27697385的博客 249

eclipse构建maven+scala+spark工程

本文先叙述如何配置eclipse中maven+scala的开发环境,之后,叙述如何实现spark的本地运行。最后,成功运行scala编写的spark程序。   刚开始我的eclipse+maven环境是配置好的。 系统:win7 eclipse版本:Luna Release(4.4.0) maven是从EclipseMarket中安装的,如图1。 当初构建eclipse+maven环境

wanglz666的专栏 1万+

基于STM32的智能交通灯管理系统设计

本项目基于STM32微控制器设计了一个智能交通灯管理系统,通过多个传感器模块实现对交通灯的智能化控制。项目涉及硬件电路设计、传感器数据采集和逻辑控制实现,适用于城市交通路口或小区路口。该基于STM32的智能交通灯系统通过超声波传感器实现了流量监测,结合LED和蜂鸣器实现了自动交通信号控制,适用于城市或社区路口。基于STM32CubeMX生成的框架,编写红绿灯切换、流量监测和蜂鸣器控制的代码。以下为主循环,通过不断读取传感器数据,结合交通灯和蜂鸣器模块实现智能交通灯控制。

2401_88410555的博客 2063

eclipse + maven + scala+spark环境搭建

一、配置eclipse + maven + scala环境 1. 在Eclipse Market中安装Scala IDE、Maven     2. 安装m2e-scala(图中的url是:http://alchim31.free.fr/m2e-scala/update-site/)    二、测试eclipse+m

kw-home 1041

基于Opencv+Mediapipe的头部姿态检测

在学生课堂专注度检测项目中,可以通过学生头部姿态来确定学生注意力方向,从而判断其是否专注于课堂。

weixin_67879842的博客 2335

Hypack 应用于地形测量的高级设置操作要领

Hypack 是业界公认最好的水文导航测量软件,是目前世界上应用广泛的专业测量疏浚软件。它能够接收,处理,存储和输出各种数据。Hypack支持绝大部分GPS,测深仪(国内如海鹰HY1603单波束测沙仪),多波束测深仪,旁扫声纳,涌浪补偿器,水位仪,验潮仪以及声速剖面仪。利用 Hypack 可以进行导航,单波束测量,多波束测量,旁扫测量以及疏浚实时监测等。软件界面友好,使用方便。本文简要阐述Hypack 应用于地形测量的几个重要操作要领。

中游鱼的博客 2794

win7下eclipse+spark+scala+maven环境搭建及实例

1. hadoop和spark的配置 (1)hadoop和spark的版本需对应,使用hadoop-2.6.0 和 spark-1.6.0-bin-hadoop2.6。 (2)环境变量配置:HADOOP_HOME和SPARK_HOME,分别对应它们的解压路径。在path中添加%HADOOP_HOME%\bin;%SPARK_HOME%\bin。          检测是否安装成功,cmd中分

csmnjk的专栏 459

UFSV3.1-RPMB实现与测试

UFS RPMB功能验证与测试指南 本文介绍了UFS(通用闪存存储)中RPMB(重放保护内存块)的功能验证与测试方法。主要内容包括: RPMB基础配置: 在Linux系统中查看RPMB设备节点 读取RPMB单元描述符获取配置信息 配置RPMB区域大小(16MB)和使能状态 RPMB特性验证: 获取单次写最大请求(16KB) 测试未编程认证密钥时的读写操作 验证认证密钥编程过程 测试用例: 包含4个测试用例,验证RPMB在不同状态下的行为 提供了详细的命令行操作和预期结果 本文可作为UFS RPMB功能验证。

小码哥的博客 1255

学习笔记:从0开始学习大数据-13. Eclipse+Scala+Maven Spark开发环境配置

上节配置好了spark运行环境,可以通过 spark-shell  在scala语言界面交互执行spark命令 可以参照( https://blog.youkuaiyun.com/u010285974/article/details/81840413   Spark-shell执行计算) 这篇文章操作练习 接下来在eclipse ide环境开发spark程序,环境配置费了一翻周折,在此记录,备用 我已安...

LinBSoft的专栏 378

华为OD机考双机位C卷 - 天然蓄水库(Java & Python& JS & C/C++ & GO )

华为OD机考双机位C卷 - 天然蓄水库(OD上机考试双机位C卷)。提供在线OJ刷题。Java、C++、Python、GO语言、C语言、JavaScript题解,并提供完整思路讲解。

算法大师! 1740

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

Spark Eclipse 开发环境搭建

Spark Eclipse 开发环境搭建 1 安装Spark环境 首先下载与集群 Hadoop 版本对应的 Spark 编译好的版本,解压缩到指定位置,注意用户权限 进入解压缩之后的 SPARK_HOME 目录 配置 /etc/profile 或者 ~/.bashrc 中配置 SPARK_H...

chengtuo5899的博客 245

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

eclipse集成Scala,运行Spark项目

为了学习Spark,在window上使用eclipse创建包含Scala的maven工程,并打包至于服务器运行。 1.1 hadoop安装 安装hadoop2.6.0,参考博客 1.2 spark下载 下载spark-1.6.0-bin-hadoop2.6.tgz,在官网下载,在 choose a download type中建议选择 select apache m

chic_data的博客 7242

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

spark 开发环境搭建

现在网上很多spark开发环境的搭建都是基于idea的,个人用习惯了eclipse,还是用eclipse来搭建开发环境把。准备工作,下载Scala IDE for Eclipse 版本:http://scala-ide.org/Scala 工程版本该方法和Java 工程类似。新建scala工程在工程中移除自带的scala版本库添加spark 库spark-assembly-1.1.0-cdh5.2...

彪锅锅来啦 808

(大数据)转载:Windows下基于eclipse的Spark应用开发环境搭建

转载自:http://www.cnblogs.com/tovin/p/3822985.html 原创文章,转载请注明: 转载自www.cnblogs.com/tovin/p/3822985.html   一、软件下载   maven下载安装 :http://10.100.209.243/share/soft/apache-maven-3.2.1-bin.

shisjj11的专栏 395

spark需要maven管理吗_使用Eclipse编写Spark应用程序(Scala+Maven)

点击这里观看厦门大学林子雨老师主讲《大数据技术原理与应用》授课视频【版权声明】博客内容由厦门大学数据库实验室拥有版权,未经允许,请勿转载![返回Spark教程首页]对Scala代码进行打包编译时,可以采用Maven,也可以采用sbt,相对而言,业界更多使用sbt。本教程介绍如何在 Ubuntu中使用 Eclipse 来开发 scala 程序(使用Maven工具),在Spark 2.1.0,scal...

weixin_36334262的博客 261

spark开发环境搭建及部署

spark开发环境搭建以及打包部署

超超德博客 1342

Scala学习笔记-1用Eclipse和IDEA搭建Scala+Spark开发环境

开发机器上安装jdk1.7.0_60和scala2.10.4,配置好相关环境变量。网上资料很多,安装过程忽略。此外,Eclipse使用Luna4.4.1,IDEA使用14.0.2版本。 1. Eclipse开发环境搭建 1.1. 安装scala插件 安装eclipse-scala-plugin插件,下载地址http://scala-ide.org/download/p

liu_chengwu的专栏 683
上一篇: 安装Scala的Eclipse插件
下一篇: Android Studio 设置代码提示和代码自动补全快捷键--EclipseIDE 风格
王树民
博客等级 码龄10年 912粉丝 560原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值