Spark+Hadoop安装注意事项

本文提供了Spark安装前的注意事项,包括版本选择、兼容性检查、搭建模式建议等。此外还介绍了IDEA环境下Scala插件的使用及Spark Jar包的导入方法。

1.安装之前选择合适的版本,避免使用被淘汰的版本

2.注意不同版本Spark和不同Hadoop以及JDK和SDK版本的兼容性

3.如果是作为学习,可以只搭建local模式,只有一个节点,Hadoop和Spark都可以只设置一个节点

4.下载Idea使用时需要下载Scala插件,并导入JDK和SDK,还需要导入对应的Spark Jar包

5.hadoop的data目录所在分区最好选用剩余磁盘较大的空间,避免hadoop在上传文件或者进行运算时,出现磁盘空间不足的情况。


评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值