spark2-shell启动spark2报错

1、spark2-shell命令启动spark2后,抛出异常,关键错误信息如下图:

 仔细查看错误信息之后发现,原来是yarn配置的内存不够,spark启动需要1024+384 MB的内存,但是我的yarn配置仅有1024 MB,不够满足spark启动要求,所以抛出异常。

解决方法

      录Cloudera Manager,找到YARN (MR2 Included),点击进入,如图:

在导航栏找到 配置 选项,点击进入 配置 页面,如图:

 

在搜索栏中输入yarn.scheduler.maximum-allocation-mb,可以看到,该配置参数的值正如spark启动时抛出的异常所示,为1GB,将其修改为2GB即可,点击保存更改。

按照上述的步骤,继续修改yarn.nodemanager.resource.memory-mb 参数的值为2GB,点击保存更改,重启yarn使设置生效。

 再次进入shell环境如下图:

spark2-shellqidong启动正常!!! 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值