1、spark2-shell命令启动spark2后,抛出异常,关键错误信息如下图:
仔细查看错误信息之后发现,原来是yarn配置的内存不够,spark启动需要1024+384 MB的内存,但是我的yarn配置仅有1024 MB,不够满足spark启动要求,所以抛出异常。
解决方法
录Cloudera Manager,找到YARN (MR2 Included),点击进入,如图:
在导航栏找到 配置 选项,点击进入 配置 页面,如图:
在搜索栏中输入yarn.scheduler.maximum-allocation-mb,可以看到,该配置参数的值正如spark启动时抛出的异常所示,为1GB,将其修改为2GB即可,点击保存更改。
按照上述的步骤,继续修改yarn.nodemanager.resource.memory-mb 参数的值为2GB,点击保存更改,重启yarn使设置生效。
再次进入shell环境如下图:
spark2-shellqidong启动正常!!!