【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群(第五步)(3)...

本文详细介绍了Hadoop集群的配置过程,包括从节点SparkWorker1和SparkWorker2的设置、core-site.xml、hdfs-site.xml、mapred-site.xml以及yarn-site.xml等关键配置文件的具体修改方法。

第四步修改配置文件slaves,如下所示:

095537_LBlw_1791057.png

我们设置Hadoop集群中的从节点为SparkWorker1和SparkWorker2,把slaves文件的内容修改为:

095538_MeZJ_1791057.png

第五步修改配置文件core-site.xml,如下所示:

095538_Vh6y_1791057.png

把core-site.xml文件的内容修改为:

095538_IOC9_1791057.png

上述是core-site.xml文件的最小化配置,core-site.xml各项配置可参考:

http://hadoop.apache.org/docs/r2.2.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

第六步修改配置文件hdfs-site.xml,如下所示:

095538_3MF0_1791057.png

把hdfs-site.xml文件的内容修改为:

095539_QUya_1791057.png

上述是hdfs-site.xml文件的最小化配置,hdfs-site.xml各项配置课参考:

http://hadoop.apache.org/docs/r2.2.0/hadoop-project-dist/hadoop-hdfs/hdfs-default.xml

第七步修改配置文件mapred-site.xml,如下所示:

拷贝一份mapred-site.xml.template命名为mapred-site.xml,打开mapred-site.xml 

095540_UgOD_1791057.png

把mapred-site.xml文件的内容修改为:

095540_AXny_1791057.png

上述是mapred-site.xml最小化配置,mapred-site.xml各项配置可参考:

http://hadoop.apache.org/docs/r2.2.0/hadoop-mapreduce-client/hadoop-mapreduce-client-core/mapred-default.xml

第七步修改配置文件yarn-site.xml,如下所示:

095540_0LLm_1791057.png

把yarn-site.xml的内容修改为:

095540_WJ3e_1791057.png

上述内容是yarn-site.xml的最小化配置,yarn-site.xml文件配置的各项内容可以参考:

http://hadoop.apache.org/docs/r2.2.0/hadoop-yarn/hadoop-yarn-common/yarn-default.xml

转载于:https://my.oschina.net/u/1791057/blog/325587

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值