2.3 Hadoop单机配置

本文详细介绍了Hadoop单机模式(伪分布式)的配置步骤,包括修改hadoop-env.sh、slaves、hdfs-site.xml、core-site.xml、mapred-site.xml及yarn-site.xml等关键配置文件的方法,为初学者提供了全面的Hadoop入门指导。

第2章 Hadoop快速入门

常见的Hadoop部署模式分为单机模式和集群模式,也称为伪分布式模式和分布式模式。 
单机模式(伪分布式)模式是在一个节点上部署所有的Hadoop服务。在使用上,单机模式(伪分布式)模式跟集群模式(分布式模式)是一样的。

2.3 Hadoop单机配置

2.3节到2.5节内容参考官方文档: 
http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-common/SingleCluster.html

2.3.1 修改hadoop-env.sh

Hadoop的配置文件存放于Hadoop根目录下的etc/hadoop目录,进入该目录 
这里写图片描述

通过vi hadoop-env.sh命令来编辑hadoop-env.sh脚本文件 
这里写图片描述

在第25行左右可以找到export JAVA_HOME=${JAVA_HOME}内容 
这里写图片描述

将改行修改为export JAVA_HOME=/opt/jdk1.8.0_112 
这里写图片描述 
然后保存退出

2.3.2 修改slaves文件

同样通过命令vi slaves编辑slaves文件 
这里写图片描述 
将默认值localhost修改为node1,保存退出。 
这里写图片描述

2.3.3 修改hdfs-site.xml

vi hdfs-site.xml

[root@node1 hadoop]# vi hdfs-site.xml
     
  • 1

这里写图片描述 
<configuration></configuration>之间添加如下内容:


     
  1. <property>
  2. <name>dfs.replication </name>
  3. <value>1 </value>
  4. </property>
  • 1
  • 2
  • 3
  • 4

保存退出

2.3.4 修改core-site.xml

vi core-site.xml

[root@node1 hadoop]# vi core-site.xml
     
  • 1

这里写图片描述 
<configuration></configuration>之间添加如下内容:


     
  1. <property>
  2. <name>fs.defaultFS </name>
  3. <value>hdfs://node1:9000 </value>
  4. </property>
  • 1
  • 2
  • 3
  • 4

保存退出

2.3.5 修改mapred-site.xml 文件

默认情况下该目录下没有mapred-site.xml文件,而是存在一个模版文件mapred-site.xml.template,因此首先将模版文件复制一份为mapred-site.xml。然后在通过vi编辑该mapred-site.xml文件 
cp mapred-site.xml.template mapred-site.xml 
vi mapred-site.xml


     
  1. [root @node1 hadoop] # cp mapred-site.xml.template mapred-site.xml
  2. [root @node1 hadoop] # vi mapred-site.xml
  • 1
  • 2

这里写图片描述 
<configuration></configuration>之间添加如下内容:


     
  1. <property>
  2. <name>mapreduce.framework.name </name>
  3. <value>yarn </value>
  4. </property>
  • 1
  • 2
  • 3
  • 4

这里写图片描述 
保存退出。

2.3.6 修改yarn-site.xml

vi yarn-site.xml

[root@node1 hadoop]# vi yarn-site.xml
     
  • 1

这里写图片描述 
<configuration></configuration>之间添加如下内容:


     
  1. <property>
  2. <name>yarn.nodemanager.aux-services </name>
  3. <value>mapreduce_shuffle </value>
  4. </property>
  • 1
  • 2
  • 3
  • 4

保存退出

灰常灰常感谢原博主的辛苦工作,为防止删博,所以转载,只供学习使用,不做其他任何商业用途。
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值