hadoop环境搭建单机模式

1、确认安装好jdk
2、下载hadoop安装包http://hadoop.apache.org/docs/r2.7.3/hadoop-project-dist/hadoop-common/SingleCluster.html
3、在/usr/local/下创建hadoop文件
   sudo mkdir /usr/local/hadoop
4、拷贝夹包到用户root目录下,在拷贝到hadoop下
5、解压缩 tar -xf hadoop-2.7.3.tar.gz
6、在/usr/local/hadoop/目录下建立tmp、hdfs/name、hdfs/data目录 执行如下命令
#mkdir /root/hadoop/tmp
#mkdir /root/hadoop/hdfs
#mkdir /root/hadoop/hdfs/data
#mkdir /root/hadoop/hdfs/name
7、设置环境变量,#vi ~/.bash_profile
# set hadoop path
export HADOOP_HOME=/root /hadoop/hadoop-2.6.0
export PATH=$PATH:$HADOOP_HOME/bin
8、使环境变量生效,$source ~/.bash_profile
9、hadoop配置
     1)配置hadoop-env.sh
最下面添加如下信息
# The java implementation to use.
#export JAVA_HOME=${JAVA_HOME}
export JAVA_HOME=/usr/lib/jdk1.8.0_73
2)配置yarn-env.sh
#export JAVA_HOME=/home/y/libexec/jdk1.6.0/
#export JAVA_HOME=/usr/lib/jdk1.8.0_73
3)配置core-site.xml
添加如下配置:
其中,hdfs://hadoop0:9000需要注意是否跟你的主机名一致   hadoop0是主机名
<configuration>
 <property>
    <name>fs.default.name</name>
    <value>hdfs://hadoop0:9000</value>
</property>

<property>
    <name>hadoop.tmp.dir</name>
    <value>/root/hadoop/tmp</value>  #tmp文件路径
</property>
</configuration>
4)配置hdfs-site.xml
添加如下配置
<configuration>
<property>
    <name>dfs.name.dir</name>
    <value>/root/hadoop/hdfs/name</value>
    <description>namenode上存储hdfs名字空间元数据 </description>
</property>

<property>
    <name>dfs.data.dir</name>
    <value>/root/hadoop/hdfs/data</value>
    <description>datanode上数据块的物理存储位置</description>
</property>

<property>
    <name>dfs.replication</name>
    <value>1</value>
    <description>副本个数,配置默认是3,应小于datanode机器数量</description>
</property>
</configuration>
5)配置mapred-site.xml
添加如下配置:
这里需要非常注意下,文件夹里面没有这个XML,需要将mapred-queues.xml.template这个文件复制,然后重命名为mapred-site.xml!!!
<configuration>
<property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
</property>
</configuration>
6)配置yarn-site.xml
添加如下配置:
注意最后的hadoop0需要改成你的主机名,hadoop0是我的主机名
<configuration>
<property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
</property>
<property>
        <name>yarn.resourcemanager.webapp.address</name>
        <value>${yarn.resourcemanager.hadoop0}:8099</value>
</property>
</configuration>
Hadoop启动
1)格式化namenode
# bin/hdfs namenode –format
2)启动NameNode 和 DataNode 守护进程
# sbin/start-dfs.sh
3)启动ResourceManager 和 NodeManager 守护进程
# sbin/start-yarn.sh
启动验证
1)执行jps命令,有如下进程,说明Hadoop正常启动
# jps
54679 NameNode
54774 DataNode
15741 Jps
55214 NodeManager
55118 ResourceManager
54965 SecondaryNameNode
2)在浏览器中输入:http://hadoop0:50070/ 即可看到YARN的ResourceManager的界面
地址是主机名+50070端口,hadoop0是我的主机名需要改成你的主机名。
3)关闭:stop-all.sh
启动和关闭具体说明:https://blog.youkuaiyun.com/oraclestudyroad/article/details/52020565
附赠:hadoop端口的具体说明
http://blog.cloudera.com/blog/2009/08/hadoop-default-ports-quick-reference/
具体步骤来自:https://blog.youkuaiyun.com/u010946556/article/details/50809686
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

飞腾创客

你的鼓励是我最大的动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值