Fedora 15 Hadoop单机配置方法

本文详细介绍Hadoop的安装步骤,包括JDK与Hadoop的下载安装、环境变量配置、各核心配置文件的设置方法等,为大数据处理提供环境搭建指南。

1、下载并安装JDK

安装目录:/soft/java/jdk1.6.0_26

2、下载并解压Hadoop

解压目录:/soft/java/hadoop/hadoop-0.21.0

3、配置环境变量

export JAVA_HOME=/soft/java/jdk1.6.0_26
export JRE_HOME=/soft/java/jdk1.6.0_26/jre
export HADOOP_HOME=/soft/java/hadoop/hadoop-0.21.0
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib:$HADOOP_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$PATH

4、将以下内容写入到/conf/hadoop-env.sh

export JAVA_HOME=/soft/java/jdk1.6.0_26
export JRE_HOME=/soft/java/jdk1.6.0_26/jre
export HADOOP_HOME=/soft/java/hadoop/hadoop-0.21.0
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar:$JRE_HOME/lib:$HADOOP_HOME/lib:$CLASSPATH
export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$PATH

5、配置Hadoop安装目录/conf/core-site.xml文件

在configuration节点中增加以下内容:

<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/tmp/hadoop/hadoop-${user.name}</value>
</property>

6、配置Hadoop安装目录/conf/hdfs-site.xml文件

在configuration节点中增加以下内容:

<property>
<name>dfs.replication</name>
<value>1</value>
</property>

7、配置Hadoop安装目录/conf/mapred-site.xml文件

在configuration节点中增加以下内容:

<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>

8、配置Hadoop安装目录/conf/mapred-site.xml文件

在configuration节点中增加以下内容:

<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>


9、配置 SSH 免密码登陆

a、ssh-keygen -t rsa -P ‘’ -f ~/.ssh/id_rsa
b、cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys
c、chmod 600 ~/.ssh/authorized_keys
d、sudo service sshd restart

10、重启服务器或者使用source使配置文件生效(/etc/profile、Hadoop安装目录/conf/hadoop-env.sh)

11、格式化nameNode(配置好环境就可以直接使用以下命令格式化nameNode)

hadoop namenode -format

12、运行Hadoop(配置好环境就可以直接使用以下命令启动脚本)

启动:start-all.sh
停止:stop-all.sh
创建目录:hadoop dfs -mkdir 目录名称
浏览目录:hadoop dfs -ls 目录名称
复制文件到目录:hadoop dfs -copyFromLocal 文件名称 目录名称


hadoop dfs 查询帮助

13、安装完毕,享受hadoop带给你的快乐吧。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值