安装Apache Hadoop

本文详细介绍如何在Ubuntu 10.10上安装配置JDK及Hadoop 0.20.205.0,并设置伪分布模式。包括JDK安装步骤、环境变量配置、Hadoop安装流程、关键配置文件修改、SSH密钥生成、HDFS格式化及服务启动等。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.系统(本人使用虚拟机):VMware-workstation-full-7.1.2-301548

                                   ubuntu-10.10-desktop-i386 

   软件包: jdk-6u31-linux-i586.bin

               hadoop-0.20.205.0.tar.gz

2.JDK安装:

   1)将jdk-6u31-linux-i586.bin复制到安装目录,比如:/usr/java/

   2)cd /usr/java

   3)chmod 777 jdk-6u31-linux-i586.bin

   4)./jdk-6u31-linux-i586.bin

   5)设置JAVA_HOME,vi /etc/profile

   6)在profile文件中加入:JAVA_HOME=/usr/java/jdk1.6.0_31

        PATH=$JAVA_HOME/bin:$PATH

        export JAVA_HOME PATH
           
 

   7)保存/etc/profile并退出,source /etc/profile

   8)执行java -version
      


 3.Hadoop安装

    1)将hadoop-0.20.205.0.tar.gz复制到安装目录,比如:/usr

    2)cd /usr

    3)tar zxf hadoop-0.20.205.0.tar.gz

    4)进入hadoop的conf目录

    5)vi hadoop-evn.sh,将JAVA_HOME设置为JDK安装目录


          

    6)设置HADOOP_INSTALL环境变量,vi /etc/profile

    7)在profile中加入:HADOOP_INSTALL=/usr/hadoop-0.20.205.0

        PATH=$JAVA_HOME/bin:$HADOOP_INSTALL/bin:$PATH

        export JAVA_HOME  HADOOP_INSTALL PATH
           

    8)保存profile文件并退出,source /etc/profile

    9)执行hadoop version

 

  4.配置hadoop伪分布模式

     1)修改/config/core-site.xml

         <configuration> <property> <name>fs.default.name</name> <value>hdfs://localhost/</value> </property> </configuration>

 

 

    2)修改hdfs-site.xml

 

 

<configuration> <property> <name>dfs.replication</name> <value>1</value> </property> </configuration>

 

 

    3)修改mapred-site.xml

<configuration> <property> <name>mapred.job.tracker</name> <value>localhost:8021</value> </property> </configuration>

 

 

    4)创建一个基于空口令的SSH密钥,以启动无密码登录

        ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa

        cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

    5)测试步骤4)是否成功,ssh localhost,如成功则无需键入密码

    6)格式化HDFS文件系统,hadoop namenode -format

    7)启动进程

         start-dfs.sh

         start-mapred.sh

    8)查看启动是否成功

        a.查看logs目录下的日志文件

        b.通过web界面:http://localhost:50030/  (查看jobtracker)

                             http://localhost:50070/ (查看namenode)

        c.通过java的jps命令

    9)终止进程

         stop-dfs.sh

         stop-mapred.sh


 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值