hadoop框架搭建(一)

本文详细介绍了如何在CentOS-7下安装并配置Hadoop 2.6.0,包括环境变量设置、伪分布模式配置、HDFS初始化及启动流程。通过具体步骤和截图展示,帮助读者顺利完成Hadoop集群搭建。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

前提:在虚拟机CentOS-7下安装了jdk-8u25-linux-x64.tar.gz,实现免密登陆(安装虚拟机,jdk环境配置完了写)

我是在/opt/下mkdir programs datas tasks targz(programs放的是安装目录,datas放的是数据,tasks放的是大数据框架,targz放的是安装包),如下图:

1.用WinSCP.exe将hadoop-2.6.0.tar.gz上传到hadoop1下/etc/opt/targz/

2.解压hadoop-2.6.0.tar.gz

tar -zxvf /etc/opt/targz/hadoop-2.6.0.tar.gz -C /opt/programs/

3.修改环境变量

cd /opt/programs/hadoop-2.6.0/etc/hadoop/

vi hadoop-env.sh

进入编辑页面

将export JAVA_HOME={$JAVA_HOME}改为export JAVA_HOME=/usr/java/jdk1.8.0_25

即:

4.在/opt/programs/hadoop-2.6.0下

(1) mkdir input

(2) cp etc/hadoop/*.xml input

(3) bin/hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.6.0.jar wordcount input output

(4) cat output/*

5.配置伪分布操作

在/opt/programs/hadoop-2.6.0下

vi etc/hadoop/core-site.xml

添加:

<configuration>

<property>

<name>fs.defaultFS</name>

<value>hdfs://hadoop1:9000</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/opt/programs/hadoop-2.6.0/data/tmp</value>

</property>

</configuration>

如图:

vi etc/hadoop/hdfs-site.xml

目前只配置副本数,节约空间

添加:

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

</configuration>

如图:

6.在启动hdfs之前,必须要初始化namenode

bin/hdfs namenode -format

出现一句话为successfully formatted

7.启动hdfs

sbin/hadoop-daemon.sh start namenode

sbin/hadoop-daemon.sh start namenode

使用jps命令查看守护进程是否正常运行

bin/hdfs dfs -mkdir /input

8.web界面

hadoop1:50070查看hdfs服务界面

如图:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值