虚拟机下和Windows环境下安装HADOOP

本文详细介绍Hadoop单机环境的搭建步骤,包括解压缩安装包、配置文件修改及环境变量设置等。通过具体命令展示如何配置HDFS、YARN等核心组件。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

HADOOP配置

按下面命令解压缩压缩包,并改名

tar -zxf hadoop-2.6.0-cdh5.14.2.tar.gz -C /opt/soft/
mv hadoop-2.6.0-cdh5.14.2 hadoop260

更改hadoop文件夹的权限为root

chown -R root:root hadoop260/

在hadoop260下新建文件夹tmp,在tmp下新建data 和name 文件夹

[root@single hadoop260]# mkdir tmp
[root@single tmp]# mkdir name data

修改配置以下配置文件:
在/hadoop260/etc/hadoop下面

hadoop-env.sh

vi hadoop-env.sh
export JAVA_HOME=/opt/soft/jdk180

core-site.xml

<configuration>
<property>
       <name>hadoop.tmp.dir</name>
       <value>/opt/soft/hadoop260/tmp</value>
</property>

<property>
	<name>fs.defaultFS</name>
	<value>hdfs://192.168.181.128:9000</value>
</property>
</configuration>

hdfs-site.xml

<configuration>
<property>
        <name>dfs.replication</name>
        <value>1</value>
</property>

<property>
       <name>dfs.namenode.name.dir</name>
      <value>/opt/soft/hadoop260/tmp/name</value>
</property>

<property>
       <name>dfs.datanode.data.dir</name>
      <value>/opt/soft/hadoop260/tmp/data</value>
 </property>
</configuration>

mapred-site.xml.template

mv mapred-site.xml.template mapred-site.xml

<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
</configuration>

yarn-site.xml

<configuration>
<!-- Site specific YARN configuration properties -->
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<!-- 日志聚集功能使能 -->
<property>
<name>yarn.log-aggregation-enable</name>
<value>true</value>
</property>
<!-- 日志保留时间设置 7 天 -->
<property>
<name>yarn.log-aggregation.retain-seconds</name>
<value>604800</value>
</property>
</configuration>

配置环境变量
vi /etc/profile
shift+g到最后一行

#HADOOP_HOME
export HADOOP_HOME=/opt/soft/hadoop260
export PATH=$HADOOP_HOME/bin:$HADOOP_HOME/sbin:$PATH

#激活 source /etc/profile

格式化
/opt/software/hadoop/hadoop260/sbin下 hdfs namenode -format
在这里插入图片描述
启动服务: start-all.sh
jps出现5个进程就表示成功
在这里插入图片描述
#浏览器 IP地址:
IP:50070 hdfs信息浏览
IP:8088 yarn信息浏览
IP:19888 job history信息浏览 – 要先在hadoop/sbin下启动服务: ./mr-jobhistory-daemon.sh start historyserver

准备Windows hadoop环境

把hadoop的压缩包解压到Windows某个盘的文件夹下,记录路径

windows解压后hadoop\bin目录下需要替换这两个文件,资源在下方链接
hadoop.dll(这个文件本可以只放在C:Windows/system32下,这里放一份是以防重做系统格式化C盘,做个备份)
winutils.exe
再把hadoop.dll拷贝一份到C:Windows/system32下

链接: https://pan.baidu.com/s/1EVmUNqVGv70uGtj1cEgtMQ 提取码: chyk

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值