Hadoop集群搭建

m0_53916624

于 2022-05-19 23:06:00 发布

阅读量491

点赞数

文章标签： hadoop hdfs big data

本文链接：https://blog.youkuaiyun.com/m0_53916624/article/details/124873827

版权

本文详细介绍了如何在三台虚拟机上搭建Hadoop集群，包括安装Java、解压和配置Hadoop、修改相关配置文件如slaves、hadoop-env.sh、core-site.xml、hdfs-site.xml、yarn-site.xml和mapred-site.xml，以及分发配置、设置环境变量和启动Hadoop。在启动过程中遇到问题时，需要清理tmp文件夹并重新格式化。成功启动后，通过检查各节点进程验证集群已搭建完成。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

准备

三台虚拟机创建好ssh链接安装好java 安装java可参考

主机IP	主机名称
192.168.218.6	yangyangMaster
192.168.218.7	yangyangNode1
192.168.218.5	yangyangNode2

hadoop安装包： hadoop-2.6.0.tar.gz

正文

一、解压hadoop：

tar -zxvf hadoop-2.6.0.tar.gz
1

在这里插入图片描述

解压完以后会出现hadoop目录
然后修改路径与名称方便后期处理

在这里插入图片描述
二、进入/work/hadoop/etc/hadoop目录修改配置文件slaves
删除原来的所有内容，修改为如下：
yangyangNode1
yangyangNode2
这里需要配置好/etc/hosts中的映射不然会找不到子机

三、修改配置文件：hadoop-env.sh
添加 export JAVA_HOME=/work/jdk //java路径需自行修改
在这里插入图片描述
四、修改配置文件：core-site.xml
添加如下：

<configuration>
        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://yangyangMaster:9000</value>
        </property>
        <property>
                <name>hadoop.tmp.dir</name>
                <value>/work/hadoop/tmp</value>
        </property>
	    <property