虚拟机搭建hadoop2.7.4_hadoop-2.7.4-src-优快云博客

本文链接：https://blog.youkuaiyun.com/xiaoyaGrace/article/details/103257112

本文详细介绍在CentOS环境下搭建Hadoop2.7.4集群的过程，包括虚拟机配置、软件安装、环境变量设置、无密码登录配置、Hadoop配置及启动验证等关键步骤。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

OS7.0安装配置hadoop2.7.4资源准备

资源下载：

hadoop官网下载链接至于安装什么版本，看自己需求
jdk官网下载链接

注意事项：

注意hadoop,jdk,centos都应该是64位或者32位的，以免出现无法预料的错误建议使用64位的

linux 虚拟机配置

系统配置：

虚拟机：一个master(Master.Hadoop),两个slave(Slave1.Hadoop, Slave2.Hadoop)
网络设置：我NAT的方式
内存：每个虚拟机配置1024M内存
分区：自动
软件选择：最小安装，注意选择开发工具
进行以下步骤前，确保3台虚拟机与主机之间可以相互ping通

参考虚拟机无法ping通、无法联网进行设置

yum search ifconfg
yum install net-tools.x86_64

完成其它两个虚拟机的安装：

两个slave的hostname可以改成Slave1.Hadoop, Slave2.Hadoop，方便区分

安装完后各个虚拟机的ip配置(参考用)

主机

ip地址

master.hadoop192.168.202.128
slave1.hadoop192.168.202.129
slave2.hadoop192.168.202.130

配置本地hosts

、、需把下图红框内容删除，否则启动有问题。

输入指令

vi /etc/hosts
// 将以下数据复制进入各个主机中
192.168.202.128 master.hadoop
192.168.202.129 slave1.hadoop
192.168.202.130 slave2.hadoop

使用以下指令对master主机中进行测试，可使用类似指令在slave主机测试

ping slave1.hadoop
ping slave2.hadoop

配置Master无密码登录所有Salve

以下在Master主机上配置

输入以下指令生成ssh，过程中遇到需要输入密码，只需执行回车Enter即可

ssh-keygen
// 会生成两个文件，放到默认的/root/.ssh/文件夹中

把id_rsa.pub追加到授权的key里面去

cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

修改文件”authorized_keys”权限

chmod 600 ~/.ssh/authorized_keys

设置SSH配置

vi /etc/ssh/sshd_config
// 以下三项修改成以下配置
RSAAuthentication yes # 启用 RSA 认证
PubkeyAuthentication yes # 启用公钥私钥配对认证方式
AuthorizedKeysFile .ssh/authorized_keys # 公钥文件路径（和上面生成的文件同）

重启ssh服务

service sshd restart

把公钥复制所有的Slave机器上

// scp ~/.ssh/id_rsa.pub 远程用户名@远程服务器IP:~/
scp ~/.ssh/id_rsa.pub root@192.168.202.129:~/
scp ~/.ssh/id_rsa.pub root@192.168.202.130:~/

以下在Slave主机上配置

在slave主机上创建.ssh文件夹

mkdir ~/.ssh
// 修改权限
chmod 700 ~/.ssh

追加到授权文件”authorized_keys”

cat ~/id_rsa.pub >> ~/.ssh/authorized_keys
// 修改权限
chmod 600 ~/.ssh/authorized_keys

删除无用.pub文件

rm –r ~/id_rsa.pub

在master主机下进行测试

ssh 192.168.202.129
ssh 192.168.202.130
// 如果能够分别无密码登陆slave1, slave2主机，则成功配置

进行jdk, hadoop软件安装

jdk安装：

在/usr下创建java文件夹
使用第三方软件将jdk压缩包文件传到3台虚拟主机中

使用以下指令进行加压

tar zxvf jdk-8u45-linux-x64.tar.gz
// 解压后可以删除掉gz文件
rm jdk-8u45-linux-x64.tar.gz

配置jdk环境变量

vi /etc/profile

添加Java环境变量

// 将以下数据复制到文件底部
export JAVA_HOME=/usr/java/jdk1.8.0_45
export JRE_HOME=/usr/java/jdk1.8.0_45/jre
export CLASSPATH=.:$CLASSPATH:$JAVA_HOME/lib:$JRE_HOME/lib
export PATH=$PATH:$JAVA_HOME/bin:$JRE_HOME/bin

使配置生效

source /etc/profile

验证安装成功

java -version
// 如果出现以下信息，则配置成功
java version "1.8.0_45"
Java(TM) SE Runtime Environment (build 1.8.0_45-b14)
Java HotSpot(TM) 64-Bit Server VM (build 25.45-b02, mixed mode)

Hadoop安装

把下载的hadoop压缩文件传到/usr目录下

解压hadoop-2.7.4.tar.gz文件，并重命名

cd /usr
tar zxvf hadoop-2.7.4.tar.gz
mv hadoop-2.7.4 hadoop
// 删除hadoop-2.7.4.tar.gz文件
rm –rf hadoop-2.7.4.tar.gz

在”/usr/hadoop”下面创建tmp文件夹

cd /usr/hadoop
mkdir tmp

把Hadoop的安装路径添加到”/etc/profile”中

vi /etc/profile
// 将以下数据加入到文件末尾
export HADOOP_INSTALL=/usr/hadoop
export PATH=${HADOOP_INSTALL}/bin:${HADOOP_INSTALL}/sbin:${PATH}
export HADOOP_MAPRED_HOME=${HADOOP_INSTALL}
export HADOOP_COMMON_HOME=${HADOOP_INSTALL}
export HADOOP_HDFS_HOME=${HADOOP_INSTALL}
export YARN_HOME=${HADOOP_INSTALLL}
export HADOOP_COMMON_LIB_NATIVE_DIR=${HADOOP_INSTALL}/lib/natvie
export HADOOP_OPTS="-Djava.library.path=${HADOOP_INSTALL}/lib:${HADOOP_INSTALL}/lib/native"

重启”/etc/profile”

source /etc/profile

配置hadoop（先只在Master主机配置，配置完后传入两个Slave主机）

设置hadoop-env.sh和yarn-env.sh中的java环境变量

cd /usr/hadoop/etc/hadoop/
vi hadoop-env.sh
// 修改JAVA_HOME
export JAVA_HOME=/usr/java/jdk1.8.0_45

配置core-site.xml文件

vi core-site.xml
// 修改文件内容为以下
<configuration>
<property>
<name>hadoop.tmp.dir</name>
<value>/usr/hadoop/tmp</value>
<description>A base for other temporary directories.</description>
</property>
<property>
<name>fs.default.name</name>
<value>hdfs://master.hadoop:9000</value>
</property>
</configuration>

配置hdfs-site.xml文件

vi hdfs-site.xml
// 修改文件内容为以下
<configuration>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:///usr/hadoop/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:///usr/hadoop/dfs/data</value>
</property>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.nameservices</name>
<value>hadoop-cluster1</value>
</property>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>master.hadoop:50090</value>
</property>
<property>
<name>dfs.webhdfs.enabled</name>
<value>true</value>
</property>
</configuration>

配置mapred-site.xml文件，如没有此文件需要手动创建，文件头尾加上configuration标签,把下面内容复制到中间即可

vi mapred-site.xml
// 修改文件为以下
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
<final>true</final>
</property>
<property>
<name>mapreduce.jobtracker.http.address</name>
<value>master.hadoop:50030</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>master.hadoop:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>master.hadoop:19888</value>
</property>
<property>
<name>mapred.job.tracker</name>
<value>http://master.hadoop:9001</value>
</property>

配置yarn-site.xml文件

vi yarn-site.xml
// 修改文件内容为以下
<property>
<name>yarn.resourcemanager.hostname</name>
<value>master.hadoop</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>master.hadoop:8032</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>master.hadoop:8030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>master.hadoop:8031</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>master.hadoop:8033</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>master.hadoop:8088</value>
</property>

配置Hadoop的集群

将Master中配置好的hadoop传入两个Slave中

scp -r /usr/hadoop root@192.168.202.129:/usr/
scp -r /usr/hadoop root@192.168.202.130:/usr/

修改Master主机上的slaves文件

cd /usr/hadoop/etc/hadoop
vi slaves
// 将文件内容修改为
slave1.hadoop
slave2.hadoop

格式化HDFS文件系统
注意：只需初始化一次便可。若执行多次，可能会导致namenode与datanode的clusterID不一致，从而导致无法启动

// 在Master主机上输入以下指令
hadoop namenode -format

启动hadoop

// 关闭机器防火墙根据自己的版本不同，命令有所不同
CentOS 7
关闭firewall：
systemctl stop/start firewalld.service 停止/启动firewall
systemctl disable firewalld.service 禁止firewall开机启动
firewall-cmd --state 查看默认防火墙状态
cd /usr/hadoop/sbin
./start-all.sh
// 更推荐的运行方式：
cd /usr/hadoop/sbin
./start-dfs.sh
./start-yarn.sh
应该输出以下信息：
Starting namenodes on [Master.Hadoop]
Master.Hadoop: starting namenode, logging to /usr/hadoop/logs/hadoop-root-namenode-localhost.localdomain.out
Slave2.Hadoop: starting datanode, logging to /usr/hadoop/logs/hadoop-root-datanode-Slave2.Hadoop.out
Slave1.Hadoop: starting datanode, logging to /usr/hadoop/logs/hadoop-root-datanode-Slave1.Hadoop.out
starting yarn daemons
starting resourcemanager, logging to /usr/hadoop/logs/yarn-root-resourcemanager-localhost.localdomain.out
Slave1.Hadoop: starting nodemanager, logging to /usr/hadoop/logs/yarn-root-nodemanager-Slave1.Hadoop.out
Slave2.Hadoop: starting nodemanager, logging to /usr/hadoop/logs/yarn-root-nodemanager-Slave2.Hadoop.out