Hadoop1.2.1集群配置

本文详细介绍了一个包含1个master和3个slave的Hadoop集群搭建过程,包括环境准备、SSH免密登录配置、JDK及Hadoop安装步骤,并分享了常见问题解决办法。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

0.环境说明

1个master1,3个slave
masterIP:10.10.38.71
slave1IP:10.10.39.14
slave2IP:10.10.36.150
slave3IP:10.10.39.3

JDK:jdk-7u25-linux-i586.tar.gz
Hadoop:hadoop-1.2.1.tar.gz

在4台机器上设置相同的用户组和用户名。


1.安装ssh

在4台机器上安装ssh,把master的公钥追加到3个slave的authorized_keys中,实现master到slave的免密码登录。


2.安装JDK

在4台机器上安装JDK,所有机器的JDK安装路径必须一样,本实验中,所有机器上的JDK安装在/usr/java下面。


3.安装Hadoop
在master上面把hadoop安装在/opt/hadoop下面。
配置:hadoop-env.sh
core-site.sh
mapred-site.sh
hdfs-site.sh
masters
slavess

把master上的/opt/hadoop文件拷贝到其它3台机器上,设置各个机器上/opt/hadoop的权限,chown -R  hadoop:hadoop /opt/hadoop


4.其它配置

在每一台机器上的hosts文件里面添加其它机器的ip和主机名,注意与hostname的一致性。


测试:
格式化NameNode;
启动hadoop;
jps查看各个机器上进程情况;

执行实例;


如果报错,查看日志分析错误。
*如果再次启动无datanode或者无namenode,修改hadoop.tmp.dir

*如果reduce执行到一部分就卡死,web端查看50030里面各个节点执行的日志,可能是各个节点识别不到hostname,添加各个机器的ip  hostname对到所有的机器。



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值