Hadoop 完全分布式安装—------推荐使用--------—慕课网

本文详细介绍Hadoop集群的前置安装步骤,包括主机名与hosts文件配置、SSH免密码登录设置、JDK安装,以及Hadoop环境变量配置、各配置文件详解与格式化启动过程。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Hadoop 前置安装

 

(每台)

/etc/hostname: 修改hostname(hadoop000/hadoop001/hadoop002)

/etc/hosts: ip和hostname的映射关系

       192.168.100.235   hadoop000

       192.168.100.236   hadoop001

       192.168.100.237   hadoop002

 

(每台)ssh

ssh 免密码登录:ssh-keygen -t rsa

在hadoop000机器进行拷贝:ssh-copy-id hadoop000

       ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop000

       ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop001

       ssh-copy-id -i ~/.ssh/id_rsa.pub hadoop002

 

jdk安装

 

Haoop部署

解压---配置环境变量

1) hdfs-env.sh

       JAVA_HOME

 

2) yarn-env.sh

       JAVA_HOME

3) core-site.xml   

<property>
        <name>fs.default.name</name>
        <value>hdfs://hadoop000:9000</value>
</property>
<property>
        <name>hadoop.tmp.dir</name>
        <value>file:/app/hadoop-2.6.0/tmp</value>
</property>

 

4) hdfs-site.xml

<property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/app/hadoop-2.6.0/tmp/dfs/name</value>
</property>
<property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/app/hadoop-2.6.0/tmp/dfs/data</value>
</property>

5) yarn-site.xml

<property>
        <name>yarn.resourcemanager.hostname</name>
        <value>hadoop000</value>
</property>
<property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
</property>

6) mapred-site.xml

<property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
</property>

7) slaves

hadoop000
hadoop001
hadoop002

分发hadoop :  scp -r 

分发环境变量

 

格式化 :hadoop namenode -format

 

启动 : start-all.sh

 

 

 

 

 

 

 

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值