hadoop的安装部署、 common模块 、HDFS模块、Yarn模块 、MapReduce模块

本文详细介绍了Hadoop的安装部署过程,包括JDK的安装、Hadoop的伪分布式配置、HDFS和Yarn模块的设置,以及MapReduce的测试。在HDFS模块中,讲解了如何启动和验证HDFS服务,而在Yarn模块中,重点在于资源管理和任务调度的启动与检查。最后,通过MapReduce程序的运行,验证了Hadoop集群的正确性。

 

JDK安装

https://blog.youkuaiyun.com/simple_start/article/details/94218246

hadoop的安装部署

安装方式:伪分布式,让进程跑在一台机器上,只是他们的端口不一样

文档:

http://hadoop.apache.org/docs/r2.7.6/hadoop-project-dist/hadoop-common/SingleCluster.html

 

  1. 使用rz命令上传

hadoop-2.7.3.tar.gz

2、解压

tar -zxvf hadoop-2.7.3.tar.gz -C ../modules/

3、Hadoop目录结构

 

删除一些无用文件和目录:

rm -rf bin/*.cmd

rm -rf sbin/*.cmd

rm -rf share/doc/

4、修改环境变量

*-env.sh:hadoop-env.sh、yarn-env.sh、mapred-env.sh

 

5、common模块

core-site.xml

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值