【HADOOP】hadoop的单机模式部署

本文详细介绍了如何在Ubuntu Server 15.10虚拟机上安装并配置Hadoop 2.2.0版本的过程。从环境准备到各配置文件的具体修改方法,包括hadoop-env.sh、core-site.xml等,并提供了格式化HDFS及启动Hadoop服务的步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

为了补充技术上的落差,开始学习hadoop,首先搭建一个学习的平台。

我用的是vm的虚拟机,ubuntu server的15.10版本,hadoop版本是2.2.0。

已经装好的jdk和ssh,

首先设置好ssh的免密码登录,否则会很麻烦,相关设置请自行百度。

首先上传hadoop的包到虚拟机。

然后解压缩到我创建的cloud目录中,

首先修改hadoop-env.sh文件,需要修改JAVA_HOME指向的内容,如果不改,启动会失败,我试过,必须直接指明jdk的目录。

然后修改core-site.xml文件,其中192.168.31.13是虚拟机的ip地址,下面是hadoop的一个目录(不是临时目录,很重要,可以不存在,启动的时候会创建),

然后修改hdfs-site.xml,value为1表示只保留一份副本,因为是单机模式。

然后修改mapred-site.xml,这个文件是不存在的,存在的是mapred-site.xml.template,

你需要将template的文件修改为xml的文件,修改其中的内容,如下

然后修改yarn-site.xml,其中h3是我这台虚拟机的hostname

这样基本上就配置完成了。


然后格式化hdfs,如果不执行下面的步骤,直接启动hadoop的话,namenode会启动失败。

hadoop namenode -format

看到这样的内容表示格式化成功。


最后使用sbin下的start-all.sh启动hadoop就可以了。

虽然这个脚本被标示为过期了,不过暂时还是可以使用的。


使用jps查看启动的情况,成功。


hadoop,我来了。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值