Hadoop集群在Ubuntu上的安装与配置 ——(01)环境前期准备

本文详细介绍如何使用VMware搭建Hadoop单节点伪分布式集群,包括所需软件的下载、Linux虚拟机的安装与配置、Hadoop软件包的安装等关键步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

本文搭建的是Hadoop单节点伪分布式集群,单节点集群,即NameNode在server01上,其他5台机器均为DataNode
准备:VMware软件、六台Linux虚拟机(≥2台)、Xshell、Xftp


一、安装VMware及SSH工具

1.1 下载安装VMware及Linux

本文使用的是VMware11.0,现在VMware已经更新到了14.0,下载地址如下:

VMware14.0下载地址

1.2 Linux系统下载

本文使用的是Ubuntu14.04,Ubuntu官网下载地址如下:

Ubuntu官网下载地址
我将我的Linux系统打包了,可以直接用VMware导入打开,地址如下:

链接:hadoop—ubuntu14.04 密码:e38n

1.3 下载安装XShell5及Xftp5

为了方便写命令和向Linux传送文件,安装Xhell5和Xftp5可以方便操作。

Xshell5下载地址
Xshell
Xftp5下载地址
Xftp5

二、Hadoop软件包下载

2.1 Hadoop软件下载

本文使用的hadoop是2.7.1,打开下载地址选择页面:
http://www.apache.org/dyn/closer.cgi/hadoop/common/hadoop-2.7.1/hadoop-2.7.1.tar.gz
我使用的hadoop版本下载地址:
Hadoop-2.7.1下载
hadoop下载页面

2.2 JDK软件下载

本文使用的JDK版本是1.8.0,下载地址:
JDK_1.8.0下载地址
JDK下载页面
如若未找到下载,JDK下载安装具体方法可以参考博文:
http://blog.youkuaiyun.com/pucao_cug/article/details/68948639

2.3 软件包集合下载

若找不到Hadoop开发需要下载的软件包,
可以下载我打包好的
链接:https://pan.baidu.com/s/1ht2x3wg 密码:ibg5
开发软件包

三、 虚拟机Linux环境搭建

3.1 安装虚拟机Linux

方法一:

如果是从下载的Ubuntu官网的iso镜像,可以通过iso镜像新建Linux系统,方法网上(baidu)很多,所以就不详细介绍,方法如下长图。
新建虚拟机iso

方法二:

如果下载我导出的Linux虚拟机,可以通过直接打开虚拟机的方式新建,方法如下图,:
打开虚拟机vmx
系统登录用户名为:root,密码为:1 。
同样的方法新建六台虚拟机,如下图:
新建六台虚拟机

3.2 修改Linux主机名

root@server01:~# vim /etc/hostname

![vim hostname
修改hostname
其他5台同样的修改主机名,分别为server02~server06 。

3.3 修改虚拟机IP地址

在虚拟机VMware菜单中“编辑(E)”->“虚拟网络编辑器(N)…”中,可以看到虚拟机配置的NAT模式属于VMnet8,所以需要获取VMnet8本地IP地址,然后配置虚拟机。
虚拟网络编辑
Net8

// 在主机电脑cmd命令下输入
ipconfig /all

ipconfig /all
由上可以看到VMnet8本地IP为192.168.159.x 网段,所以进行六台虚拟机IP地址设置。

root@server01:~# vim /etc/network/interfaces

例如,server01配置如下图:
server01-ip
六台虚拟机IP配置分别为:

server 0xIP地址
server 01192.168.159.3
server 02192.168.159.4
server 03192.168.159.5
server 04192.168.159.6
server 05192.168.159.7
server 06192.168.159.9

修改过IP地址之后要激起修改文件,使其生效。

root@server01:~# ifdown eth0
root@server01:~# ifup eth0

3.4 Xshell连接虚拟机

修改过IP地址之后可以使用Xshell软件连接虚拟机,方便编辑。
Xshell连接Linux
Xshell连接Linux
可以通过Xftp传输文件。
Xftp软件
这里写图片描述

3.5 修改hosts

在六台虚拟机中修改hosts文件,以server01为例。

root@server01:~# vim /etc/hosts

修改hosts

3.6 关闭防火墙

root@server01:~# iptables -P INPUT ACCEPT
root@server01:~# iptables -P FORWARD ACCEPT
root@server01:~# iptables -P OUTPUT ACCEPT
root@server01:~# iptables -F

输入完以上命令之后可以查看防火墙状态是否关闭。

root@server01:~# ufw status

防火墙状态

3.7 SSH免登陆

分别对六台虚拟机配置SSH免登陆。
例如,在server06中进行配置。

//产生密钥对
root@server01:~# ssh-keygen -t rsa

产生密钥对

//公钥复制到其他机器
root@server01:~# ssh-copy-id -i /root/.ssh/id_rsa.pub 用户名

用户名是至虚拟机各个节点,即server01~server06,包括自己,每台虚拟机都需要配置一遍。
发送密钥
配置完成后,可以使用如下命令切换到其他机器。

root@server01:~# ssh 用户名

ssh server01
使用 exit 命令可以退出当前切换的虚拟机。


以上步骤完成了Hadoop集群的安装环境前期准备工作,下一节将结束Hadoop软件安装及配置工作。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

大小宝

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值