亲测有用!Centos7 + Zookeeper集群 + Hadoop集群配置

一、网络配置:

1.1 配置单机网络:

1.2 关闭防火墙:

1.3 SSH连接Centos7:

1.4 配置hosts文件:

二、JDK配置:

 三、Zookeeper集群配置:

四、Hadoop集群配置:

4.1 文件建立

4.2 JAVA路径设置

4.2.1 hadoop-env.sh配置

4.2.2  yarn-env.sh配置

 4.3 Hadoop集群文件配置

 4.3.1 core-site.xml配置

4.3.2 hdfs-site.xml配置:

4.3.3 mapred-site.xml配置

4.4 Hadoop集群搭建

4.4.1 克隆节点

4.4.2 配置免密登录 

4.4.3 启动Zookeeper

4.4.4 启动Hadoop集群


一、网络配置:

1.1 配置单机网络:

        配置虚拟机网络之前,我们需要打开cmd输入ipconfig,得到:

         IPv4 地址以及默认网关中显示的是为物理机的ip地址,在ip地址中各类网络地址的子网都是不同的。

例如:172.16.x.x是指B类网络地址,而.x.x则是在整个172.16下的子网ip地址

         因此,在编辑Centos7的网络地址的时候,需要找到自己的网络地址,可以通过子网掩码进行确认几类网络地址,之后通过VM-编辑-虚拟机网络编辑进行修改,即:

        通过学习网络上其他大佬的文章,子网IP选择和物理机的Network地址一致,Host地址不一致,可以为之后深入Centos学习节约一点时间。

        进入Centos7界面之后,选择root用户登录,之后进入终端,输入ifconfig可以看到自己的网络地址:

         如果是没配置过网络的Centos7,则这是配置完网络之后应该出现的截图。通过修改ifcfg-ens33文件实现对Centos7网络配置:

vim /etc/sysconfig/network-scripts/ifcfg-ens33 

        进入ens33文件之后,需要配置的是

BOOTPROTO = “static”

ONBOOT=yes

IPADDR=Network地址+自己设置的host地址

        host地址一般是从129开始,而搭建hadoop集群所需要的其他节点host设置,则是在master机器的host地址之上迭代+1。

GATEWAY=Network地址+2 例如172.16.1.2

        NETMASK地址以及DNS地址可以选择填写或者不填,在下图示例中是没有填写进去。

NETMASK=几类地址的子网掩码,例如255.255.255.0是C类地址的子网掩码

DNS=8.8.8.8,这个属于Google公司的dns码

         修改完ens33文件之后,保存并重启网络:

 service network restart

         再输入ifconfig,则可以看到自己刚刚在上面所设置的ip地址。

1.2 关闭防火墙:

        几乎现在每一台计算机系统都有配置自己的防火墙,而防火墙可以避免我们的计算机陷入不安全的环境当中。但是基于对Hadoop集群的学习以及是在VM虚拟机里面,因此我们可以选择直接关闭防火墙的自启动,避免每一次登录Centos7都会发生防火墙隔离的问题。但如果是基于自己系统里面,我建议每一次使用前再关闭防火墙。

systemctl stop firewalld.service #停止防火墙
systemctl status firewalld.service #查看防火墙状态
systemctl disable firewalld.service #关闭防火墙

        在Centos7里面,stop、start、status、disable以及restart分别对应着操作中的停止、开始、状态、禁止、重启的操作逻辑,因此,在操作其他语句时,我们亦可以尝试使用。

1.3 SSH连接Centos7:

        这里阐述的是通过SSH软件MobaXterm(官网有免费版本,学习用的小伙伴可以和我一样使用免费版本降低学习成本)连接VM虚拟机中的Centos7的教程:

        首先,我使用ssh软件的目的是因为VM虚拟机进行本机切换是需要输入CTRL+ALT跳出虚拟机操作界面,这使得我学习之路有点难受。因此,我选择使用SSH软件连接VM虚拟机中的Centos7,可以避免这个问题。同时,有些人无法从主机上传文件到虚拟机中(具体解决办法可以查询其他大佬的文章)或指定目录,而SSH软件帮助我们迅速的解决这一问题。

        从官网下载MobaXterm软件是纯英文版本,而如何进行远程连接呢?首先我们需要将修改虚拟机的IP地址(这一步,我们已经完成),之后选择MobaXterm中的:

后输入自己的Centos7中的IP地址,以及相关账号的姓名之后:

         点击OK,并在命令行界面中输入密码,实现Centos7命令行界面使用(这过程中VM虚拟机中的Centos7需要保持启动状态)。

1.4 配置hosts文件:

        这一步,是提前进行hosts文件配置,我们也可以在克隆完成之后再进行,并通过SCP命令将hosts文件进行同步。

        首先,我们先进行主机名字的修改:

hostnamectl set-hostname master #每台机器的主机名需要不同
hostnamectl set-hostname slave1 #推荐使用master、slave1、slave2
hostnamectl set-hostname slave2 
.
.
.

         并输入bash进行刷新,然后打开HOSTS文件进行配置:

vim /etc/hosts     #输入IP地址 主机名
                   #有多少台节点就输入多少IP地址和主机名
                   #需要区分IP地址

        配置完成之后,需要保证每一台节点的主机名和IP地址与HOSTS文件中写入的一致性 

二、JDK配置:

         配置Hadoop以及Zookeeper之前,我们还需要对Centos7中的JDK环境进行配置。虽然在Centos7中,我们已经有系统自带的JDK环境:

java -version

评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

一个努力学习代码的libre

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值