5个节点搭建hadoop高可用集群

最新推荐文章于 2023-04-27 22:51:37 发布

原创

最新推荐文章于 2023-04-27 22:51:37 发布 · 878 阅读

2 ·

CC 4.0 BY-SA版权

本文详述了如何使用5个节点搭建hadoop高可用集群，包括集群规划、核心及组件配置、免密登陆设置、zookeeper集群启动、journalnode启动、namenode和ZKFC格式化，最后启动dfs和yarn服务。

1 节点简介

主机名	ip地址
hdp-nn	192.168.64.10
hdp-nn-standy	192.168.64.7
hdp-01	192.168.64.11
hdp-02	192.168.64.12
hdp-03	192.168.64.13

2 集群规划

主机名	安装软件	节点分配
hdp-nn	hadoop	namenode,ZKFC,Resourcemanager
hdp-nn-standy	hadoop	namenode,ZKFC,Resourcemanager
hdp-01	hadoop ,zookeeper	natanode,nodemanager,zookeeper,Journalnode
hdp-02	hadoop ,zookeeper	natanode,nodemanager,zookeeper,Journalnode
hdp-03	hadoop ,zookeeper	natanode,nodemanager,zookeeper,Journalnode

3 core-site.xml配置

<configuration>
<!-- 配置高可用后，因为有两台namenode,不能在指定某一台，起个虚拟的名称 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop/</value>
</property>
<!-- 指定hadoop临时目录 -->
<property>
<name>ha