5个节点搭建hadoop高可用集群

javaChengXuY

于 2019-09-27 13:01:03 发布

阅读量846

点赞数

分类专栏：大数据

本文链接：https://blog.youkuaiyun.com/javaChengXuY/article/details/101525263

版权

本文详述了如何使用5个节点搭建hadoop高可用集群，包括集群规划、核心及组件配置、免密登陆设置、zookeeper集群启动、journalnode启动、namenode和ZKFC格式化，最后启动dfs和yarn服务。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

1 节点简介

主机名	ip地址
hdp-nn	192.168.64.10
hdp-nn-standy	192.168.64.7
hdp-01	192.168.64.11
hdp-02	192.168.64.12
hdp-03	192.168.64.13

2 集群规划

主机名	安装软件	节点分配
hdp-nn	hadoop	namenode,ZKFC,Resourcemanager
hdp-nn-standy	hadoop	namenode,ZKFC,Resourcemanager
hdp-01	hadoop ,zookeeper	natanode,nodemanager,zookeeper,Journalnode
hdp-02	hadoop ,zookeeper	natanode,nodemanager,zookeeper,Journalnode
hdp-03	hadoop ,zookeeper	natanode,nodemanager,zookeeper,Journalnode

3 core-site.xml配置

<configuration>
<!-- 配置高可用后，因为有两台namenode,不能在指定某一台，起个虚拟的名称 -->
<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop/</value>
</property>
<!-- 指定hadoop临时目录 -->
<property>
<name>hadoop.tmp.dir</name>
   <value>/root/data/tmp</value>
 </property>
<!-- 指定zookeeper -->
<property>
<name>ha.zookeeper.quorum</name>
<

最低0.47元/天解锁文章