hadoop-ha

1、安装前准备

       ①、集群规划：

	主机名称	用户	主机IP	安装软件	运行进程
	centos71	hzq	192.168.1.201	jdk、hadoop	NameNode、DFSZKFailoverController(zkfc)
	centos72	hzq	192.168.1.202	jdk、hadoop	NameNode、DFSZKFailoverController(zkfc)
	centos73	hzq	192.168.1.203	jdk、hadoop	ResourceManager
	centos74	hzq	192.168.1.204	jdk、hadoop	ResourceManager
	centos75	hzq	192.168.1.205	jdk、hadoop	DataNode、NodeManager、JournalNode
	centos76	hzq	192.168.1.206	jdk、hadoop	DataNode、NodeManager、JournalNode
	centos77	hzq	192.168.1.207	jdk、hadoop	DataNode、NodeManager、JournalNode
	centos78	hzq	192.168.1.205	jdk、zookeeper	QuorumPeerMain
	centos79	hzq	192.168.1.206	jdk、zookeeper	QuorumPeerMain
	centos710	hzq	192.168.1.207	jdk、zookeeper	QuorumPeerMain

       ②、每台主机之间设置免密登陆，参考《ssh免密登陆》

       ③、每台安装jdk1.8.0_131，安装及配置见《Linux安装JDK步骤》

       ④、Zookeeper集群搭建，搭建步骤参考《zookeeper-3.4.10安装教程---分布式配置》
       ⑤、修改“etc/hosts"文件如下：
               192.168.31.128               centos71
               192.168.31.129               centos72
               192.168.31.130               centos73
               192.168.31.131              centos74
               192.168.31.132              centos76
               192.168.31.133               centos75
               192.168.31.137              centos77
               192.168.31.134               centos78
               192.168.31.135               centos79
               192.168.31.136              centos710

       ⑥、准备Hadoop安装包：hadoop-2.8.0.tar.gz

       ⑦、关闭防火墙

2、Hadoop安装：
       ①、在"/home/hzq/software/"下创建"hadoop"文件夹
       ②、在"hadoop"目录下创建"data"文件夹，用于存放hadoop运行时文件
       ③、将"hadoop-2.8.0.tar.gz"解压到hadoop目录下

[plain]  view plain  copy

1. tar -zxvf ../package/hadoop-2.8.0.tar.gz  -C /home/hzq/software/hadoop/   

       ④、删除"hadoop-2.8.0"下"share"中的doc文件，为了提高scp拷贝时速度

[plain]  view plain  copy

1. rm -rf hadoop-2.8.0/share/doc    

3、Hadoop配置：

       ①、修改 hadoop-env.sh 配置文件，修改JAVA_HOME

[plain]  view plain  copy

1. export JAVA_HOME=/home/hzq/software/jdk1.8.0_131   

       ②、修改core-site.xml 

[html]  view plain  copy

1. <property>  
2.         <name>fs.defaultFS</name>  
3.         <value>hdfs://hzqnns/</value>  
4. </property>  
5. <property>  
6.         <name>hadoop.tmp.dir</name>  
7.         <value>/home/hzq/software/hadoop/data</value>  
8. </property>  
9. <property>  
10.         <name>ha.zookeeper.quorum</name>  
11.         <value>centos78:2181,centos79:2181,centos710:2181</value>  
12. </property>  

       ③、修改hdfs-site.xml

[html]  view plain  copy

1. <property>    
2.     <name>dfs.replication</name>    
3.     <value>2</value>    
4. </property>    
5. <property>    
6.         <name>dfs.block.size</name>    
7.         <value>64M</value>    
8. </property>  
9. <property>  
10.     <name>dfs.nameservices</name>  
11.     <value>hzqnns</value>  
12. </property>  
13. <property>  
14.     <name>dfs.ha.namenodes.hzqnns</name>  
15.     <value>nn1,nn2</value>  
16. </property>  
17. <property>  
18.     <name>dfs.namenode.rpc-address.hzqnns.nn1</name>  
19.     <value>centos71:9000</value>  
20. </property>  
21. <property>  
22.     <name>dfs.namenode.http-address.hzqnns.nn1</name>  
23.     <value>centos71:50070</value>  
24. </property>  
25. <property>  
26.     <name>dfs.namenode.rpc-address.hzqnns.nn2</name>  
27.     <value>centos72:9000</value>  
28. </property>  
29. <property>  
30.     <name>dfs.namenode.http-address.hzqnns.nn2</name>  
31.     <value>centos72:50070</value>  
32. </property>  
33. <property>  
34.         <name>dfs.namenode.shared.edits.dir</name>  
35.         <value>qjournal://centos75:8485;centos76:8485;centos77:8485/hzqnns</value>  
36. </property>  
37. <!-- 指定JournalNode在本地磁盘存放数据的位置 -->  
38. <property>  
39.         <name>dfs.journalnode.edits.dir</name>  
40.         <value>/home/hzq/software/hadoop/data/journaldata</value>  
41. </property>  
42. <!-- 开启NameNode失败自动切换 -->  
43. <property>  
44.         <name>dfs.ha.automatic-failover.enabled</name>  
45.         <value>true</value>  
46. </property>  
47. <!-- 配置失败自动切换实现方式 -->  
48. <property>  
49.         <name>dfs.client.failover.proxy.provider.hzqnns</name>  
50.         <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>  
51. </property>  
52. <!-- 配置隔离机制方法，多个机制用换行分割，即每个机制暂用一行-->  
53. <property>  
54.         <name>dfs.ha.fencing.methods</name>  
55.         <value>  
56.             sshfence  
57.             <!-- 这里引入自己的shell脚本-->  
58.             shell(/bin/true)  
59.         </value>  
60. </property>  
61. <!-- 使用sshfence隔离机制时需要ssh免登陆 -->  
62. <property>  
63.         <name>dfs.ha.fencing.ssh.private-key-files</name>  
64.         <value>/home/hzq/.ssh/id_rsa</value>  
65. </property>  
66. <property>  
67.         <name>dfs.ha.fencing.ssh.connect-timeout</name>  
68.         <value>30000</value>  
69. </property>  

       ④、mapred-site.xml

         将“mapred-site.xml.template”进行重命名。

[html]  view plain  copy

1. mv mapred-site.xml.template  mapred-site.xml   

        修改mapred-site.xml

[html]  view plain  copy

1. <property>  
2.         <name>mapreduce.framework.name</name>  
3.         <value>yarn</value>  
4. </property>  

       ⑤、yarn-site.xml

[html]  view plain  copy

1. <property>  
2.         <name>yarn.resourcemanager.ha.enabled</name>  
3.         <value>true</value>  
4. </property>  
5. <property>  
6.         <name>yarn.resourcemanager.cluster-id</name>  
7.         <value>yrc</value>  
8. </property>  
9.   
10. <property>  
11.         <name>yarn.resourcemanager.ha.rm-ids</name>  
12.         <value>rm1,rm2</value>  
13. </property>  
14. <property>  
15.         <name>yarn.resourcemanager.hostname.rm1</name>  
16.         <value>centos73</value>  
17. </property>  
18. <property>  
19.         <name>yarn.resourcemanager.hostname.rm2</name>  
20.         <value>centos74</value>  
21. </property>  
22. <property>  
23.         <name>yarn.nodemanager.aux-services</name>  
24.         <value>mapreduce_shuffle</value>  
25. </property>  
26. <property>  
27.         <name>yarn.resourcemanager.zk-address</name>  
28.         <value>centos78:2181,centos79:2181,centos710:2181</value>  
29. </property>  

       ⑥、配置DataNode主机，修改slaves 

[html]  view plain  copy

1. centos75  
2. centos76  
3.        centos77  

       ⑦、将配置好的Hadoop发送到其他六台主机上

[html]  view plain  copy

1. scp -r hadoop/ centos72:/home/hzq/software/   
2. scp -r hadoop/ centos73:/home/hzq/software/   
3. scp -r hadoop/ centos74:/home/hzq/software/   
4. scp -r hadoop/ centos75:/home/hzq/software/   
5. scp -r hadoop/ centos76:/home/hzq/software/   
6. scp -r hadoop/ centos77:/home/hzq/software/   

4、启动Hadoop（首次启动必须按照顺序来执行）
       ①、检查Zookeeper集群是否启动完成，如果没有，先启动Zookeeper集群。

• 分别在centos78,centos79,centos710启动zookeeper

[html]  view plain  copy

1. zkServer.sh start  

• 查看状态：一个leader，两个follower

[html]  view plain  copy

1. zkServer.sh status  

       ②、启动journalnode（分别在centos75、centos76、centos77上执行）

[html]  view plain  copy

1. hadoop-daemon.sh start journalnode  

       注：运行jps命令检验是否启动成功，如成功，分别在 centos75、centos76、centos77多一个JournalNode进程

       ③、在centos71上格式化HDFS

[html]  view plain  copy

1. hdfs namenode -format  

       ④、使两个NameNode数据保持一直，将centos71主机上，data中的数据复制到centos72主机data中。

[html]  view plain  copy

1. scp -r data/ centos72:/home/hzq/software/hadoop/data  

       ⑤、在centos71上格式化ZKFC

[html]  view plain  copy

1. hdfs zkfc -formatZK  

       ⑥、在centos71上启动HDFS

[html]  view plain  copy

1. start-dfs.sh  

       ⑦、在centos73上启动Resourcemanager及NodeManager

[html]  view plain  copy

1. start-yarn.sh  

       ⑧、在centos74上启动Resourcemanager

[html]  view plain  copy

1. yarn-daemon.sh start resourcemanager  

5、验证是否启动成功：

       ①、在每台主机上分别使用jps验证。

       ②、HDFS管理界面    http://centos71:50070   或者    http://centos72:50070 

       ③、MR管理界面        http://centos73:8088     或者    http://centos74:8088
6、常用命令：

• 查看hdfs的各节点状态信息

[html]  view plain  copy

1. hdfs dfsadmin -report  

• 获取一个namenode节点的HA状态

[html]  view plain  copy

1. hdfs haadmin -getServiceState nn1     

• 单独启动一个namenode进程

[html]  view plain  copy

1. hadoop-daemon.sh start namenode    

• 单独启动一个zkfc进程

[html]  view plain  copy

1. hadoop-daemon.sh start zkfc     

• 单独启动Resourcemanager进程

[html]  view plain  copy

1. yarn-daemon.sh start resourcemanager  

7、总结

        1、搭建纯属于学习使用，没有做优化等等。

         2、望路过大神多多指点指点。