轻松完成Hadoop集群数据迁移

最新推荐文章于 2025-09-27 18:30:19 发布

原创最新推荐文章于 2025-09-27 18:30:19 发布 · 1.9k 阅读

9 ·

CC 4.0 BY-SA版权

文章标签：

#hdfs #大数据

本文介绍了Apache Hadoop集群和CDH Hadoop集群之间数据迁移的步骤，包括环境准备、编辑集群配置文件、使用distcp命令迁移数据以及迁移Hive表结构的过程。

PART

前言

在工作当中经常会遇到集群的升级，或者部署新集群，数据迁移的问题，那么本文就演示Apache Hadoop集群和CDH Hadoop集群之间数据互相迁移。本文不介绍集群之间的搭建，只演示数据之间的迁移。

PART

环境准备

准备两套集群，我这使用阿里云部署了Apache集群和CDH集群。并启动集群

启动完毕后，将Apache集群中，hive库里dwd,dws,ads三个库的数据迁移到CDH集群

在Apache集群里hosts加上CDH Namenode对应域名并分发给各机器

[root@hadoop101 ~]# vim /etc/hosts

[root@hadoop101 ~]# scp /etc/hosts hadoop102:/etc/                                                                                        [root@hadoop101 ~]# scp /etc/hosts hadoop103:/etc/

PART

编辑集群配置文件

因为集群都是HA模式，所以需要在Apache集群上配置CDH集群的nameservice,让distcp命令能识别出CDH的namespace。编辑hdfs-site.xml

[root@hadoop101 hadoop]# vim /opt/module/hadoop-3.1.3/etc/hadoop/hdfs-site.xml<property>  <name>dfs.nameservices</name>  <value>mycluster,nameservice1</value></property> <property>  <name>dfs.internal.nameservices</name>  <value>mycluster</value></property><property>  <name>dfs.ha.namenodes.mycluster</name>  <value>nn1,nn2,nn3</value></property><property>  <name>dfs.namenode.rpc-address.mycluster.nn1</name>  <value>hadoop101:8020</value></property><property><property>  <name>dfs.namenode.rpc-address.mycluster.nn2</name>  <value>hadoop102:8020</value></property><property>  <name>dfs.namenode.rpc-address.mycluster.nn3</name>  <value>hadoop103:8020</value></property><property>    <name>dfs.ha.namenodes.nameservice1</name>    <value>namenode30,namenode37</value>  </property> <property>    <name>dfs.namenode.rpc-address.nameservice1.namenode30</name>    <value>hadoop104:8020</value>  </property><property>    <name>dfs.namenode.rpc-address.nameservice1.namenode37</name>    <value>hadoop106:8020</value>  </property><property>    <name>dfs.namenode.http-address.nameservice1.namenode30</name>    <value>hadoop104:9870</value>  </property>  <property>    <name>dfs.namenode.http-address.nameservice1.namenode37</name>    <value>hadoop106:9870</value>  </property>  <property>    <name>dfs.client.failover.proxy.provider.nameservice1</name>    <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value>  </property><property>  <name>dfs.namenode.http-address.mycluster.nn1</name>  <value>hadoop101:9870</value></property><property>  <name>dfs.namenode.http-address.mycluster.nn2</name>  <value>hadoop102:9870</value></property><property>  <name>dfs.namenode.http-address.mycluster.nn3</name>  <value>hadoop103:9870</value></property><property>  <name>dfs.client.failover.proxy.provider.mycluster</name>  <value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value></property>

修改CDH hosts,在CDH集群上的配置文件中添加Apache集群的域名

[root@hadoop101 ~]# vim /etc/hosts

进行分发，这里CDH配置文件上的hadoop104,hadoop105,hadoop106,分别对应apache的hadoop101,hadoop102,hadoop103

[root@hadoop101 ~] scp /etc/hosts hadoop102:/etc/[root@hadoop101 ~]# scp /etc/hosts hadoop103:/etc/

同样修改CDH集群配置，在所有hdfs-site.xml文件里修改配置

<property><name>dfs.nameservices</name><value>mycluster,nameservice1</value></property><property><name>dfs.internal.nameservices</name><value>nameservice1</value></property><property><name>dfs.ha.namenodes.mycluster</name><value>nn1,nn2,nn3</value></property><property><name>dfs.namenode.rpc-address.mycluster.nn1</name><value>hadoop104:8020</value></property><property><name>dfs.namenode.rpc-address.mycluster.nn2</name><value>hadoop105:8020</value></property><property><name>dfs.namenode.rpc-address.mycluster.nn3</name><value>hadoop106:8020</value></property><property><name>dfs.namenode.http-address.mycluster.nn1</name><value>hadoop104:9870</value></property><property><name>dfs.namenode.http-address.mycluster.nn2</name><value>hadoop105:9870</value></property><property><name>dfs.namenode.http-address.mycluster.nn3</name><value>hadoop106:9870</value></property><property><name>dfs.client.failover.proxy.provider.mycluster</name><value>org.apache.hadoop.hdfs.server.namenode.ha.ConfiguredFailoverProxyProvider</value></property>

最后注意：重点由于Apahce集群和CDH集群3台集群都是hadoop101,hadoop102,hadoop103,所以要关闭域名访问，使用ip访问

CDH配置中把使用域名访问钩去了

PART

通过distcp命令迁移数据

再使用hadoop distcp命令进行迁移，-Dmapred.job.queue.name指定队列，默认是default队列。集群如果配置了队列的话，那么在CDH和apache集群下都可以执行这个命令

[root@hadoop101 hadoop]# hadoop distcp -Dmapred.job.queue.name=hive  webhdfs://mycluster:9070/user/hive/warehouse/dwd.db/  hdfs://nameservice1/user/hive/warehouse

会启动一个mr任务，正在迁移

查看CDH 9870 http地址

数据已经成功迁移。数据迁移成功之后，接下来迁移hive表结构，编写shell脚本

PART

迁移hive表结构

数据已经成功迁移。数据迁移成功之后，接下来迁移hive表结构，编写shell脚本

[root@hadoop101 module]# vim exportHive.sh#!/bin/bashhive -e "use dwd;show tables">tables.txtcat tables.txt |while read eachlinedohive -e "use dwd;show create table $eachline">>tablesDDL.txtecho ";" >> tablesDDL.txtdone

执行脚本后将tablesDDL.txt文件分发到CDH集群下

[root@hadoop101 module]# scp tablesDDL.txt  hadoop104:/opt/module/

然后CDH下导入此表结构，先进到CDH（此处hadoop101与上面104对应）的hive里创建dwd库

[root@hadoop101 module]# hivehive> create database dwd;

创建数据库后，tablesDDL.txt文本中,在最上方加上use dwd;

并且将createtab_stmt都替换成空格

[root@hadoop101 module]# sed -i s"#createtab_stmt# #g" tablesDDL.txt

最后执行hive -f命令将表结构导入

[root@hadoop101 module]# hive -f tablesDDL.txt

最后将表的分区重新修复下，只有刷新分区才能把数据读出来,编写脚本

[root@hadoop101 module]# vim msckPartition.sh#!/bin/bashhive -e "use dwd;show tables">tables.txtcat tables.txt |while read eachlinedohive -e "use dwd;MSCK REPAIR TABLE $eachline"done[root@hadoop101 module]# chmod +777 msckPartition.sh[root@hadoop101 module]# ./msckPartition.sh

修复完分区后，通过hive查询表数据。