Sqoop hive数据导出到mysql

本文介绍了如何使用Sqoop这个开源工具,实现Hive与MySQL之间的数据传输。首先,详细讲述了Sqoop的安装步骤,包括下载特定版本的Sqoop,解压并配置环境变量。接着,展示了如何将MySQL数据导入到HDFS,以及创建Hive表并与数据文件关联。最后,讨论了如何从Hive将数据导出到MySQL,前提是在两者中都有匹配的表结构。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Sqoop

Sqoop是一个开源的工具,能用来hadoop(或者说是hive)和关系型数据库(mysql)之间转输,可将数据从hive中导出到mysql,也能从mysql导入到hive。

Sqoop安装

下载sqoop,这里用的是1.4.7版本
http://apache.mirrors.pair.com/sqoop/1.4.7/

解压后,将sqoop安装地址添加到环境变量中
vim ~/.bashrc

export SQOOP_HOME=sqoop安装地址
export path=$path:$SQOOP_HOME/bin

保存后,使用source ~/.bashrc
然后在sqoop的bin目录下,修改configure-sqoop

export HADOOP_HOME=hadoop安装地址
export HIVE_HOME=hive安装地址

保存后,即可使用。

导入

将mysql数据导入到hdfs中

sqoop import --connect jdbc:mysql://localhost/test --username root --password 123 --table test_table -m 1 

会在hadoop中生成对应的数据文件,默认目录在/user/用户名/
在hive中建表,表结构要跟数据对应,将数据文件跟表关联
如:

create table test_table(id int , name string);

hdfs将数据文件导入到hive表中

load data inpath '/user/hadoop/test_table' into table test_table;
导出

如上,假设hive和mysql中的表都已建好,要将hive中表的数据导出到mysql的表中。

sqoop export --connect jdbc:mysql://localhost/test --username root --password 123 --table test_table --export-dir /user/hive/test/test_table 
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值