大数据传输框架Sqoop学习总结

在这里插入图片描述

Sqoop介绍:
一种用于在大数据传输数据的工具。主要作用在mysql与大数据集群(hdfs,hive,hbase)之间的数据传输。

Sqoop原理
将导入导出命令转化成MR程序来实现。

Import:
是指Mysql数据导入大数据集群

Export:
是指将大数据集群数据导出到mysql

Sqoop导入到HDFS主要方式:

全部导入
–query 查询导入
–where 条件导入
–columns列导入

Sqoop导入数据到Hive经过两步:先将数据导入到HDFS后,在import导入hive

Sqoop导入数据到Hbase要指定rowkey,列族,列(一步到位)

Sqoop导出数据:

调用脚本文件(内含导出数据Linux命令)执行导出命令:
bin/sqoop --options-file [脚本文件名]

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值