Sqoop 安装与基础命令

本文介绍如何使用SQOOP在HDFS与关系型数据库间进行数据迁移,包括安装配置、基本命令及具体操作步骤。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、概述
  1. sqoop是Apache 提供的工具,用于hdfs和关系型数据库之间数据的导入和导入
  2. 可以从hdfs导出数据到关系型数据库,也可以从关系型数据库导入数据到hdfs
二、实现步骤:
  1. 准备sqoop安装包,官网地址:http://sqoop.apache.org
  2. 配置jdk环境变量和Hadoop的环境变量。因为sqoop在使用是会去找环境变量对应的路径,从而完整工作
  3. 解压Sqoop的安装包
  4. 需要将要连接的数据库的驱动包加入sqoop的lib目录下(本例中用的是mysql数据库)
  5. 利用指令操作sqoop
三、基础指令
说明指令示例
查看mysql所有数据库sh sqoop list-databases --connect jdbc:mysql://192.168.199.13:3306/ -username root -password 123456
查看指定数据库下的所有表sh sqoop list-tables --connect jdbc:mysql://hadoop03:3306/hive -username root -password 123456
关系型数据库 ->hdfs实现步骤:
1. 先在mysql数据库的test数据下建立一张tabx表,并插入测试数据 建表:create table tabx (id int,name varchar(20)); 插入:insert into tabx (id,name) values (1,‘aaa’),(2,‘bbb’),(3,‘ccc’),(1,‘ddd’),(2,‘eee’),(3,‘fff’);
2. 进入到sqoop的bin目录下,执行导入语句:sh sqoop import --connect jdbc:mysql://192.168.150.138:3306/test --username root --password root --table tabx --target-dir ‘/sqoop/tabx’ --fields-terminated-by ’
hdfs ->关系型数据库执行:sh sqoop export --connect jdbc:mysql://192.168.199.13:3306/test --username root --password root --export-dir ‘/sqoop/tabx/part-m-00000’ --table taby -m 1 --fields-terminated-by '|'
注:sqoop只能导出数据,不能自动建表。所以在导出之前,要现在mysql数据库里建好对应的表
sh sqoop import -help查看import的帮助指令
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值