数据库中导出数据到HDFS

本文介绍如何使用Sqoop工具从MySQL数据库导入数据到Hadoop的HDFS上,包括配置连接参数、选择列、设置过滤条件及指定目标目录等关键步骤。

使用sqoop

sqoop import -m 1 --------m 1 使用一个MapReduce,默认4个。

--connect jdbc:mysql://主机IP:3306/数据库名 

--username 用户名

--password 用户密码 

--table 表名

--columns "name,age"

--where "age>18"

--target-dir 存在HDFS上的表名

--delete-target-dir

  • -m 说明使用多少个map进行数据迁移,如果表比较大的话,建议使用多个map,默认的map为4个
  • –table 是要导入HDFS中的表
  • –columns 选择要导入的列,这里选择把name与age两列导入的HDFS中。
  • –where 对数据进行过滤,只有满足条件的才保存到HDFS中。
  • –target-dri 指定存储在HDFS上的表名
  • –delete-target-dir 表示如果HDFS表存在,则把他删除。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值