sqoop数据抽取 分区表的示例

本文提供了一个使用sqoop从MySQL导入数据到Hive分区表的示例脚本。脚本中定义了表名、字段、Hive数据库、Hive表名、分区键,并使用当前日期作为分区值,通过并行处理提高导入效率。

--分区表

#!/bin/bash

#mysql表名

 tableName=t_sys_file

#字段名

 columns=id,biz_field_name,biz_id,biz_table_name,bucket_name,content_type,created_date,disp_order_no,download_times,file_key,file_size,filename

#hive-database

 hive_datebase=ods

#hive-table

 hive_table=s01_t_sys_file

#partition

 hive_partition_key=etl_time

 #etl_time=`date "+%Y-%m-%d %H:%M:%S"`

 etl_time=`date "+%Y%m%d"`

#m个数

parallel_count=16

 for i in {1..1}

 do

  #redo rmr hdfs

  hadoop fs -rmr /user/hdfs/${hive_table}

  hadoop fs -rmr /user/hdfs/${tableName}

  cfg=`grep -v '^#' /home/gamaxwin/mo9_azkaban/database_set.cfg | grep -i "jianghujiuji_riskdb"`

  uid=`echo $cfg|awk -F, '{print $2}'`

  url=`echo $cfg|awk -F, '{print $3}'`

<
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值