
sqoop
文章平均质量分 61
空中的鱼1987
这个作者很懒,什么都没留下…
展开
-
sqoop导入数据至hive
使用sqoop导入数据至hive常用语句 直接导入hive表 sqoop import --connect jdbc:postgresql://ip/db_name--username user_name --table table_name --hive-import -m 5 内部执行实际分三部,1.将数据导入hdfs(可在hdfs上找到相应目录),2.创建hi原创 2016-07-13 17:21:18 · 1547 阅读 · 0 评论 -
搭建sqoop的eclipse调试环境
程文件,我们只需要在eclipse中导入即可。 b、调试sqoop:由于sqoop bin文件夹中的脚本,sqoop来启动java进程,java进程是sqoop脚本的子进程,sqoop脚本中配置了的许多环境变量需要传到sqoop程序中,所以直接,在eclipse中main函数执行,不能执行,所以需要远程调试java进程。 c、如何进行java进程调试:打开bin\sqoop,最后一行,发现, exec ${HADOOP_HOME}/bin/hadoop com.cloudera.sqoop.Sq原创 2012-11-20 13:56:31 · 132 阅读 · 0 评论 -
sqoop将postgresql表导入hive表
原创 2012-11-20 13:54:25 · 194 阅读 · 0 评论 -
关于sqoop --split-by 及 -m的理解
or status = 'TRADE_CLOSED_BY_TAOBAO' and \$CONDITIONS" --hive-import -m 6 --hive-table custom_analyse_db.retail_tb_order_main --hive-overwrite --hive-partition-key part --hive-partition-value qiulp --target-dir /user/qiulp/test1 --split-by tid注意红色字2012-11-20 13:51:31 · 245 阅读 · 0 评论 -
sqoop导入数据至hive
部执行实际分三部,1.将数据导入hdfs(可在hdfs上找到相应目录),2.创建hive表名相同的表,3,将hdfs上数据传入hive表中 sqoop根据postgresql表创建hive表 sqoop create-hive-table --connect jdbc:postgresql://ip/db_name --username user_name --table table_name --hive-table hive_table_name( --hive-partitio原创 2012-08-29 11:20:51 · 471 阅读 · 0 评论 -
sqoop导入数据至hive
使用sqoop导入数据至hive常用语句 直接导入hive表 sqoop import --connect jdbc:postgresql://ip/db_name--username user_name --table table_name --hive-import -m 5 内部执行实际分三部,1.将数据导入hdfs(可在hdfs上找到相应目录...原创 2012-08-29 11:20:51 · 443 阅读 · 0 评论 -
sqoop hbase导入并与hive结合
[b]sqoop语句[/b]以tid为主键,info为列族[code="html"]sqoop import --connect jdbc:mysql://ip/taobao_db --username hive --password 123456 --table mysql_table_name --hbase-table hbase_table_name --column-family...原创 2012-11-29 17:23:19 · 447 阅读 · 0 评论 -
搭建sqoop的eclipse调试环境
a、导入到sqoop到eclipse中:下载sqoop 1.3的tar包解压,我们打开build.xml,发现的target,我们只需要执行,ant eclipse,就可以ant脚本就可以给我们生成eclipse的工程文件,我们只需要在eclipse中导入即可。 b、调试sqoop:由于sqoop bin文件夹中的脚本,sqoop来启动java进程,java进程是sqoop脚本的子进程,sqo...原创 2012-11-20 13:56:31 · 148 阅读 · 0 评论 -
sqoop将postgresql表导入hive表
使用sqoop导入数据至hive常用语句直接导入hive表 sqoop import --connect jdbc:postgresql://ip/db_name--username user_name --table table_name --hive-import -m 5内部执行实际分三部,1.将数据导入hdfs(可在hdfs上找到相应目录),2.创建hive表名相同的表...原创 2012-11-20 13:54:25 · 310 阅读 · 0 评论 -
关于sqoop --split-by 及 -m的理解
[b]场景:[/b] sqoop import --connect jdbc:postgresql://...../..... --username .... --query "select * from retail_tb_order_qiulp_test where status = 'TRADE_FINISHED' or status = 'TRADE_CLOSED' or sta...2012-11-20 13:51:31 · 845 阅读 · 0 评论 -
sqoop将postgresql表导入hive表
使用sqoop导入数据至hive常用语句直接导入hive表 sqoop import --connect jdbc:postgresql://ip/db_name--username user_name --table table_name --hive-import -m 5内部执行实际分三部,1.将数据导入hdfs(可在hdfs上找到相应目录),2.创建hive表名相同的表,3,将原创 2016-07-13 17:22:01 · 3703 阅读 · 0 评论 -
关于sqoop --split-by 及 -m的理解
场景: sqoop import --connect jdbc:postgresql://...../..... --username .... --query "select * from retail_tb_order_qiulp_test where status = 'TRADE_FINISHED' or status = 'TRADE_CLOSED' or status = 'TR原创 2016-07-13 17:21:50 · 15302 阅读 · 0 评论 -
sqoop hbase导入并与hive结合
name --column-family info --split-by tid[/code][b]hbae创建表语句[/b][code="sql"]create 'trade','info'[/code][b]hive创建表语句[/b][code="sql"]CREATE EXTERNAL TABLE hbase_trade(tid string,dp_id string,created string,modified s原创 2012-11-29 17:23:19 · 123 阅读 · 0 评论