
Sqoop教程
Sqoop教程
HoldBelief
这个作者很懒,什么都没留下…
展开
-
sqoop操作之ORACLE导入到HIVE
导入表的所有字段sqoop import --connect jdbc:oracle:thin:@192.168.1.107:1521:ORCL \--username SCOTT --password tiger \--table EMP \--hive-import --create-hive-table --hive-table emp -m 1; 如果报类似的错:ERROR to...转载 2018-03-21 17:16:32 · 954 阅读 · 0 评论 -
sqoop操作之HDFS导出到ORACLE
注意:在导出前需要先创建待导出的表结构。如果导出的表在数据库中不存在则会报错;如果重复导出多次,表中的数据会重复;create table EMP_DEMO as select * from EMP where 1=2;create table SALGRADE_DEMO as select * from SALGRADE where 1=2; 导出表的所有字段sqoop export --co...转载 2018-03-21 16:56:29 · 479 阅读 · 0 评论 -
sqoop操作之Oracle导入到HDFS
导入表的所有字段sqoop import --connect jdbc:oracle:thin:@192.168.1.100:1521:ORCL \--username SCOTT --password tiger \--table EMP -m 1; 查看执行结果:hadoop fs -cat /user/hadoop/EMP/part-m-000007369,SMITH,CLERK,790...转载 2018-03-21 15:41:19 · 516 阅读 · 0 评论 -
sqoop产生背景及概述
sqoop产生背景 多数是用Hadoop技术处理大数据业务的企业有大量的数据存储在传统的关系型数据库(RDBMS)中;由于缺乏工具的支持、对Hadoop和传统数据库系统中的数据进行相互传输是一件十分困难的事情;Sqoop就是一个在RDBMS和Hadoop之间进行数据传输的项目; sqoop概述sqoop是Hive/HDFS/HBase与关系数据库之间 导入和导出工具sqoop: SQL-to-Ha...转载 2018-03-21 15:32:00 · 678 阅读 · 0 评论 -
Sqoop(3)—— Mysql数据导入HDFS
Sqoop(3)—— Mysql数据导入HDFS官方文档Sqoop导入导出的官方文档:http://sqoop.apache.org/docs/1.4.7/index.htmlhttp://sqoop.apache.org/docs/1.4.7/SqoopUserGuide.html执行Sqoop的两种方式http://sqoop.apache.org/docs/1.4.7/SqoopUserGu...原创 2018-03-21 15:04:25 · 499 阅读 · 0 评论 -
Sqoop(1)——基本概念
Sqoop(1)——基本概念简介Sqoop将关系数据库(oracle、mysql、postgresql等)数据与hadoop数据进行转换的工具 官网:http://sqoop.apache.org/ 版本:(两个版本完全不兼容,sqoop1使用最多)sqoop1:1.4.xsqoop2:1.99.x 同类产品DataX:阿里顶级数据交换工具Sqoop架构sqoop架构非常简单,是hadoop生态系...原创 2018-03-19 19:36:48 · 551 阅读 · 0 评论 -
Sqoop(2)——安装
Sqoop(2)——安装下载解压http://www.apache.org/dyn/closer.lua/sqoop/1.4.7【可选步骤】配置环境变量添加数据库驱动包如果需要连接的关系型数据库是Mysql,那么就需要将Mysql的驱动包拷贝至sqoop的lib下。cp mysql-connector-java-5.1.10.jar /sqoop-install-path/lib重命名配置文件mv...原创 2018-03-20 17:12:52 · 403 阅读 · 0 评论 -
sqoop操作之ETL小案例
Extraction-Transformation-Loading的缩写,中文名称为数据提取、转换和加载。将数据从ORACLE中抽取数据,经过hive进行分析转换,最后存放到ORACLE中去。本案例是纯demo级别,练手使用一、需求将emp和dept表的数据分析最后存放到result表。emp和dept表均为oracle自带的表,表结构如下:emp表EMPNONUMBER(4)ENAMEVARCH...转载 2018-03-23 20:12:25 · 1032 阅读 · 1 评论 -
sqoop(4)—— Mysql数据导入Hive
sqoop(4)—— Mysql数据导入Hive官方文档http://sqoop.apache.org/docs/1.4.7/SqoopUserGuide.html#_importing_data_into_hive_2示例集群和版本规划hadoop-2.6.5sqoop-1.4.7.bin__hadoop-2.6.0zookeeper-3.4.10apache-hive-1.2.2-bin fa...原创 2018-03-22 18:04:26 · 399 阅读 · 0 评论 -
sqoop操作之HIVE导出到ORACLE
示例数据准备hive中创建dept表create table dept( deptno int, dname string, loc string)row format delimited fields terminated by '\t' lines terminated by '\n' stored as textfile;导入数据:sqoop import --...转载 2018-03-22 13:07:11 · 5341 阅读 · 0 评论