sqoop入门实践

sqoop入门简介 | 安装部署 | sqoop案例展示 ETL工具sqoop 文章目录ETL工具sqoopsqoop简介sqoop安装sqoop常用命令sqoop案例 sqoop简介 Sqoop(发音:skup)是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql…)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。 Sqoop项目开始于2009年,最早是作为Hadoop的一个第三 阅读详情

Sqoop是一款开源的工具,主要用于在hadoop与传统的数据库(mysql,oracle等)间进行数据的传递,可以将一个关系型数据库(MySQL ,Oracle 等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。

测试环境:

Hadoop + hive (linux) + mysql(windows)

 

测试用例

1,  把mysql上user_info 下的mytable数据导入到hadoop的HDFS中:

 

查看mysql:

          

 

        使用Sqoop工具:

 

        

 

查看hdfs目录:

 

数据导入成功了!

 

2, 把mysql上user_info 下的mytable数据导入到hadoop集成hive中:

 

 

生成map/reduce任务:

 

 

查看Hive路径:

 

 

数据导入hive成功!

 

3, 把hdfs 上数据导入到mysql的user_info/mytable中:

导入数据库查看:

 

运行sqoop命令:

 

Map/reduce任务运行成功:

 


 

查看mysql,多了两条相同数据,导入成功了。

 

 

 


Sqoop数据导入到Hive表的最佳实践 Sqoop是一个开源工具,用于在Hadoop生态系统中的数据存储(如HDFS)和关系型数据库之间传输数据。它可以帮助数据工程师和分析师轻松地将结构化数据从关系型数据库导入到Hadoop集群中,以供进一步的数据处理和分析。将数据从关系型数据库导入到Hive表是大数据分析中的关键步骤之一。本文提供了Sqoop数据导入到Hive表的最佳实践,包括详细的步骤、示例代码和最佳建议。希望这些示例代码和详细内容有助于大家更好地理解和实施数据导入操作。 阅读详情

相关推荐

Sqoop1.99.4 Java API实践

软件版本:Sqoop:1.99.4;JDK:1.7;Hadoop2.2;环境:1. Hadoop集群:node12:NameNode、ResourceManager、JobHistoryServer、DataNode、NodeManager; 1.5G内存+10G硬盘+1核node13:SecondaryNameNode、DataNode、NodeManager;1.5G内存+10G硬盘+1核2.

fansy1990的专栏 6024

《数据同步-Sqoop系列》Sqoop详细入门教程

开源工具用于hadoop(hive)与传统数据库之间数据的导入导出输入:Mysql、Oracle、DB2等关系数据数据导入到Hadoop输出:从Hadoop的数据导出到Mysql、Oracle等等。

https://blog.datasource.space 1233

大数据技术之Sqoop

Sqoop 简介Sqoop是一款开源的数据迁移工具,主要用于在 Hadoop(Hive)与传统数据库(Mysql、Oracle...)间进行数据的相互传递,可以将一个关系型数据库(MySQL、Oracle、Postgres 等)中的数据导入到 Hadoop 的 HDFS 中,也可以将 HDFS 的数据导出到关系型数据库中。Sqoop项目开始于2009年,最早是作为Hadoop的一个第三方模块存在,后来为了让使用者能够快速部署,也为了让开发人员能够更快速的迭代开发,Sqoop独立成为一个Apache项目。

悦分享 873

Sqoop 入门基础

Sqoop(SQL to Hadoop)是一个开源工具,用于在关系型数据库和Hadoop之间传输数据。它提供了一种快速高效的方式,将数据从关系型数据库导入到Hadoop集群进行分析,并支持将Hadoop集群中的数据导出到关系型数据库中。本篇教程将详细介绍Sqoop的全部用法,包括基本概念、使用方法和实例代码。我们将创建一个示例数据表,并使用Sqoop来导入和导出数据。

小那同学的博客 1914

MOLDFLOW 2012模流分析基础到实战视频教程

├ 1第一讲MF软件安装与界面定制及模流前期准备工作及分析流程介绍 ├ 2第二讲MF建模工具条命令讲解与图层的运用 ├ 3第三讲MF网格类型与适应范围及网格划分、诊断、修复与统计 ├ 4第四讲MF中CAD doctor 模块对导入模型的修复方法与实例 ├ 5第五讲MF中常见各种流道浇口及水路的建模方法与外部导入方法上 ├ 6第六讲MF产品模型导入CAD DOCTOR与修复 ├ 7第七讲MF分析序列设定与网格的划分与诊断及修复 ├ 8第八讲MF材料选择与成型工艺参数设定 ├ 9第九讲MF创建浇注系统:主流道、

QQ_1987083845的博客 2547

cadence Virtuoso ADE原理图库中的VCVS(压控电压源)使用

Symbol: vcvs (Voltage Controlled Voltage Source) Vop−Von=egain⋅(Vip−Vin)V_{op}-V_{on}=egain\cdot(V_{ip}-V_{in})Vop​−Von​=egain⋅(Vip​−Vin​) 所以可以得出 ⟹Vop=egain⋅(Vip−Vin)+Von\Longrightarrow V_{op}=egain\cdot(V_{ip}-V_{in})+V_{on}⟹Vop​=egain⋅(Vip​−Vin​)+Von​ 使

大学生视野 2万+

Sqoop入门(一篇就够了)

文章目录01 引言02 Sqoop概述2.1 Sqoop定义2.2 Sqoop功能2.3 Sqoop工作机制03 Sqoop安装3.1 Sqoop下载3.2 Sqoop配置3.3 Sqoop验证启动04 Sqoop导入导出4.1 Sqoop导入4.1.1 导入语法4.1.2 导入案例4.1.2.1 导入表数据到HDFS4.1.2.2 导入关系表到HIVE4.1.2.3 导入到HDFS指定目录4.1.2.4 导入表数据子集4.1.2.5 增量导入4.2 Sqoop导出4.2.1 导出语法4.2.2 导出案例0

阿甘兄 5577

SI案例分享--考虑ESD保护二极管的差分线阻抗仿真

PCB设计中的cut out参考面早已是SI评估中常用的阻抗优化方式,通过合理的仿真建模,可以提供合适的设计参考,并保持与测试结果的高度一致性。

一只豌豆象的博客 1438

Sqoop数据迁移工具从入门到精通

大数据技术之Sqoop

记录学习点滴,分享实战干货,一起奔赴技术之路 514

独创改进 | RT-DETR 引入 Asymptotic Hybrid Encoder | 渐进混合特征解码结构

独创改进🚀! | RT-DETR 引入 Asymptotic Hybrid Encoder | 渐进混合特征解码结构

Coding... 2213

YOLOv11 改进 - 注意力机制 | 空间增强注意力SEAM(Spatially Enhanced Attention Module)提升遮挡场景检测鲁棒性

本文介绍了分离与增强注意力模块(SEAM)在YOLOv11中的结合应用。SEAM模块旨在增强面部特征学习能力,特别是处理面部遮挡问题。它采用多头注意力机制强调面部区域、抑制背景区域,第一部分使用深度可分离卷积减少参数并学习通道重要性,通过1x1卷积增强通道联系,利用两层全连接网络融合通道信息,经指数归一化后作为注意力权重与原始特征相乘。我们将SEAM集成到YOLOv11的检测头中,并进行相关注册和配置。实验表明,该方法有助于提升模型检测性能。

魔改工程师的博客 1668

Sqoop

第1章 Sqoop简介 Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql…)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。 Sqoop项目开始于2009年,最早是作为Hadoop的一个第三方模块存在...

damon_cc的博客 1074

基于深度学习的文字识别与检测算法研究

基于深度学习的文字识别与检测算法研究 1. 背景介绍 1.1 文字识别与检测的重要性 在当今信息时代,文字作为人类交流和传递信息的主要载体,无处不在。从日常生活中的路牌、广告牌,到办公场所的文件、合同,再到互联网上的网页、图片等

AI天才研究院 1044

Sqoop导入数据到Hive完全指南:从入门到生产实践

P \-m 4注意事项使用--query时必须包含占位符(用于并行分片)必须指定临时目录-m > 1时必须指定--split-by分片列场景关键参数说明基础导入必选参数组合自动建表表不存在时自动创建覆盖数据清空表后再导入指定数据库指定Hive数据库Parquet格式列式存储,性能最佳分隔符设置使用Hive默认分隔符增量导入只导入新增数据生产环境推荐配置-m 8 \通过合理配置这些参数,你可以构建稳定、高效的Sqoop到Hive数据导入管道,为数据仓库和数据分析提供可靠的数据基础。

✨ 欢迎来到【Seal ^_^ 的优快云博客】!✨ 1525

【Bluetooth蓝牙开发】一、开篇词 | 打造全网最详细的Bluetooth开发教程

1、开篇词 2、蓝牙开发入门 3、蓝牙协议栈总览 4、蓝牙协议栈——物理层 5、蓝牙协议栈——链路层 6、蓝牙协议栈——传输层 7、蓝牙协议栈——L2CAP协议 8、蓝牙协议栈——ATT协议 9、蓝牙协议栈——GATT协议 10、蓝牙通信流程分析 11、蓝牙协议栈——Bluez交叉编译 12、蓝牙调试工具汇总

Donge's Blog 1万+

Spark Sql 连接mysql

转载请务必注明原创地址为:http://dongkelun.com/2018/03/21/sparkMysql/ 1、基本概念和用法(摘自spark官方文档中文版) Spark SQL 还有一个能够使用 JDBC 从其他数据库读取数据的数据源。当使用 JDBC 访问其它数据库时,应该首选 JdbcRDD。这是因为结果是以数据框(DataFrame)返回的,且这样 Spark SQL操作轻松或便......

主要分享大数据相关的知识,如Spark、Hudi 1万+

Sqoop数据导出到关系型数据库完全指南:从入门到生产实践

Sqoop导出是指将Hadoop生态系统(HDFS、Hive、HBase)中的数据批量传输到关系型数据库(如MySQL、Oracle、PostgreSQL等)的过程。fill:#333;important;important;fill:none;color:#333;color:#333;important;fill:none;fill:#333;height:1em;关系型数据库Sqoop导出过程Hadoop生态HDFSHiveHBaseMapReduce作业并行读取转换为SQL语句。

✨ 欢迎来到【Seal ^_^ 的优快云博客】!✨ 1301

迈瑞BS系列全自动生化分析仪LIS协议接口手册(内含HL7和ASTM)

迈瑞BS系列全自动生化分析仪LIS协议接口手册,内含HL7和ASTM)

大数据入门--Sqoop的安装与实践(mysql数据导入hdfs)

下载 官网 : http://sqoop.apache.org/ 下载 : sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz 解压 tar -zxvf /home/sqoop/sqoop-1.4.7.bin__hadoop-2.6.0.tar.gz 配置环境变量 vi /etc/profile export SQOOP_HOME=/home/sqoop/sqoop-1.4.7.bin__hadoop-2.6.0 export PATH=$PATH:$SQOOP_HOME/bin

shine_du的博客 233

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

数学建模模型总结

这是本人在两年内准备参加数学建模竞赛搜集到的模型资料,已经经过了本人的筛选和整理,希望能够对准备参加数学建模竞赛的学弟学妹们提供一些帮助!

Sqoop快速入门系列(1) | Sqoop的简单介绍及安装解析

  此篇为大家带来的是Sqoop的简单介绍及安装解析。 所需文档等博主已经打包到百度云,如有需要请自行提取: 链接:https://pan.baidu.com/s/1QVJMj1JHQR80UDfqOGrTYw 提取码:pnxs 目录1. Sqoop的简单介绍2. sqoop1与sqoop2架构对比3. Sqoop原理4. Sqoop的安装过程1. 上传并解压2. 修改配置文件3. 拷贝JDBC驱动4. 验证Sqoop5. 测试Sqoop是否能够成功连接数据库 1. Sqoop的简单介绍   Sqoo

不温卜火 5690

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Sqoop学习文档(1){Sqoop基本概念、Sqoop的安装配置}

Sqoop学习文档(1) 【有问题或错误,请私信我将及时改正;借鉴文章标明出处,谢谢】 总内容:Sqoop基本概念、Sqoop的安装配置、Sqoop import、Sqoop export 此篇为Sqoop学习文档(1),接Sqoop学习文档(2) sqoop收集的是结构化数据,sqoop全量导入 一、Sqoop基本概念 1>Sqoop:SQL-to-Hadoop 2>连接传统关系型数据库和Hadoop的桥梁 把关系型数据库(Mysql)的数据导入到Hadoop系统,如HDFS/Hba

fy_1852003327的博客 210

Sqoop 浅入浅出

Sqoop 一个在Hadoop和关系型数据库之间高效传输数据的工具 最新稳定版1.4.7(Sqoop2不建议生产使用) 已经从Apache毕业 本质其实只是一个命令行工具 生产中基本都是 在拼接Sqoop命令完成数据的导入导出 底层工作机制:导入导出 在底层实际被翻译为MapReduce程序来实现,主要是对MR的 InputFormat 和 OutputFormat 进行定制 学习前提:linux常用命令 RDBMS基操 Hadoop用途和基操 安装Sqoop 后续的jar包都放在lib目录即可 一、sq

留歌__36的博客 1007

sqoop2 java api实现_Sqoop2 Java客户端API指南

原文连接:http://sqoop.apache.org/docs/1.99.6/ClientAPI.htmlSqoop Java客户端API指南这篇文章秒描述了额如何在外部应用中使用sqoop java 客户端API。通过客户端API可以实现sqoop命令的功能。使用Sqoop客户端API需要Sqoop 客户端Jar文件及其依赖。提供了支持sqool操作的封装方法的主要类是:public cla...

weixin_36465108的博客 417

Sqoop 从入门到精通

Sqoop是Hadoop和关系数据库服务器之间传送数据的一种工具。它是用来从关系数据库如:MySQL,Oracle到Hadoop的HDFS,并从Hadoop的文件系统导出数据到关系数据库。传统的应用管理系统,也就是与关系型数据库的使用RDBMS应用程序的交互,是产生大数据的来源之一。这样大的数据,由关系数据库生成的,存储在关系数据库结构关系数据库服务器。

桃李不言下自成蹊 6万+

【Sqoop】Sqoop入门解析

一、概述 Apache Sqoop是在Hadoop生态体系和RDBMS体系之间传送数据的一种工具。来自于Apache软件基金会提供 核心的功能有两个: 导入、迁入 导出、迁出 导入数据:MySQL,Oracle 导入数据到 Hadoop 的 HDFS、HIVE、HBASE 等数据存储系统 导出数据:从 Hadoop 的文件系统中导出数据到关系数据库 mysql 等 Sqoop 的本质还是一个命令...

Together 7771

sqoop入门教程

目录 一、Sqoop概述        1、简介        2、Sqoop架构原理       &nb

辉哥大数据 4157

硬核 | Sqoop入门指南

前言         我们在日常开发中需要经常接触到关系型数据库,如MySQL,Oracle等等,用它们来将处理后的数据进行存储。为了能够在Hadoop上分析这些数据,我们需要一些“工具”,将关系型数据库中的结构化数据存储到HDFS上。本篇文章,菌哥将介绍的一个操作最简单,同时也是在工作中使用频率极高的开源组件——Sqoop,希望您能在耐心看完之后,有所收获! Sqoop简介     &

大数据梦想家 2614
上一篇: spark与hadoop集成详解
下一篇: 关于dos-formatted/unix-formatted 文件转换
reylee911
博客等级 码龄12年 6粉丝 11原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值