第1章 Sqoop简介
Sqoop是一款开源的工具,主要用于在Hadoop(Hive)与传统的数据库(mysql、postgresql...)间进行数据的传递,可以将一个关系型数据库(例如 : MySQL ,Oracle ,Postgres等)中的数据导进到Hadoop的HDFS中,也可以将HDFS的数据导进到关系型数据库中。
Sqoop项目开始于2009年,最早是作为Hadoop的一个第三方模块存在,后来为了让使用者能够快速部署,也为了让开发人员能够更快速的迭代开发,Sqoop独立成为一个Apache项目。
Sqoop2的最新版本是1.99.7。请注意,2与1不兼容,且特征不完整,它并不打算用于生产部署。
第2章 Sqoop原理
将导入或导出命令翻译成mapreduce程序来实现。
在翻译出的mapreduce中主要是对inputformat和outputformat进行定制。
第3章 Sqoop安装
安装Sqoop的前提是已经具备Java和Hadoop的环境。
3.1 下载并解压
1) 下载地址:http://mirrors.hust.edu.cn/apache/sqoop/1.4.6/
2) 上传安装包sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz到虚拟机中

本文介绍了如何使用Sqoop工具在Hadoop和MySQL之间传输数据。首先,概述了Sqoop的基本概念和原理,接着详细阐述了Sqoop的安装步骤,包括下载、解压、配置环境和JDBC驱动。然后,展示了如何连接到本地的Mysql数据库,并验证Sqoop配置。最后,给出了一个实际的示例,演示了从HDFS导出数据到本地MySQL数据库的过程。
最低0.47元/天 解锁文章
8695

被折叠的 条评论
为什么被折叠?



