大数据之Sqoop(二)-增量数据抽取

增量数据导入

事实上，在生产环境中，系统可能会定期从与业务相关的关系型数据库向Hadoop导入数据，导入数仓后进行后续离线分析。故我们此时不可能再将所有数据重新导一遍，此时我们就需要增量数据导入这一模式了。

增量数据导入分两种:

基于递增列的增量数据导入（Append方式）

基于时间列的增量数据导入（LastModified方式)

Append方式

比如: 有一个订单表，里面每个订单有一个唯一标识自增列ID，在关系型数据库中以主键形式存在。之前已经将id在0~5201314之间的编号的订单导入到Hadoop中了（这里为HDFS），现在一段时间后我们需要将近期产生的新的订单数据导入Hadoop中（这里为HDFS），以供后续数仓进行分析。此时我们只需要指定–incremental 参数为append，–last-value参数为5201314即可。表示只从id大于5201314后开始导入。

# Append方式的全量数据导入

 sqoop import \

   --connect jdbc:mysql://192.168.xxx.xxx:3316/testdb \

   --username root \

   --password 123456 \

   --query “select order_id, name from order_table where \$CONDITIONS” \

   --target-dir /user/root/orders_all \

   --split-by order_id \

   -m 6  \

   --incremental append \

   --check-column order_id \

   --last-value 5201314

lastModify方式

此方式要求原有表中有time字段，它能指定一个时间戳，让Sqoop把该时间戳之后的数据导入至Hadoop（这里为HDFS）。因为后续订单可能状态会变化，变化后time字段时间戳也会变化，此时Sqoop依然会将相同状态更改后的订单导入HDFS，当然我们可以指定merge-key参数为orser_id，表示将后续新的记录与原有记录合并。

# 将时间列大于等于阈值的数据增量导入HDFS

 sqoop import \

   --connect jdbc:mysql://192.168.xxx.xxx:3316/testdb \

   --username root \

   --password transwarp \

   --query “select order_id, name from order_table where \$CONDITIONS” \

   --target-dir /user/root/order_all \

   --split-by id \

   -m 4  \

   --incremental lastmodified \

   --merge-key order_id \

   --check-column time \

   # remember this date !!!

   --last-value “2014-11-09 21:00:00”

• 并行参数如何设置

我们知道通过 -m 参数能够设置导入数据的 map 任务数量，即指定了 -m 即表示导入方式为并发导入，这时我们必须同时指定 - -split-by 参数指定根据哪一列来实现哈希分片，从而将不同分片的数据分发到不同 map 任务上去跑，避免数据倾斜。

生产环境中，为了防止主库被Sqoop抽崩，我们一般从备库中抽取数据。

一般RDBMS的导出速度控制在60~80MB/s，每个 map 任务的处理速度5~10MB/s 估算，即 -m 参数一般设置4~8，表示启动 4~8 个map 任务并发抽取。