MapReduce Sqoop2

最新推荐文章于 2021-06-23 15:45:07 发布

原创最新推荐文章于 2021-06-23 15:45:07 发布 · 362 阅读

0 ·

CC 4.0 BY-SA版权

大数据同时被 2 个专栏收录

11 篇文章

订阅专栏

sqoop

1 篇文章

订阅专栏

Sqoop 2 MapReduce Job

一个作业初始化的工作:

作业映射阶段：

下面的图表对工作的减少阶段进行了描述;

  ,------------.  ,---------------------.
  |SqoopReducer|  |SqoopNullOutputFormat|
  `---+--------'  `----------+----------'
      |                 |   ,-----------------------------.
      |                 |-> |SqoopOutputFormatLoadExecutor|
      |                 |   `--------------+--------------'              |
      |                 |                  |                             |
      |                 |                  |   ,-----------------.   ,-------------.
      |                 |                  |-> |SqoopRecordWriter|-->|SqoopWritable|
    getRecordWriter     |                  |   `--------+--------'   `---+---------'
----------------------->| getRecordWriter  |            |                |
      |                 |----------------->|            |                |     ,--------------.
      |                 |                  |---------------------------------->|ConsumerThread|
      |                 |                  |            |                |     `------+-------'
      |                 |<- - - - - - - - -|            |                |            |    ,------.
<- - - - - - - - - - - -|                  |            |                |            |--->|Loader|
      |                 |                  |            |                |            |    `--+---'
      |                 |                  |            |                |            |       |
      |                 |                  |            |                |            | load  |
 run  |                 |                  |            |                |            |------>|
----->|                 |     write        |            |                |            |       |
      |------------------------------------------------>| setContent     |            | read* |
      |                 |                  |            |--------------->| getContent |<------|
      |                 |                  |            |                |<-----------|       |
      |                 |                  |            |                |            | - - ->|
      |                 |                  |            |                |            |       | write into Data Source
      |                 |                  |            |                |            |       |----------------------->