MapReduce编程场景之多Job串联

最新推荐文章于 2023-07-18 16:09:27 发布

Lv_Hulk

最新推荐文章于 2023-07-18 16:09:27 发布

阅读量296

点赞数

CC 4.0 BY-SA版权

分类专栏： MapReduce 文章标签： MapReduce的多Job串联

本文链接：https://blog.youkuaiyun.com/lv_hulk/article/details/87512796

MapReduce编程场景之多Job串联

（一）需求
一个稍复杂点的处理逻辑往往需要多个 MapReduce 程序串联处理，多 job 的串联可以借助MapReduce 框架的 JobControl 实现

（二）分析
有两个 MapReduce 任务，分别是 Flow 的 SumMR 和 SortMR，其中有依赖关系：SumMR的输出是 SortMR 的输入，所以 SortMR 的启动得在 SumMR 完成之后
（三）代码实现

/**
*@author lv_hulk
*/
public static void main(String[] args) throws Exception {
Configuration conf = new Configuration();
Job jobsum = Job.getInstance(conf);
jobsum.setJarByClass(RunManyJobMR.class);
jobsum.setMapperClass(FlowSumMapper.class);
Stay hungry Stay foolish -- http://blog.youkuaiyun.com/zhongqi2513
jobsum.setReducerClass(FlowSumReducer.class);
jobsum.setMapOutputKeyClass(Text.class);
jobsum.setMapOutputValueClass(Flow.class);
jobsum.setCombinerClass(FlowSumReducer.class);
jobsum.setOutputKeyClass(Text.class);
jobsum.setOutputValueClass(Text.class);
FileInputFormat.setInputPaths(jobsum, "d:/flow/input");
FileOutputFormat.setOutputPath(jobsum,