MapReduce流程描述

最新推荐文章于 2021-12-20 21:21:35 发布

lvtula

最新推荐文章于 2021-12-20 21:21:35 发布

阅读量280

点赞数 1

CC 4.0 BY-SA版权

文章标签： mapreduce

本文链接：https://blog.youkuaiyun.com/lvtula/article/details/82263520

本文详细解析了MapReduce作业的启动过程，从MRAppMaster的角色介绍开始，深入讲解了maptask和reducetask的工作机制，包括数据切片处理、记录读取、map和reduce方法的执行逻辑，以及最终结果的输出。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

一个mr程序启动的时候，最先启动的是MRAppMaster，MRAppMaster启动后根据本次job的描述信息，计算出需要的maptask实例数量，然后向集群申请机器启动相应数量的maptask进程
maptask进程启动之后，根据给定的数据切片范围进行数据处理，主体流程为：
1. 利用客户指定的inputformat来获取RecordReader读取数据，形成输入KV对
2. 将输入KV对传递给客户定义的map()方法，做逻辑运算，并将map()方法输出的KV对收集到缓存
3. 将缓存中的KV对按照K分区排序后不断溢写到磁盘文件
MRAppMaster监控到所有maptask进程任务完成之后，会根据客户指定的参数启动相应数量的reducetask进程，并告知reducetask进程要处理的数据范围（数据分区）
Reducetask进程启动之后，根据MRAppMaster告知的待处理数据所在位置，从若干台maptask运行所在机器上获取到若干个maptask输出结果文件，并在本地进行重新归并排序，然后按照相同key的KV为一个组，调用客户定义的reduce()方法进行逻辑运算，并收集运算输出的结果KV，然后调用客户指定的outputformat将结果数据输出到外部存储