6.824 Lab1 MapReduce解析与实现
MapReduce, 批处理的典型之一。主要思想即“分而治之”,将一大批数据(一个大任务)分成多个子任务,分别进行运算(同时)(map),再将运算结果合起来(reduce)
master: 负责任务调度
mapper: 执行各个子任务,map运算
reducer: 执行结果汇总,reduce运算
例:在K/V的wordCount中,源数据为一个大文件,每个mapper负责一部分文件的count,m...
原创
2019-06-09 21:18:23 ·
472 阅读 ·
0 评论