- hadoop的jar包主程序运行到job.waitForCompletion(true);
- 向resourcemanger申请一个job任务
- resourcemanger返回job相关资源的路径(staging-dir,位于hdfs的temp中,存)和jobid给主程序
- 主程序将资源(jar包等)提交到staging-dir,然后向resourcemanger汇报提交成功
- resourcemanger将job加到job队列
- nodemanger通过心跳机制去检查任务队列,检查是否有需要自己执行的任务,如果有将任务领取
- nodemanger领取任务后初始化container,分配资源(内存,磁盘,网络,cpu等),从staging-dir拉取资源。启动nodemanger的MRAppMaster,并向resourceMangeer注册。
- nodemanger启动map task,执行map操作
- nodemanger启动reduce task,并传递map task的结果
- nodemanger的MRAppMaster向resourcemanger注销自己,回收资源
注意:
resourcemanger负责资源调度
MRAppMaster负责监控任务
hadoop的job分发机制
最新推荐文章于 2024-03-06 16:45:53 发布