JobTracker和TaskTracker

最新推荐文章于 2023-09-12 11:20:24 发布

学要无止尽

最新推荐文章于 2023-09-12 11:20:24 发布

阅读量904

点赞数

Hadoop 专栏收录该内容

29 篇文章

订阅专栏

本文深入探讨了MapReduce框架中JobTracker与TaskTracker的角色及其在分布式任务执行过程中的作用，阐述了如何通过JobClient将应用配置打包并提交至JobTracker，进而分配任务至各个TaskTracker进行执行。同时，解释了JobTracker作为Master服务如何调度子任务运行于TaskTracker，以及TaskTracker作为Slave服务如何直接执行任务。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

MapReduce job的管理有两种：TaskTracker 和JobTracker
TaskTracker ——map和reduce任务的执行
JobTracker ——map和reduce任务的接受，监控和管理TaskTracker 的分布式任务

JobTracker 对应于 NameNode

TaskTracker 对应于 DataNode
DataNode 和NameNode 是针对数据存放来而言的
JobTracker和TaskTracker是对于MapReduce执行而言的

mapreduce中几个主要概念，mapreduce整体上可以分为这么几条执行线索：
jobclient，JobTracker与TaskTracker。
1、JobClient会在用户端通过JobClient类将应用已经配置参数打包成jar文件存储到hdfs，
并把路径提交到Jobtracker,然后由JobTracker创建每一个Task（即MapTask和ReduceTask）
并将它们分发到各个TaskTracker服务中去执行
2、JobTracker是一个master服务，软件启动之后JobTracker接收Job，负责调度Job的每一个子任务task运行于TaskTracker上，
并监控它们，如果发现有失败的task就重新运行它。一般情况应该把JobTracker部署在单独的机器上。
3、TaskTracker是运行在多个节点上的slaver服务。TaskTracker主动与JobTracker通信，接收作业，并负责直接执行每一个任务。
TaskTracker都需要运行在HDFS的DataNode上