
分布式计算原理
dmbds20
这个作者很懒,什么都没留下…
展开
-
MapReduce运行架构
1.Hadoop1.x版本 运行架构是一个主从架构。主节点是JobTracker,从节点是TaskTracker 主要流程: 客户端运行一个应用程序,然后JobTracker会向NameNode发送请求,请求这个应用程序需要的数据在哪个DataNode上。然后JobTracker会向有数据的TaskTracker发消息,让它分配一些资源出来,我要发布任务去执行。 JobTracker的作用: ...原创 2018-10-18 11:12:16 · 309 阅读 · 0 评论 -
MapReduce的原理
1.什么是MapReduce? MapReduce是一个分布式的计算框架。它由两部分组成Map和Reduce。 2.MapReduce的主要思想 分久必合。 3.MapReduce的核心思想 “相同的key为一组,一组调用一次reduce方法”。 4.MapReduce分布式计算原理 主要流程: block中的数据会以<key,value>的形式进入map task...原创 2018-10-16 21:13:21 · 244 阅读 · 0 评论