大数据学习笔记09:MapReduce概述

本文介绍了MapReduce编程模型及其在大数据处理中的应用,通过两个实例展示了MapReduce解决大规模数据问题的能力。详细阐述了MapReduce的体系架构,包括MRv1和MRv2的组件和工作流程,以及MapReduce作业的运行机制。同时,文章还讨论了MapReduce执行管道的主要组件,如驱动器、上下文、映射器和归并器等,并提到了序列化类型的重要性。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一、引入问题

问题1:100副牌,没有大小王,差一张牌,确定缺少的那张牌。

在这里插入图片描述
在这里插入图片描述

问题2:100GB网站访问日志文件,找出访问次数最多的IP地址。

在这里插入图片描述
在这里插入图片描述

二、MapReduce编程模型

MapReduce是一个分布式计算框架(编程模型),最初由由谷歌的工程师开发,基于GFS的分布式计算框架。后来Cutting根据《Google Mapreduce》,设计了基于HDFS的MapReduce分布式计算框架。

  • Map
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

酒城译痴无心剑

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值