MapReduce 新旧API

Hadoop MapReduce 新旧 mapred 与 mapreduce API 通过上述新旧版MapReduceAPI的变化,我们可以总结出如下几方面的区别。 阅读详情
我使用的hadoop的版本为0.20.2。Hadoop从0.20.0版本加入了新的MapReduce Java API,我之后的学习中没有额外说明,均使用的新的API。下面简单介绍一下新旧API的区别:

  (1)新的API倾向于使用抽象类,而不是接口。新的API中Mapper和Reducer是抽象类。

  (2)新的API在org.apache.hadoop.mapreduce包和子包中,旧版的API放在org.apache.hadoop.mapred中。在编程中一定要注意两个包不要混用或者用错,程序中要正确统一的的import进新包或者旧包。我在刚开始写代码的时候由于没有注意这一点,程序出现过错误,尤其是在刚建map或reduce类以及job的配置时。

  (3)新的API中广泛使用context object,例如MapContext基本上充当这JobConf的OutputCollector和Reporter的角色。

  (4)新的API同时支持“推”和“拉”式的迭代。

  (5)新的API同一了配置。旧API使用JobConf对象进行作业配置,新API中作业配置通过Configuration来完成。

  (6)新API中作业控制执行有Job类来负责,旧版使用JobClient。这也是写代码时要注意的地方。



转自: http://www.cnblogs.com/Dreama/articles/2195628.html
【土壤普查实战】Python+ArcGIS随机森林模型一键生成土壤类型栅格图 本文详细介绍了如何利用Python和ArcGIS结合随机森林模型实现土壤类型栅格图的自动化生成,大幅提升土壤普查效率。通过环境准备、数据预处理、模型构建与调优等关键步骤,帮助用户掌握从样本点生成到最终栅格图输出的完整流程,适用于大面积区域或样本点较多的土壤分类任务。 阅读详情

相关推荐

图像去雾新思路:手把手教你复现DEA-Net中的“细节增强卷积”与PyTorch实现

本文详细解析了DEA-Net中的'细节增强卷积'(DEConv)与PyTorch实现,通过多分支差分卷积和重参数化技术,显著提升单图像去雾效果。文章从数学原理到代码实现,手把手指导复现这一创新架构,帮助开发者在保持轻量化的同时实现41dB以上的PSNR指标,适用于自动驾驶、遥感监测等关键领域。

weixin_30323631的博客 505

【Mapred】输入数据的分片实质

http://blog.youkuaiyun.com/tracymkgld/article/details/17578593提到作业的提交的时候,输入数据需要分片,当时提到有新旧两种分片方式,那么这里就来看看什么是新方法,与旧方法有什么不同。 hadoop1.0.3依据参数  mapred.mapper.new-api的配置选择不同的切片方法。 同样在http://blog.youkuaiyun.com/tracym

tracymkgld的专栏 959

Cadence IC618/Spectre231安装避坑指南:详解环境变量配置与License管理那些事儿

本文深入解析Cadence IC618/Spectre231安装过程中的环境变量配置与License管理难题,提供从变量冲突解决到高效License管理的实用方案。针对常见的64位标识冲突、路径污染及License服务器连接问题,给出具体诊断步骤和优化建议,帮助用户构建稳定可靠的EDA环境。

weixin_33737134的博客 616

OOZIE mapreduce节点使用新API

在mapreduce节点使用new api的注意事项, 基于cloudera4.2: 增加配置, 声明使用newapi                                 mapred.mapper.new-api true mapred.reducer.new-api true 将原配置文件中mapre.map.class和mapre.reduc

nxcjh321的专栏 935

遥感图像处理实战:DOTA数据集旋转框转YOLO格式全流程解析(附代码)

本文详细解析了将DOTA遥感数据集的旋转框标注转换为YOLO格式的全流程。针对遥感图像中物体朝向任意性的特点,文章重点阐述了将旋转框转换为外接水平框的数学原理与代码实现,并提供了批量转换脚本和可视化验证方法,帮助开发者高效处理数据,为基于YOLO的遥感目标检测项目奠定基础。

weixin_29082143的博客 398

离线AI实战指南:本地部署大模型处理PDF/Word/Excel

离线AI是指在无网络、不上传数据前提下,于个人设备运行大语言模型并完成文档理解、多轮对话与代码辅助等任务的技术方案。其核心依赖本地模型推理、文档解析向量化和轻量级对话调度三大能力。随着Phi-3、Qwen2、Llama3等轻量化开源模型普及,以及Ollama、LM Studio等易用工具成熟,普通用户已可在主流笔记本上实现PDF摘要、合同比对、代码注释等真实办公场景。本文聚焦离线AI的硬件适配、模型选型、文件处理链路与知识库构建,尤其强调中文OCR支持、结构化文档提取与CPU/GPU混合推理优化,助力非开发

weixin_31968639的博客 495

Hadoop 新旧MapReduce API比较

hadoop高级教程:新旧MapReduce API比较,从0.20.0版本开始,Hadoop同时提供了新旧两套MapReduce API。新API在旧API基础上进行了封装,使得其在扩展性和易用性方面更好。新旧版MapReduce API的主要区别如下。 (1)存放位置 旧版API放在org.apache.hadoop.mapred包中,而新版API则放在org.apache.had

oraclestudyroad的博客 639

W5500 TCP服务器状态机详解:从SOCK_CLOSED到SOCK_ESTABLISHED的完整流程

本文深入解析W5500芯片作为TCP服务器时的状态机转换流程,从SOCK_CLOSED到SOCK_ESTABLISHED的完整链路实践。通过硬件协议栈架构分析、状态机全流程拆解及异常处理方案,帮助开发者构建高可靠性的嵌入式网络服务端,优化TCP连接性能与稳定性。

Jerry的专栏 1165

Hadoop源码解析之Mapper数量计算公式

据说,自0.20.0版本开始,Hadoop同时提供了新旧两套MapReduce API,并在后续版本中也同时支持这两种API的使用。新版本MR API在旧的基础进行了扩展,也制定了新的split计算方式。新版本MR API在包org.apache.hadoop.mapreduce及其子包中,而旧版本MR API则在包org.apache.hadoop.mapred及其子包中。...

m0_59092234的博客 369

遥感影像建筑物变化检测

遥感影像建筑物变化检测

yilvyangguang520的博客 423

【WRFDA安装第一期】安装 WRFDA 以运行 3DVAR/4DVAR数据同化

【WRFDA安装第一期】安装 WRFDA 以运行 3DVAR/4DVAR数据同化

WW、forever的博客 1896

MapReduce编程学习笔记(一)—新旧API

  我使用的hadoop的版本为0.20.2。Hadoop从0.20.0版本加入了新的MapReduce Java API,我之后的学习中没有额外说明,均使用的新的API。下面简单介绍一下新旧API的区别:   (1)新的API倾向于使用抽象类,而不是接口。新的API中Mapper和Reducer是抽象类。   (2)新的API在org.apache.hadoop.mapreduce...

weixin_30745641的博客 146

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

MapReduce 新旧API对比

hadoop从0.20.0版本开始,Hadoop同时提供了新旧两套MapReduce API。新API在旧API基础上进行了封装,使得其在扩展性和易用性方面更好。新旧版MapReduce API的主要区别如下。 (1)存放位置 新API:org.apache.hadoop.mapreduce包 旧API:org.apache.hadoop.mapred包 (2)接口变为抽象类 接口通...

MAYIBO—BG的专栏 389

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

Hadoop新旧API对比初探+链式mapreduce

1.背景 做项目的时候碰到一个需要用链式mapreduce的问题,然后调研了一下ChainMapper和ChainReducer的使用,顺带缕一下新旧API的异同。 首先需要说明的是:从0.20.0开始,hadoop的API发生了改变,但是旧API依然保留,包名: org.apache.hadoop.mapred 新版API包名: org.apache.hadoop.mapreduce

ontheway110的专栏 762

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

mapreduce 新旧API 区别

在hadoop 权威指南中有说明,原文如下: The new Java MapReduce API Release 0.20.0 of Hadoop included a new Java MapReduce API, sometimes referred to as “Context Objects,” designed to make the API easier to evolve

xwdreamer的专栏 9422

Hadoop MapReduce新旧API区别

新增的Java MapReduce API Hadoop的版本0.20.0包含有一个新的 Java MapReduce API,有时也称为"上下文对象"(context object),旨在使API在今后更容易扩展。新的API 在类型上不兼容先前的API,所以,需要重写以前的应用程序才能使新的API发挥作用。 新增的API 和旧的API 之间,有下面几个明显的区别。 新的API

jokes000的专栏 6913

新旧Java MapReduce API的差异

摘录自 Hadoop权威指南 1、版本区别Hadoop在0.20.0版本中第一次使用新的API,部分早期的0.20.0版本不支持使用旧的API,但在接下来的1.x和2.x版本中新旧API都可以使用。新旧API的差异主要有以下几点:1. 新的API放在org.apache.hadoop.mapreduce包(和子包)中,旧的API放在org.apache.hadoop.mapred中。2. 新API...

wisgood的专栏 3367

Hadoop日记Day15---MapReduce新旧api的比较

  我使用hadoop的是hadoop1.1.2,而很多公司也在使用hadoop0.2x版本,因此市面上的hadoop资料版本不一,为了扩充自己的知识面,MapReduce的新旧api进行了比较研究。   hadoop版本1.x的包一般是mapreduce  hadoop版本0.x的包一般是mapred 我们还是以单词统计为例进行研究,代码如下,如代码1.1所示: package...

weixin_34248705的博客 119

mapreduce新旧api对比

对比:hadoop版本1.x 新版,hadoop版本0.x 旧版 1.新api引用包一般是mapreduce,旧版api引用的包一般是mapred 2.新api使用Job,旧版api使用JobConf 3.新api类的包名使用mapreduce,旧版api使用mapred 4.新api使用job.waitForCompletion(true)提交作业,旧版api使用JobClient.r...

weixin_30390075的博客 153

MapReduce简述、工作流程及新旧API对照

什么是MapReduce? 你想数出一摞牌中有多少张黑桃。直观方式是一张一张检查而且数出有多少张是黑桃。 MapReduce方法则是: 1. 给在座的全部玩家中分配这摞牌。 2. 让每一个玩家数自己手中的牌有几张是黑桃,然后把这个数目汇报给你。 3. 你把全部玩家告诉你的数字加起来,得到最后的结论。 MapReduce概述 MapReduce是一种分布式计算模...

weixin_30909575的博客 135

【Hadoop】新旧Java MapReduce API的差异

Hadoop在0.20.0版本中第一次使用新的API,部分早期的0.20.0版本不支持使用旧的API,但在接下来的1.x和2.x版本中新旧API都可以使用。 新旧API的差异主要有以下几点: 1. 新API倾向于使用虚类,而不是接口,因为更有利于扩展。在旧的API中使用Mapper和Reducer接口,而在新的API中使用虚类。 2. 新的API放在org.apache.hadoop.map

Just Do IT 570

Java MapReduce新旧API的比较

Hadoop的版本0.20.0包含有一个新的 Java MapReduce API,有时也称为"上下文对象"(context object),旨在使API在今后更容易扩展,新的API 在类型上不兼容先前的API。 (1)新的API 倾向于使用抽象类,而不是接口,因为这更容易扩展。如在新的API 中, Mapper 和Reducer现在都是抽象类。 (2)新的API是在org.apach

cxx_317的博客 529
上一篇: MapReduce的输入输出格式
下一篇: 自定义hadoop map/reduce输入文件切割InputFormat 更改输入value的分隔符
codestinity
博客等级 码龄16年 29粉丝 7原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值