hadoop counter

Hadoop实践(三)---MapReduce中的Counter 在Hadoop的MapReduce框架中包括6种Counters,每一种包含若干个Counter,分别对Map和Reduce任务进行统计 Tips:图片中是Hadoop2.7.3 Counters 略有更新 注意区分 其实根据字面意思大概就知道这个Counter是干啥的 阅读详情
hadoop计数器的主要价值在于可以让开发人员以全局的视角来审查程序的运行情况,及时做出错误诊断并进行相应处理
hadoop内置了很多计数器,这些计数器大体上可分为三组,MapReduce相关、文件系统相关和作业调度相关,分别统计每一个环节的处理情况,计数详情可通过http://master:50030/jobdetails.jsp界面进行查看

除了内置计数器,hadoop还提供自定义计数器的功能,自定义计数器多用于统计某一类别记录的个数,或类别所占总数的百分比

计数器声明

1.通过枚举声明
Context context...
//枚举类相当于groupName,枚举类型相当于counterName
context.getCounter(Enum enum)
2.动态声明
Context context...
//传递groupName和counterName即可,无需声明枚举
context.getCounter(String groupName,String counterName)

计数器操作

counter.setValue(long value);//设置初始值
counter.increment(long incr);//增加计数

计数器检索

Job job...
job.waitForCompletion(true);
Counters counters=job.getCounters();
Counter counter=counters.findCounter(Enum enum);//查找计数器
long value=counter.getValue();//获取计数值

计数结果显示

mapreduce任务执行完成之后,会在控制台打印出计数结果,包括hadoop内置的计数器和用户自定义的计数器,如图所示

通过比较可以发现自定义的计数器显示格式并不十分友好,直接将枚举类显示在了控制台
而内置计数器显示内容更加人性化一些,原因在于其对计数器的显示做了个性化的定制
假设计数器的枚举声明如下:
public class XMLParser {
    enum Sex{
        Man,
        Women
    }
    ...
}
则可在XMLParser类所在包中声明这样一个属性文件 XMLParser_Sex.properties
#CounterGroupName用来声明groupName的控制台显示信息
CounterGroupName=Person Sex
#枚举类型加.name用来声明counterName的控制台显示信息
Man.name=boy
Women.name=girl
经过上述处理重新执行mapreduce控制台输出如下:

Revit Dynamo实战:用Excel数据批量生成桥梁模型(附自适应族技巧) 本文详细介绍了如何利用Revit Dynamo结合Excel数据实现桥梁参数化建模,重点讲解了数据驱动建模、自适应族优化及大型项目性能管理三大核心技巧。通过结构化Excel数据、高级自适应族创建和分块处理策略,显著提升桥梁建模效率与设计变更响应能力。 阅读详情

相关推荐

双目立体匹配算法:SGBM

SGBM(Semi-Global Block Matching)是一种用于计算双目视觉中视差(disparity)的半全局匹配算法,在OpenCV中的实现为semi-global block matching(SGBM)。它是基于全局匹配算法和局部匹配算法的优缺点,提出了一种折中的方法,既能保证视差图的质量,又能降低计算复杂度。

weixin_45303602的博客 9407

Hadoop生态圈(二十四)- MapReduce Counter计数器

MapReduce计数器概述,MapReduce内置计数器,MapReduce自定义计数器,Map-Reduce Framework Counters,File System Counters Counters,Job Counters,File Input | Output Format Counters,MapReduce自定义计数器案例

程序园@大Null 1690

c#笔记之mes上传Http协议版

HTTP(超文本传输协议) 是一种典型的协议。

qq_61441787的博客 343

MapReduce计数器

计数器输出 运行完毕作业之后的计数器输出 内置计数器 hadoop为每个作业提供了若干内置计数器,用以描述各项指标。 文件系统计数器 所属类:org.apache.hadoop.mapreduce.FileSystemCounter BYTES_READ:文件系统读取的字节数 BYTES_WRITTEN:文件系统写的字节数 FileInputFormat任务计数器

匆匆那些年 3907

芯片设计数字后仿与SDF文件:原理、流程与实战调试指南

在数字芯片设计流程中,时序验证是确保芯片功能正确与性能达标的核心环节。其原理在于通过精确的物理延迟模型,模拟信号在真实硅片上的传播行为,从而暴露理想仿真中无法发现的时序问题。这项技术的核心价值在于它是连接前端逻辑设计与后端物理实现的桥梁,能有效发现建立时间/保持时间违例、时钟偏斜、竞争冒险等关键风险,是保障芯片一次流片成功的关键步骤。其典型应用场景包括高性能计算单元、复杂SoC以及低功耗设计中的状态切换验证。本文聚焦于数字后仿真的具体实施,深入解析SDF文件的结构与反标机制,并提供从环境搭建、波形分析到与静

weixin_34279184的博客 382

AHB—SRAMC项目(结构图,核心代码、Testbench架构)

文章目录一、AHB_SRAMC项目介绍1.1.AHB总线控制单元(ahb_slv_if.v)1.2.SRAM控制单元(sramc_top.v)1.3.主要的传输路径二、结构框图2.1.AHB_SRAMC结构图(重点)2.2.总线控制单元与SRAM控制单元结构图三、部分核心代码(重点理解)四、SystemVerilog Testbench架构(重点)五、目录结构 一、AHB_SRAMC项目介绍 本项...

Mr.翟的博客 3万+

Hadoop 教程 - Hadoop MapReduce Counter计数器

计数器是MapReduce框架提供的一个机制,用于追踪作业执行期间发生的事件次数。它们是全局的,意味着计数器的值可以在整个作业的生命周期内累加,且跨所有TaskTracker节点共享,使得监控和数据分析变得简单直接。定义计数器:在驱动程序中定义计数器,通常在创建Job实例之后。在Mapper/Reducer中使用计数器在Mapper或Reducer的业务逻辑中,当满足特定条件时,增加计数器的值。访问计数器结果。

qq_33240556的博客 767

太阳敏感器:卫星姿态控制的“指南针

在卫星姿态控制系统中,太阳敏感器(Sun Sensor) 是至关重要的光学姿态敏感器之一。它通过探测太阳光的方向,为卫星提供关键的姿态参考信息,确保卫星能够正确调整自身方位,维持稳定的对日定向,保障能源供应和任务执行。

ScilogyHunter的博客 1730

MapReduce:默认Counter的含义

MapReduce Counter为提供我们一个窗口:观察MapReduce job运行期的各种细节数据。今年三月份期间,我曾经专注于MapReduce性能调优工作,是否优化的绝大多评估都是基于这些Counter的数值表 现。MapReduce自带了许多默认Counter,可能有些朋友对它们有些疑问,现在我分析下这些默认Counter的含义,方便大家观察job结 果。     我的分析是基于H...

weixin_33975951的博客 226

第182期 Claude Skills:深入探究Anthropic的智能体框架(一篇彻底讲透彻)

摘要: Claude Skills是Anthropic推出的智能体框架,通过连接外部工具和服务扩展Claude AI的功能,支持实时交互与任务执行。其核心架构包含技能路由器、注册表、执行引擎等模块,采用渐进式披露机制优化上下文管理。与MCP和A2A相比,Skills更注重模块化设计与Claude深度集成,通过SKILL.md文件定义可重复工作流程,兼具高效性和灵活性。开发者可创建自定义技能,遵循聚焦用户价值、安全隐私等最佳实践,实现AI能力的场景化拓展。该框架与MCP、A2A形成互补,共同推动智能体生态发展

全网120W+关注AI拉呱,专注人工智能以及科技前沿! 2132

Android11车机系统海外项目资源包RRO方案优化

本文介绍了汽车设置应用如何通过Android RRO(运行时资源叠加)方案实现多车型差异化资源管理。针对不同车型(国内/海外、轿车/SUV)和配置(方向盘、轮毂等),采用产品变体(productFlavors)构建不同APK版本,并通过JSON配置文件动态启用对应资源包。系统根据车辆下线配置自动匹配适用的资源叠加包,解决了硬编码判断带来的维护问题。该方案实现了资源的高效复用,同时支持灵活配置多种车型组合,为汽车行业多车型共平台开发提供了可扩展的技术实现。

shusuanly的博客 469

【Hadoop十五】Hadoop Counter

   1. 只有Map任务的Map Reduce Job File System Counters FILE: Number of bytes read=3629530 FILE: Number of bytes written=98312 FILE: Number of read operations=0 FILE: Number of large read ...

bit1129的博客 346

STM32入门教程:WiFi通信

第四步:初始化串口 在生成的代码中,您可以找到一个名为 "USARTx_Init" 的函数,其中 "x" 是您选择的串口号。然后,我们使用 "AT+CIPSEND" 命令发送UDP数据,接收到服务器的回复,并在终端上显示收到的数据。在配置向导中,您可以选择启用USART串口功能,并根据您的硬件连接,将串口设置为与WiFi模块连接的串口。在上述代码中,我们使用了 "HAL_UART_Receive" 函数来接收串口数据,并使用 printf 来在终端上显示收到的数据。如果有任何问题,请随时向我提问。

2401_85258012的博客 1074

Hadoop中counter的使用和默认counter的含义<转>

1.在0.20.x版本中使用counter很简单,直接定义即可,如无此counter,hadoop会自动添加此counter. Counter ct = context.getCounter("INPUT_WORDS", "count"); ct.increment(1);   2.在0.19.x版本中,需要定义enum enum MyCounter {INPUT_WORD

yongjian_luo的专栏 2285

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

Hadoop自定义Counter

1.通过enum自定义Counter public static num LOG_PROCESSOR_COUNTER { BAD_RECORDS }; 2.在Mapper或者Reducer中操作Counter context.getCounter(LOG_PROCESSOR_COUNTER.BAD_RECORDS).  increment(1); 3.在Job完成后可以进行最终统计结

坐禅小和尚的专栏 1807

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

Hadoop计数器Counter笔记

Hadoop里有一个很常用的工具叫Counter, 主要用来记录Hadoop job的运行状态: HDFS读写的字节数, 本地文件读写, map/reduce 输入输出记录数等等. 用户也可以自己定义counter. 1. 用命令行工具获取job的counter信息: [code="java"]hadoop job -counter job_201006072115_0001 org\.a...

不管什么云计算雨计算雷计算, 我只会分布式计算 181

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

hadoop自定义Counter

hadoop0.20.X版本中对counter进行了改进,具体写法如下,mark一下 [code="java"] public static class TokenizerMapper extends Mapper{ private final static IntWritable one = new IntWritable(1); priva...

Aronlulu的专栏 243

[Hadoop源码解读](四)MapReduce篇之Counter相关类

当我们定义一个Counter时,我们首先要定义一枚举类型: [html] view plaincopyprint? public static enum MY_COUNTER{     CORRUPTED_DATA_COUNTER,     NORMAL_DATA_COUNTER   };     然后,我们就可以在mapper或reduce

ATCO[这里,只是顺手插曲] 821

Hadoop Map Reduce 限制counter的默认数量120

最近用Hadoop统计将近一亿行的数据的统计,由于每一行的列再加上Overall的统计counter数量超过了120,故在Hadoop的运行过程中,抛出如下异常: org.apache.hadoop.mapreduce.counters.LimitExceededException: Too many counters: 121 max=120 由于为了无法修改Hadoop的配置(因为很多人

路卫杰的专栏 9331

[Hadoop] - Mapreduce自定义Counter

  在Hadoop的MR程序开发中,经常需要统计一些map/reduce的运行状态信息,这个时候我们可以通过自定义Counter来实现,这个实现的方式是不是通过配置信息完成的,而是通过代码运行时检查完成的。   1、创建一个自己的Counter枚举类。 enum PROCESS_COUNTER { BAD_RECORDS, BAD_GROUPS; }   2、在...

weixin_30496431的博客 200

hadoop编程小技巧(2)---计数器Counter

Hadoop代码测试版本:2.4应用场景:在Hadoop编程的时候,有时我们在进行我们算法逻辑的时候想附带了解下数据的一些特性,比如全部数据的记录数有多少,map的输出有多少等等信息(这些是在算法运行完毕后,直接有的),就可以使用计数器Counter。如果是针对很特定的数据的一些统计,比如统计以1开头的所有记录数等等信息,这时就需要自定义Counter。自定义Counter有两种方式,第一种,定义

fansy1990的专栏 3082

Hadoop Map Reduce的Counter数量超过默认值120的解决方案

前一篇Hadoop的文章《Hadoop Map Reduce 限制counter的默认数量120》提到的一个Reduce的Counter数量超过默认值120待解决方案,今天终于有空去实现了,实现方法如下: 使用类MultipleOutputs的对象write方法在reduce中进行统计计算,MultipleOutputs的使用可参考博文《hadoop文件输出控制,多路径输出到不同文件》. 直接上

路卫杰的专栏 3907

[]hadoop自定义Counter

hadoop0.20.X版本中对counter进行了改进,具体写法如下,mark一下 public static class TokenizerMapper extends Mapper&lt;Object, Text, Text, IntWritable&gt;{ private final static IntWritable one =...

youziguo的专栏 144
上一篇: hive功能简介
下一篇: MapReduce执行流程
JavaMan_chen
博客等级 码龄19年 329粉丝 82原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值