如何动态调整hadoop日志级别

Hadoop 2.x 配置优化方案与最佳实践 (Hadoop 课程系列教程) 作者:禅与计算机程序设计艺术 1.简介 Hadoop 是 Apache 基金会下的开源分布式计算框架,其能够处理海量数据并进行分布式运算,在大数据领域占据着举足轻重的地位。作为最流行的开源大数据分析系统之一,Hadoop 有着高扩展性、高容错性和高可用性等特征,对大数据存储和计算能力提出了更高的要求。而 阅读详情

日志文件:

2018-08-07 15:24:32,767 INFO org.apache.hadoop.yarn.server.nodemanager.containermanager.application.ApplicationImpl: Application application_1533624199682_0095 transitioned from NEW to INITING
2018-08-07 15:24:32,767 INFO org.apache.hadoop.yarn.server.nodemanager.containermanager.application.ApplicationImpl: Adding container_1533624199682_0095_01_000001 to application application_1533624199682_0095
2018-08-07 15:24:32,768 INFO org.apache.hadoop.yarn.server.nodemanager.containermanager.application.ApplicationImpl: Application application_1533624199682_0095 transitioned from INITING to RUNNING

其中本人nodemanager部署在IP:99.48.1.2上 查看下表对应的端口:8042
那么我们可以get方式浏览器访问
http://99.48.1.2:8042/logLevel?log=org.apache.hadoop.yarn.server.nodemanager.containermanager.application.ApplicationImpl&level=WARN
将该类的日志级别设置为WARN。

以下为hadoop常用模块和端口:

组件  节点  默认端口    配置  用途说明
HDFS    DataNode    50010   dfs.datanode.address    "datanode服务端口,用于数据传输"
HDFS    DataNode    50075   dfs.datanode.http.address   http服务的端口
HDFS    DataNode    50475   dfs.datanode.https.address  https服务的端口
HDFS    DataNode    50020   dfs.datanode.ipc.address    ipc服务的端口
HDFS    NameNode    50070   dfs.namenode.http-address   http服务的端口
HDFS    NameNode    50470   dfs.namenode.https-address  https服务的端口
HDFS    NameNode    8020    fs.defaultFS    接收Client连接的RPC端口,用于获取文件系统metadata信息。
HDFS    journalnode 8485    dfs.journalnode.rpc-address RPC服务
HDFS    journalnode 8480    dfs.journalnode.http-address    HTTP服务
HDFS    ZKFC    8019    dfs.ha.zkfc.port    ZooKeeper FailoverController,用于NN HA
YARN    ResourceManager 8032    yarn.resourcemanager.address    RM的applications manager(ASM)端口
YARN    ResourceManager 8030    yarn.resourcemanager.scheduler.address  scheduler组件的IPC端口
YARN    ResourceManager 8031    yarn.resourcemanager.resource-tracker.address   IPC
YARN    ResourceManager 8033    yarn.resourcemanager.admin.address  IPC
YARN    ResourceManager 8088    yarn.resourcemanager.webapp.address http服务端口
YARN    NodeManager 8040    yarn.nodemanager.localizer.address  localizer IPC
YARN    NodeManager 8042    yarn.nodemanager.webapp.address http服务端口
YARN    NodeManager 8041    yarn.nodemanager.address    NM中container manager的端口
YARN    JobHistory Server   10020   mapreduce.jobhistory.address    IPC
YARN    JobHistory Server   19888   mapreduce.jobhistory.webapp.address http服务端口

参考:
https://blog.youkuaiyun.com/sunwukong_hadoop/article/details/60877698

比亚迪开放平台接口实战:车身状态监测与智能车联应用开发 本文详细介绍了如何利用比亚迪开放平台的车身状态接口进行智能车联应用开发。通过核心类BYDAutoBodyworkDevice,开发者可以安全获取车辆VIN、车门车窗状态、蓄电池电压、方向盘转角等实时数据,并利用监听器实现状态实时响应。文章提供了从SDK集成、接口调用到典型应用场景(如远程车况检查、车队管理)的完整实战指南,助力开发者快速构建基于比亚迪车辆数据的创新应用。 阅读详情

相关推荐

用Multisim仿真AD630锁定放大器:从2012年电赛A题实战到避坑指南

本文详细介绍了如何使用Multisim仿真AD630锁定放大器,从2012年电赛A题实战出发,提供完整的电路搭建、参数优化及避坑指南。重点解析AD630的开关调制架构和双相位检测的工程实现,帮助读者在强噪声背景下有效提取微弱信号,提升电子设计竞赛和工程实践中的信号处理能力。

weixin_42549451的博客 203

hadoop yarn的日志级别和调度器的更改

更改yarn的日志级别调度器的更改日志级别的更改idea中启用debug的方式 调度器的更改 在Hadoop的etc/hadoop/yarn-site.xml的文件中加入configuration 标签内。 <property> <name>yarn.resourcemanager.scheduler.class</name> <value>org.apache.hadoop.yarn.server.resourcemanager.scheduler.

qq_38347727的博客 1407

国产麒麟系统下Kettle安装避坑指南:解决aarch64架构不兼容问题

本文针对在国产麒麟系统上安装Kettle时遇到的aarch64架构不兼容问题,提供了详细的解决方案。通过剖析错误根源,指导用户获取并放置正确的SWT库文件,并修改启动脚本,成功解决“平台不支持”的报错,确保ETL工具在ARM架构的国产化环境中顺利运行。

weixin_29214691的博客 277

Hadoop动态调整日志级别

Hadoop 动态调整日志级别 hadoop 线上基础服务 ResourceManager,运行中排查问题,不能直接重启调整日志级别,hadoop给我们提供了动态修改类日志级别的方式。 通过Yarn命令行调整日志级别 拿ResourceManager类举例子 yarn daemonlog -setlevel <host:httpport> org.apache.hadoop.yarn.server.resourcemanager.scheduler.fair.FairScheduler INF

败八 1565

HWSD全球土壤数据下载、处理与提取完整指南

全球尺度的科学研究与工程项目中,土壤数据是必不可少的基础底图,而HWSD(和谐世界土壤数据库)凭借其统一的分辨率与属性标准,成为农业区划、生态模型、土地利用变化和水资源评估等领域的通用数据源。深入理解其“栅格存编号、数据库存属性”的核心原理,是高效使用这套数据的关键。通过掌握MDB数据库结构、属性字段含义以及栅格与属性表的关联方法,研究者可以将原始数据转化为可用的研究底图。无论你是需要提取特定区域的土壤属性,还是进行面积统计与点位采样,合理的处理流程都能显著提升工作效率。本文从下载注册开始,一步步梳理数据清

weixin_29056781的博客 316

告别Quartus II的漫长等待:用VSCode+iverilog+GTKWave搭建你的轻量级Verilog仿真环境(2024保姆级教程)

本文详细介绍了如何利用VSCode、iverilog和GTKWave构建高效的Verilog/SystemVerilog开发环境,替代传统的Quartus II和ModelSim工具。通过2024年最新的保姆级教程,帮助开发者实现秒级启动、低资源消耗的轻量级仿真环境,显著提升数字电路设计的开发效率和调试体验。

weixin_33690963的博客 561

hadoop

Apache Hadoop是一个用于分布式存储和处理大规模数据的开源框架。它由多个组件组成,每个组件都有不同的功能和任务。以下是Hadoop的主要组件以及它们的作用:Hadoop分布式文件系统(HDFS - Hadoop Distributed File System):HDFS是Hadoop的存储组件,用于存储大规模数据集。它分布在多个计算节点上,并提供高容错性。HDFS将大文件切分成小块(块大小通常为128 MB或256 MB),并复制到不同的节点上以确保数据的可用性和容错性。

zhk 1185

UE4虚拟现实实习总结---蓝图中的常用交互事件|人物行走|物体移动|动态触发|材质改变

这周是ue4实习周,老师给我们的任务就是基于中学物理和化学实验的虚拟实验室,要有交互事件,后期可以链接vr手柄进行操作。 但是实习开始老师影都没了,全靠自己学习。感觉自己学习了不少东西,这里就来总结一下!顺便感叹一下,ue4好玩又强大! 以下主要介绍蓝图中的几种交互事件1.新建游戏角色并且进行角色行走旋转,2.如何控制物体移动旋转,3.如何控制物体材质动态变化 大家可以举一反三,作出更好的作品 1.新建游戏角色并且进行角色行走旋转 步骤 在刚刚新建的文件夹中鼠标右击新建蓝图类,然后分别创建以下:chara

weixin_43902063的博客 6123

CM&CDH大数据运维官方课程

 本课程主要讲解在实际项目开发中,企业构建大数据平台的方案及实战。详细阐述企业级大数据平台的架构设计、机器选型、集群规划、技术选型、资源规划等技术方案。实战演练基于Cloudera Manager安装部署、监控管理、运营维护大数据平台的各个服务组件。从理论经验到实战演练,从设计思想到流程实施。

Python爬虫-爬取猫眼演出数据

本文是该专栏的第53篇,后面会持续分享python爬虫干货知识。猫眼平台除了有影院信息之外,它还涵盖了演出信息,比如说“演唱会,音乐节,话剧音乐剧,脱口秀,音乐会,戏曲艺术,相声”等等各种演出相关信息。而本文,笔者将以猫眼平台为例,基于Python爬虫实现获取各种演出信息的数据。废话不多说,具体细节部分以及详细思路逻辑,笔者将在正文结合完整代码进行详细说明。(附带完整代码)

Python进阶专栏《爬虫实战进阶》,《Pyppeteer从入门到精通》原创作者 569

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

Hadoop2动态调整Log级别-以datanode的heartbeat log为例

  在Hadoop中,有些log信息在正常情况下是不打印出来的。比如datanode发送heartbeat的日志。   代码位于BPServiceActor#sendHeartBeat方法中,如下图:      由于默认心跳间隔时间为3s,默认打印该日志的话,日志文件会很大。 一、使用命令   可以使用命令hadoop daemonlog来获取和修改指定类的Log...

weixin_30265171的博客 308

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

hadoop 动态设置调整日志级别

Hadoop急诊室的半小时:动态设置调整日志级别 技术大数据蜗牛2015.02.03 本文通过一个在实际工作中所遇到的线上问题来告诉广大数据从业者一条通俗有用的人生哲理:线上遇到这样的问题,千万要冷静,越是着急越容易出乱子!心急吃不了热豆腐。 十万火急 上周二,朋友公司的Hadoop集群服务不可用,从早上9点开始一直持续到12点。业务方催得比较急,希望尽快恢复,至少给个...

weixin_33695082的博客 1122

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

Hadoop动态修改LogLevel

Hadoop实现了org.apache.hadoop.log.LogLevel类用于动态调整日志级别 在LogLevel类中实现了org.apache.hadoop.log.LogLevel.CLI与org.apache.hadoop.log.LogLevel.Servlet用于支持从命令行以及Servlet请求两种方式修改日志级别 转载于:https://www.cnblogs.com/tyl...

weixin_30920597的博客 433

spark日志存储路径为mysql_hadoop日志:项目日志输出级别和日志存放路径详解

1.hadoop项目日志输出级别首先了解log4j的基本知识,参考之前的博客。对于hadoop来说,日志很繁杂。对于输出日志的级别,首先查看hadoop的日志文件log4j.properties log4j.rootLogger=${hadoop.root.logger}, EventCounter的前一部分是hadoop.root.logger。所以我们可以知道,对已我们修改hadoop的配置文...

weixin_29499357的博客 447

如何在Hadoop集群中动态调整资源配置?

在Hadoop集群中动态调整资源配置的能力对于优化集群性能、应对变化的工作负载以及提高资源利用率至关重要。

qq_33240556的博客 1017

Hadoop2 调整日志级别为DEBUG便于调试

一开始修改/etc/hadoop目录下的log4j.properties中的hadoop.root.logger=DEBUG,console,发现不起作用。 于是通过ps -ef|grep NameNode查看启动参数,发现里面有设置hadoop.root.logger 后来查看namenode启动脚本hadoop-daemon.sh中会去判断是否存在环境变量HADOOP_ROOT_LOGGE

heshang285170811的专栏 3264

spark问题小结

20211229

kyle1314608的博客 2806

hadoop日志:项目日志输出级别和日志存放路径详解

为什么80%的码农都做不了架构师?>>> ...

weixin_33736832的博客 583

Hadoop 之WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform...

注:升级glib库解决问题请参加链接:https://blog.csdn.net/l1028386804/article/details/88420473 问题描述 配置完Hadoop集群并启动成功,但是在使用hdfs命令查看hdfs文件系统数据的时候出现如下警告信息: WARN util.NativeCodeLoader: Unable to load native-hadoop library...

const_ 518

Hadoop 教程 - Hadoop调优之MapReduce生产经验

在Hadoop生产环境中调优MapReduce作业时,关注以下关键点可以显著提升作业的执行效率和资源利用率。

qq_33240556的博客 504

Hadoop之—— WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform...

转自:http://blog.csdn.net/l1028386804/article/details/51538611 配置完Hadoop启动的时候出现如下警告信息: [html] view plain copy   WARN util.NativeCodeLoader: Unable to load native-hadoop lib

Rome was not built in one day 1327
上一篇: kylin hadoop yarn 文件夹空间不足问题
下一篇: maven protobuf 编译hadoop源码生成jar包,打印运行日志排障
AI干IT
博客等级 码龄18年 50粉丝 50原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值