Hadoop学习之YARN(YARN配置参数)心得

YARN 内存参数终极详解 很多朋友在刚开始搭建和使用 YARN 集群的时候,很容易就被纷繁复杂的配置参数搞晕了:参数名称相近、新老命名掺杂、文档说明模糊 。特别是那几个关于内存的配置参数,即使看好几遍文档也不能完全弄懂含义不说,配置时一不小心就会张冠李戴,犯错误。 如果你同样遇到了上面的问题,没有关系,在这篇文章中,我就为大家梳理一下 YARN 的几个不易理解的内存配置参数,并结合源码阐述它们的作用和原理 阅读详情

Yarn的配置参数:

        1. ResourceManager相关

                yarn.resourcemanager.scheduler.class    
                
                    配置调度器,默认容量(并发度要求高,使用公平调度;否则使用容量调度)

                yarn.resourcemanager.scheduler.client.thread-count    

                    ResourceManager处理调度器请求的线程数量,默认50

        2. NodeManager相关

                yarn.nodemanager.resource.detect-hardware-capabilities    
    
                    是否让yarn自己检测硬件进行配置,默认false

                yarn.nodemanager.resource.count-logical-processors-as-cores    

                    是否将虚拟核数当作CPU核数,默认false

                yarn.nodemanager.resource.pcores-vcores-multiplier    

                    虚拟核数和物理核数乘数,例如:4核8线程,该参数就应设为2,默认1.0

                yarn.nodemanager.resource.memory-mb    

                    NodeManager 使用内存,默认8G

                yarn.nodemanager.resource.system-reserved-memory-mb    
        
                    NodeManager 为系统保留多少内存以上二个参数配置一个即可

                yarn.nodemanager.resource.cpu-vcores        
            
                    NodeManager 使用CPU核数,默认8个

                yarn.nodemanager.pmem-check-enabled    
        
                    是否开启物理内存检查限制 container(监控机制),默认打开

                yarn.nodemanager.vmem-check-enabled    
    
                    是否开启虚拟内存检查限制container,默认打开

                yarn.nodemanager.vmem-pmem-ratio        
        
                    虚拟内存物理内存比例,默认 2.1

        3. Container相关

                yarn.schedule.minimum-allocation-mb        

                    容器最最小内存,默认1G

                yarn.schedule.maximum-allocation-mb        
    
                    容器最最大内存,默认8G

                yarn.schedule.minimum-allocation-vcores    

                    容器最小CPU核数,默认1个

                yarn.schedule.maximum-allocation-vcores    

                    容器最大CPU核数,默认4个

hadoop的yarn 服务器运行程序,运行程序所需的资源预先通知给resourcemanager,由resourcemanager通知给nodemanager进行调度,而nodemanager这边先搭建一个container(容器),把程序所需资源先占用放入container,再供给程序使用.程序向YARN申请所需资源, YARN为程序分配所需资源供程序使用,明显的担起了资源调度的职责。: 单个服务器的资源调度者,负责调度单个服务器上的资源提供给应用程序使用。一:/etc/hadoop/yarn-env.sh。 阅读详情

相关推荐

Hadoop 配置本篇主要就是配置HDFS和YARN

配置HDFS和YARN之前要对服务器或者虚拟机安装jdk、maven、findbugs、protobuf等,这些就不一一赘述了,一查一大堆。 首先要有编译好的hadoop的jar包,解压到自己的目录。 上面所用到的jar包可以到我上传的资源中下载 maven:http://download.csdn.net/detail/just_for_fun_208/9505012 findbugs:h

Just_for_fun_208的博客 2513

HADOOP之YARN详解

第一代Hadoop,由分布式存储系统HDFS和分布式计算框架MapReduce组成。其中,HDFS由一个NameNode和多个DataNode组成,MapReduce由一个JobTracker和多个TaskTracker组成。对应Hadoop版本为Hadoop 1.x, 和0.21.x, 0.22.x。为克服Hadoop 1.0中的HDFS和MapReduce存在的各种问题而提出的,针对Hadoop 1.0中的MapReduce在扩展性和多框架支持方面的不足,提出了全新的资源管理框架YARM。

freellf的专栏 2160

Hadoop学习之路,YARN的配置与安装(2)

Hadoop中YARN的配置 etc/hadoop/mapred-site.xml文件编辑 <configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration> etc/hadoop/yarn-site.xm

qq_42559628的博客 2405

YARN架构设计详解

一、YARN基本服务组件           YARN是Hadoop 2.0中的资源管理系统,它的基本设计思想是将MRv1中的JobTracker拆分成了两个独立的服务:一个全局的资源管理器ResourceManager和每个应用程序特有的ApplicationMaster。其中ResourceManager负责整个系统的资源管理和分配,而ApplicationMaster负责单个应用程序的管理...

weixin_33770878的博客 399

Hadoop Yarn 安装

为了构建基于Yarn体系的Spark集群,先要安装Hadoop集群,为了以后查阅方便记录了我本次安装的具体步骤。

zlcd1988的专栏 4950

通过编写一个YARN Application 来了解Hadoop YARN

YARN是Hadoop中的一个cluster资源管理系统。 MapReduce 就是泡在YARN 之上的,其关系如下图, MapReduce 通过YARN 在cluster内申请内存和cpu资源,YARN执行MapReduce Task.   最近学习了YARN, 从部署的角度YARN支持三种调度器:FIFO, Capacity 和 Fair。 从开发应用程序的角度,实现一个YA

trumanz的博客 5154

yarn(cdh)中的虚拟cpu和内存

YARN同时支持内存和CPU两种资源的调度,默认只支持内存,如果想进一步调度CPU,需要自己进行一些配置。 什么是虚拟cpu 目前的CPU被划分成虚拟CPU(CPU virtual Core),这里的虚拟CPU是YARN自己引入的概念,初衷是,考虑到不同节点的CPU性能可能不同,每个CPU具有的计算能力也是不一样的,比如某个物理CPU的计算能力可能是另外一个物理CPU的2倍,这时候,你可以通过为第一个物理CPU多配置几个虚拟CPU弥补这种差异。用户提交作业时,可以指定每个任务需要的虚拟CPU个数。 内存

zjjcchina的博客 1183

【天线与电波传播】电波传播部分 第7章 电波传播的基础知识3

菲涅尔区与菲涅尔带的基本知识

Chen59_2328的博客 1601

cdh6.2 yarn参数优化小记录(记录中)

一、闲扯 最近离线行车日志数仓,项目即将基于Lambda架构形式,实时基于flink框架,离线批处理基于 HiveOnSpark。中期基于这个机构。最后版本定位FlinkSQL 批流一体化。 测试环境基于阿里云搭建的CDH。目前准备跑一下测试的flin实时作业和spark作业。内存有限,所以做了相关调整。略记录一下 二、正题 1、yarn.nodemanager.resource.memory-mb 表示该节点上YARN可使用的物理内存总量,默认是8192(MB),注意,如果你的节点内存资源不够.

永青技术博客 1535

极具性价比的步进电机驱动芯片-TMC2226/TMC2209使用小结

TMC2226/2209相对于TMC2660C、TMC5160来说,价格低了很多,同时功能并没有太多阉割。对比TMC5160,少了内部加减速曲线,电流足够(Ipeak = 2.8A),相对5160而言功能也很足够,所以毫无疑问TMC2226是极具性价比的步进驱动芯片。

Trinamic_TMC的博客 7009

对接萤石平台调用播放

萤石api 管理 · 萤石开放平台API文档 httpclient pom <dependency> <groupId>org.apache.httpcomponents</groupId> <artifactId>httpclient</artifactId> <version>4.5.2</version> </dependency> package com.ruoyi...

u011799016的博客 1773

Yarn 的虚拟内存是什么意思

Hadoop YARN同时支持内存和CPU两种资源的调度,默认只支持内存,如果想进一步调度CPU,需要自己进行一些配置。 目前的CPU被划分成虚拟CPU(CPU virtual Core),这里的虚拟CPU是YARN自己引入的概念,初衷是,考虑到不同节点的CPU性能可能不同,每个CPU具有的计算能力也是不一样的,比如某个物理CPU的计算能力可能是另外一个物理CPU的2倍,这时候,你可以通过为第一个物理CPU多配置几个虚拟CPU弥补这种差异。用户提交作业时,可以指定每个任务需要的虚拟CPU个数。 内存资.

h952520296的博客 1742

联邦学习模型投毒研究进展

在联邦学习中,多个设备(如移动设备、IoT设备等)本地训练模型,然后将更新的模型参数上传到服务器进行聚合。

2401_82375734的博客 1266

Hadoop入门学习笔记——四、MapReduce的框架配置和YARN的部署

hdfs://8020/output/wc 表示参数2,在本程序中是统计结果输出的文件夹,这里写明了hdfs协议头,指明了是HDFS文件系统的路径(经测试,不写也可以,默认读取HDFS文件系统路径),hdfs://node1:8020/input/ 表示参数1,在本程序中是待统计的文件夹,这里写了hdfs协议头,指明了是HDFS文件系统的路径(经测试,不写也可以,默认读取HDFS文件系统路径);mapreduce.map.env 表示Map HOME的路径,这里设置为HADOOP_HOME相同路径;

faith306 3066

14、网络切片技术:原理、应用与挑战

本文详细探讨了网络切片技术的原理、应用场景及其在5G网络中的重要性。网络切片作为一种关键的网络架构技术,能够在同一物理网络上创建多个独立的逻辑网络,以满足不同应用对安全性、可靠性和性能的多样化需求。文章深入分析了网络切片在5G、SDN/NFV等技术背景下的发展与挑战,并探讨了其在制造业、交通运输、零售等多个行业的实际应用。此外,还介绍了网络切片的部署流程、未来发展趋势以及相关技术难点,为读者全面了解网络切片技术提供了有价值的参考。

palm99的专栏 254

QT使用libssh2库通过密匙实现sftp协议上传文件

qt下使用libssh2通过密匙连接sftp服务器端

小米的修行之路 942

Hadoop Yarn配置参数整理(非常全面)

RM与NM相关参数 ResourceManager 参数名称 作用 默认值 yarn.resourcemanager.address ResourceManager 对客户端暴露的地址。客户端通过该地址向RM提交应用程序,杀死应用程序等。 ${yarn.resourcemanager.hostname}:8032 yarn.resourcemanager.scheduler.address ResourceManager 对ApplicationMaster暴露的访

guanyi的博客 5878

044.树莓派4B部署YOLO:从系统烧录到模型运行

《树莓派4B部署YOLOv8实战笔记》摘要:本文详细记录了在ARM架构树莓派4B上部署YOLOv8的全流程。关键点包括:必须使用64位系统并手动编译OpenCV(禁用FFMPEG、开启NEON优化);模型需在x86转换为TFLite格式(分辨率不超过320×320);推理代码使用tflite_runtime替代TensorFlow以减少内存占用;针对USB摄像头卡顿、内存泄漏等典型问题给出了解决方案。

2603_95664987的博客 169

【第二站】本地hadoop集群配置yarn模式

本文详细介绍了在Hadoop集群中配置YARN的步骤:1)前提准备包括节点免密登录、环境变量配置和HDFS正常运行;2)核心配置涉及修改yarn-site.xml(定义ResourceManager地址、资源管理等)、mapred-site.xml(MapReduce对接YARN)和workers文件;3)同步配置文件到所有节点并开放相关端口;4)启动顺序为HDFS→YARN→作业历史服务器(可选),最后通过jps命令和WebUI(8088端口)验证服务状态。文中还提供了详细的XML配置示例和目录权限设置说

qq_40607631的博客 1617

多智能体强化学习MATD3算法完整复现与分析

多智能体强化学习MATD3算法复现与分析摘要 MATD3算法是多智能体深度强化学习领域的重要进展,通过改进MADDPG算法,引入双Q学习、延迟策略更新和目标策略平滑等技术,显著提升了算法稳定性。本文完整复现了MATD3算法,详细解析了其数学原理,包括部分可观测马尔可夫博弈模型和TD3核心思想。在实现层面,设计了集中式Critic和分布式Actor的神经网络架构,采用PyTorch框架构建了Actor-Critic网络模块,包含精心设计的权重初始化和训练流程。该算法有效解决了多智能体环境中的非平稳性、信用分配

max500600的博客 529

IDEA的使用指南

IDEA基于java的使用手册,可以最快速的上手,在使用中不断的丰富自己的使用技巧.

Hadoop集群配置、启动YARN

本篇在 Hadoop集群启动HDFS 的基础上继续配置   YARN启动: 配置mapred-site.xml(复制mapred-site.xml.template配置模板生成mapred-site.xml): cp /usr/local/hadoop/hadoop-2.9.2/etc/hadoop/mapred-site.xml.template /usr/local/hadoop/hadoop-2.9.2/etc/hadoop/mapred-site.xml vim /usr/local/h

BWone的博客 2399

温度PID控制PLC程序

温度PID稳定控制程序,适用于欧姆龙PLC,对其他PLC也具有很大参考价值

Hadoop生态之Yarn

大数据岗位必问面试题,关于资源调度器yarn的使用以及执行流程

h123456789999999的博客 1520

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

linux下安装、配置hadoop、在yarn上运行jar包

linux下安装、配置hadoop、在yarn上运行jar包,配置MapReduce历史服务器MRHistoryServer、 配置YARN日志聚集功能 上传解压 配置HAPDOOP 1、上传解压 赋予hadoop-2.7.3.tar.gz执行权限 $ chmod u+x hadoop-2.7.3.tar.gz 解压到指定目录 $ tar -zxf hadoop-2....

liyongshun_123的博客 7896

Hadoop-Yarn学习

Yarn学习 0x01 概述 Yarn全名Yet Another Resource Negotiator,即资源协调/管理者,在Hadoop2中引入。 1.1 Yarn是什么 Yarn,英文全名是 Yet Another Resource Negotiator,是由雅虎开发的第二代集群资源调度器。查看论文点这里。Yarn在大数据体系中的示意图如下: 而应用层在Application层之上,如Hi...

迷路剑客个人博客 2149

hadoop之YARN的Memory和CPU调优配置详解

转载:http://blog.itpub.net/30089851/viewspace-2127851/,部分内容讲解并不适合最新的hadoop版本,但可以借鉴学习。   Hadoop YARN同时支持内存和CPU两种资源的调度,本文介绍如何配置YARN对内存和CPU的使用。 YARN作为一个资源调度器,应该考虑到集群里面每一台机子的计算资源,然后根据application申请的资源进行分配...

君永夜 4461

Hadoop 教程 - Yarn核心参数配置案例

在Hadoop YARN的生产环境中,合理配置核心参数对于优化资源管理、提升作业执行效率和保障集群稳定性至关重要。

qq_33240556的博客 847
上一篇: Hadoop学习之YARN(YARN常用命令)心得
下一篇: Hadoop学习之YARN(Tool接口案例)心得
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

顺其自然的济帅哈

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值