大数据运维
大规模Hadoop集群运维
zl@word_id
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
CDH集群关闭和启动
关闭集群关闭集群所有组件关闭Cloudera Management Service关闭cdh所有客户端节点sudo /opt/cm-5.3.2/etc/init.d/cloudera-scm-agent hard_stop_confirmed关闭cdh所有服务端节点sudo /opt/cm-5.3.2/etc/init.d/cloudera-scm-server stop启动集群启动服务端sudo /opt/cm-5.3.2/etc/init.d/clouder原创 2020-11-12 10:12:43 · 1133 阅读 · 0 评论 -
YARN体系结构、原理、运行机制
YARN体系结构、原理、运行机制(1)- 简介ResourceManager(RM)全局的资源管理器,负责整个系统的资源管理和分配,它带了FIFO、Capacity Schedule、Fair Schedule三种常用调度器NodeManager(NM)每个节点上的资源和任务管理器,定时地向RM汇报本节点上的资源以及使用情况和各个Container的运行状态,接收并处理来自AM的Container启动/停止等各种请求。ApplicationMaster(AM)用户提交的每个应用程序均包含一个原创 2020-07-05 17:17:19 · 1087 阅读 · 0 评论 -
HDFS体系结构、原理、运行机制
HDFS体系结构、原理、运行机制(一)-简介Namenode:维护着整个文件系统的文件目录树,文件/目录的元信息和文件的数据块索引,即每个文件对应的数据块列表;接收数据节点的注册、心跳、数据块提交等信息上报,发送数据块复制、删除、恢复等名字节点指令DataNode:将HDFS数据块写到Linux本地文件系统的实际文件中,并不断将当前存储的数据块(block)报告给namenode,并接收namenode的指令来创建、删除、移动本地磁盘的数据块。Block(数据块):一个文件是被切分成多个Block原创 2020-07-05 16:44:36 · 583 阅读 · 0 评论 -
大数据运维职责及架构图
原创 2020-07-05 15:39:47 · 1357 阅读 · 0 评论
分享