Ambari

Ambari Metrics(相关API,底层数据库,widget等) Ambari Metrics系统(AMS)是用来收集、聚合Hadoop集群中监控信息的。 功能 能够收集Hadoop及其他Ambari Stacks服务里的Metrics信息; 有一定的存储能力,能够将高精度的Metrics信息保存一段时间(例如能够保存5天内的Metrics信息,时间可配置); 能够将过期的Metrics信息自动清理掉; 在collection time,... 阅读详情

转载自
https://www.jianshu.com/p/dc73d9d03823
有部分补充和改动

Ambari 主要分为三部分:

  • Server
     内含ambari-server(java/shell/python)、ambari-web(js/html)、ambari-admin(js/html)三个子项目

  • Ambari-Agent
     * ambari-agent(python)项目*

  • Ambari-Metrics
     又称AMS(Ambari-Metrics-System),内含ambari-xxxx-sink(java)、ambari-metrics-collector(java)、ambari-metrics-monitor(java)等
    –Ambari架构图–
    在这里插入图片描述

  • 心跳机制
      ambari-server和ambari-agent是通过ambari-agent定期发送post请求上报agent所在主机的状态,ambari-server在接收到ambari-agent上报的状态后,给ambari-agent返回应该在这台主机上执行的指令,这样一次完整的流程就是一次心跳,通过心跳完成主从交互的这种机制就是心跳机制

  • Server
    此Server 并不是代码层面的的Ambari-Server,而是站在业务的角度来看,server 将集群的状态通过web UI 或RESTAPI的形式呈献给用户,也是通过这两种形式将用户的指令(比如stop namenode、start datanode)下发到集群,从而完成用户与hadoop集群的交互。server 从代码层面由三个项目组成:ambari-server、ambari-web、ambari-agent。也就是说在将ambari项目打成rpm包时,这三个项目会汇总到一个名字叫ambari-server-xxxx.rpm包中。

用户和集群的交互流程

在server安装、配置完成并启动后,用户通过浏览器访问server,在地址栏输入的url是由ambari-web(以后简称web)模块响应请求,web端又调用ambari-server 的rest api获取数据显示在浏览器页面上。当用户想要通过浏览器操作集群(stop、start某些组件)时,由web端向ambari-server发送post或put请求,ambari-server 接收到请求后通过心跳机制,向ambari-agent(以后简称agent)发送指令,最后由agent执行shell或python脚本来完成。

显示在浏览器上的数据来源

浏览器页面上显示的数据根据时间状态可以分为两种类型。一种是集群内各服务的实时状态信息,这类数据是由AMS模块实时采集上报给Ambari-Metrics-Collector,再由Ambari-Server调用ambari-metrics-collector的REST API显示在页面上。这部分数据没有落地到ambari-server 的数据库中,在每次web端调用ambari-server的数据时,ambari-server都会调用ambari-metrics-collector获取数据,进行适当的加工处理后直接返回给web端 显示在浏览器页面上。
还有一种由ambari-server缓存在内存,持久化到数据库的数据,这类数据比如主机列表、服务列表、服务的配置信息等。这些数据是由agent采集通过心跳发送给ambari-server后,ambari-server更新自身的数据状态。当web端调用ambari-server的rest api获取这些数据时,ambari-server将web端请求的数据直接返回给web显示在浏览器页面。

Ambari-Agent

ambari-agent 是由Python语言开发,负责对集群内主机状态的采集以及执行ambari-server发来的指令,将执行结果上报给ambari-server。ambari-agent虽然是离hadoop集群最近的一个模块,但是它不保存集群的任何状态信息,完全听命于ambari-server。

Ambari-Metrics(AMS)

AMS是ambari内部一个比较完整的系统,全权负责集群内各组件状态信息的采集。
在这里插入图片描述
在这里插入图片描述

AMS 也是一个 Master-Slave 结构的框架。Master 模块便是 Metrics Collector,Slave 则是 Metrics Monitor 和 Hadoop Sinks。Slave 模块负责收集信息,并发送给 Collector。默认安装时Ambari Metrics为embedded模式,这样收集的所有数据是存放在Collector节点的本地的,大量的Metrics数据会挤占大量的本地存储空间,该为分布式模式后Metrics数据会放置到HDFS上,所以通常这是安装Ambari后必备一个操作。
当然 Metrics Monitor 和 Hadoop Sinks 也有不同的职责,前者主要负责收集机器本身相关的指标,例如 CPU、Mem、Disk 相关信息;后者则负责收集 Hadoop 相关 Service 模块的性能数据,例如该模块Namenode占用了多少 Mem,以及该模块的 CPU 占用率等。

Ambari源码分析(一):Ambari架构 ambari-cwiki https://cwiki.apache.org/confluence/display/AMBARI/Ambari ambari-github https://github.com/apache/ambari Ambari系统架构 除了ambari-server和ambari-agent,ambari还提供一个界面清亮的管理监控页面amb 阅读详情

相关推荐

ambari部署hadoop

ambari搭建hadoop集群为何选用ambari安装前准备部署节点间做免密登陆搭建nginx服务创建repo源安装mysql 服务安装ambari服务启动ambari服务登陆ambari-ui 配置 为何选用ambari Ambari是Apache Software Foundation中的一个顶级项目,它可以创建、管理、监视Hadoop整个生态圈(例如Hive,Hbase,Sqoop,Zookeeper等)的集群,使得Hadoop以及相关的大数据软件更容易使用。 Ambari本身是一个分布式架构的软件

hello_world_99的博客 3703

深入Ambari Metrics 机制分析

0.简介  Ambari作为一款针对大数据平台的运维管理工具,提供了集群的创建,管理,监控,升级等多项功能,目前在业界已经得到广泛使用。Ambari指标系统( Ambari Metrics System,以下简称AMS)主要负责监控平台各类服务及主机的运行情况,提供各类服务及主机的相关指标,从而达到判断集群健康情况的目的,其重要性不言而喻。 本文是在深入阅读AMS源代码的基础之上,力求能够

江河万川 9156

ambari-server的离线安装

ambari-server的安装 1、机器环境 centos 6 2、准备好两个文件 /etc/yum.repos.d/ambari.repo和/etc/yum.repos.d/hdp.repo $cat ambari.repo #VERSION_NUMBER=2.2.2.0-460 [Updates-ambari-2.2.2.0] name=ambari-2.2

tracymkgld的专栏 5032

Ambari Metrics 详解

Ambari 作为一个出色的集群管理软件,为第三方服务提供了丰富的功能。其中 Ambari Metrics System 为第三方服务以及集群机器提供了性能相关的监察功能。本文主要讲解 Ambari Metrics 框架的原理,以及如何集成该系统与第三方服务。 Ambari 现状 Ambari 最新的发行版已经到了 2.2.1 的版本,提供了更多的管理功能,例如在 2.2 的版本中支持了 Ex...

mnasd的博客 3015

Hortonworks公共资源库 安装Ambari

Ambari 安装配置和启动

狮锅艺 2714

Ambari源码编译

Ambar为Apache基金会的一个顶级项目。作为一个为Hadoop系统提供一站式维护的工具,ambari支持通过web页面/RestfulApi的方式进行对集群的一键部署,最重要的是可以自己编写部署脚本部署自己的分布式系统。这个是富有价值的,现在有的公司使用的是自研的分布式框架,想要自动部署大多也是自研一套分布式框架。现在Ambari的出现,缓解了这个问题,用户只需要使用python按照规则编写

韩小侠的专栏 已迁移至lssea.com 7834

【Ambari】Build and install Ambari 2.7.5

文章目录环境准备1. download and build1.1 download1.1.1 下载源码包(清华镜像)1.1.2 mvn versions:set -DnewVersion=2.7.5.0.01.1.3 pushd ambari-metrics1.1.4 mvn versions:set -DnewVersion=2.7.5.0.01.1.5 popd1.2 build1.3 bui...

人生所向,皆是美好 1万+

【Ambari】ambari metrics 启动报错hbase-xxx-master.pid doesn‘t exist

文章目录问题描述解决办法 问题描述 在ambari启动ambari-metrics总是报错:resource_management.core.exceptions.Fail: Pid file /var/run/ambari-metrics-collector//hbase-ocdp-master.pid doesn't exist after starting of the component....

人生所向,皆是美好 4020

【Ambari】HDFS基于Ambari的常规运维

它负责安装软件、配置、启动和停止服务,以及管理在集群运行的服务。下面介绍服务相关的管理和运维操作,我们只对HDFS这一个组件的操作进行说明,YARN、HBase等组件操作基本类似,下面我们介绍两种常用的操作:服务重启和配置添加。在“HDFS”服务主页面上,将鼠标移至HDFS框的右上角“Action”,出现下拉菜单,您可以点击菜单栏中的选项启动、停止、删除该HDFS服务。对于HDFS、HBase、YARN等服务组件,我们上面只列举了重启和配置修改等操作,更多的复杂操作建议联系大数据工程师完成。

康师傅没有眼泪 4806

ambari平台的搭建过程

部门老大要求搭建一个四台服务器组成的hadoop集群,做一些小中型数据集的数据处理工作。 赶鸭子上架,尝试了一下ambari平台的一键式安装,感觉很方便,来分享一下过程。 第一篇博文,不足之处,望大家包含。 需要的软件和硬件: 1.三台ubuntu12的虚拟机 2.HDP-2.4.0.0-ubuntu12-deb.tar.gz 3.ambari-2.2.1.0-ubuntu

一个IT小P民的成长史 4498

Ambari Metrics 服务器详解

它使用 Apache Hadoop 的 Hadoop Metrics2 框架来收集和汇总指标数据,并提供 RESTful API 和 Web 用户界面,以便用户可以方便地查看和分析指标数据。通过配置和启动 Metrics 服务器,并使用提供的 API 和界面,管理员和开发人员可以方便地收集、存储和分析集群的指标数据,以便及时发现和解决潜在的性能问题。它提供了一个完整的解决方案,用于收集、存储和可视化集群的性能指标,以便帮助管理员和开发人员监控集群的健康状况和性能。如果你有任何进一步的问题,请随时提问。

GnabVue的博客 488

Ambari学习笔记-迁移ambari-server

1 停止ambari-server服务 # ambari-server status Using python /usr/bin/python Ambari-server status Ambari Server running Found Ambari Server PID: 25164 at: /var/run/ambari-server/ambari-server.pid # amb...

snipercai的博客 1954

【ambari】Ambari Rest api 使用

最近由于项目的需要在看一些Ambari的api去获取集群的一些信息,获取集群节点的状态信息以及各个服务和组件的信息。然后在我们的数据服务管理平台上去做一些监控运维,现在把一些使用总结一下: 官网rest api地址: https://cwiki.apache.org/confluence/display/AMBARI/ ambari api使对Hadoop集群资源的管理和监控更加便利。文档描述了ambari api的资源和语法,以方便于加入ambari的开发者。 (1)认证和授权 您执行的关于ambari.

九师兄 817

ambari安装配置

本地源yum方式下Ambari的安装与配置 1、            准备工作 1.1注意 接下来的内容默认是在设备的基本配置正确的前提下进行的,具体配置如下: a)        机器已经正确安装统一的centos系统(最好提前装好jdk、httpd等) b)        机器正确修改了主机名以及主机名与ip的映射 c)        机器之前配置了ssh免密码登陆 d)   

zx8167107的博客 8883

AmbariMetrics详解.docx

AmbariMetrics详解,详述AmbariMetrics概念,以及API接口,技术架构等

ambari-metric-producer:测试程序以将指标发送到Ambari Metrics Collector

压制生产者 测试程序以将指标发送到Ambari Metrics Collector 快速开始 mvn clean install java -jar target/amabri-metric-producer-1.0-SNAPSHOT.jar 默认参数是: 指标收集器URL- 度量标准数-100 度量之间的延迟-5000毫秒 通过将URL NUM_METRICS DELAY传递给main方法来覆盖这些参数。

Ambari安装_配置本地Ambari+HDP的yum源

1.安装yum相关工具 yum install yum -utils -y yum repolist yum install createrepo -y 2.安装Apache httpd 使用yum在线安装httpd yum install httpd -y 3.安装完httpd后,会生成 /var/www/html 目录(相当于Tomacat的webapps目录). 进入到 /var/www...

ningyunrui的博客 2228

实战演练,如何用Easyexcel合并单元格,设置字体、边框样式,并在尾行加入备注

,实现效果如下:1、多级表头合并2、表头底纹+表格边框3、合并相同数据单元格4、尾行加入备注。

Su7148的博客 1万+

ambari源码分析 -----ambari-server启动流程

1、ambari的启动脚本为:service ambari-server start 或者 ambari-server start。分别对应脚本文件/etc/init.d/ambari-server 和 /usr/sbin/ambari-server,其中/usr/sbin/ambari-server文件是一个快捷方式,指向/etc/init.d/ambari-server。脚本文件/etc/init.d/ambari-server。

wjandy0211的博客 1361

KEIL 5.38如何手动安装ARM Compiler V5?完整配置流程分享

本文详细介绍了在KEIL 5.38环境下手动安装和配置ARM Compiler V5(AC5)的完整流程,解决历史遗留项目的兼容性问题。从获取安装包、环境变量设置到KEIL集成配置,逐步指导开发者完成AC5的部署,并提供了常见错误排查和性能优化建议,帮助开发者高效维护基于C编译器的老项目。

weixin_29168813的博客 628

最优化理论与自动驾驶(三):LQR原理、公式及代码演示

LQR 是基于线性系统和二次型代价函数的最优控制方法,在实际工程应用中,我们一般采用离散时间系统的LQR设计,其目标是通过设计反馈控制律,使系统在离散时间步长内稳定运行,最小化某个二次型代价函数。给定一个离散时间系统,其状态和控制输入通过以下方程表示:是时刻k的系统状态,是时刻k的控制输入,是状态转移矩阵,是输入矩阵。系统描述的物理意义:系统状态通过矩阵A演变到下一时刻,同时控制输入通过矩阵B影响系统的状态。

a8598671的博客 4595
上一篇: java agent的简单使用/基于java agent的完全无侵入的监控系统
下一篇: 计算机科学——柯里化
define_us
博客等级 码龄14年 157粉丝 531原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值