通过http端口获取hadoop集群的active node

HDFS-HA集群中客户端如何找到Active NameNode Hadoop2.0中,HDFS实现了HA,具体实现及原理请网上搜索。其中HDFS的配置包含以下几个必须参数: <property> <name>dfs.nameservices</name> <value>cdh5</value> <description>指定HDFS的命名服务,一般和fs.defaultFS中的autho... 阅读详情

最近部门合并,两个部门的集群需要同步到一起,自然用的是【distcp】,因为两个集群的版本不一致,用hdfs可能会有问题,所以通过http端口来传输。因为两个集群都配置了HA,无法确定什么时候哪个name node处于active状态,所以需要先每次传输前先获取active node。

方式是通过JMX来获取集群信息。
解析返回的json,获取到active node后退出,开始传输数据。

#!/bin/sh
    
namenodes="
192.168.2.103
192.168.2.101
"

for nn in $namenodes
do
        echo "node: $nn"
        status=`curl "http://${nn}:50070/jmx?qry=Hadoop:service=NameNode,name=NameNodeStatus"`
        if [[ $? -eq 0  ]]
        then
                state=`echo $status | jq '.beans'[0] | jq '.State' | sed 's/"//g'`
                echo "state: ${state}"
                if [[ "active" == ${state} ]]
                then
                        activeNode=$nn
                        break
                fi
        elif [[ $? -eq 1  ]]
        then
                echo "Error: can not conncet to host"
        else
                echo "Error $?"
        fi
done

echo "active: ${activeNode}"

返回的json格式

Hadoop集群手动部署与分布式扩展实战指南 Hadoop是典型的分布式文件系统与计算框架,其核心在于HDFS的分布式存储原理和YARN的资源调度机制。理解NameNode元数据管理、DataNode心跳注册、块复制策略及容错设计,是构建高可用大数据基础设施的技术基础。本文聚焦真实物理环境下的Hadoop 3.3.6集群搭建,涵盖CentOS 7.9系统适配、核心配置文件调优(如hadoop.tmp.dir安全路径、dfs.replication动态设置)、YARN内存模型精调(memory-mb与java.opts协同),以及从3节点到12节点的平滑 阅读详情

相关推荐

Hadoop集群搭建与扩展实战:从伪分布到生产级十节点

Hadoop是一个开源的分布式计算框架,核心包含HDFS分布式文件系统和YARN资源调度器。其运行原理依赖Linux底层机制、JVM内存管理、进程间RPC通信及Quorum一致性协议。掌握Hadoop集群搭建与扩展,关键在于理解配置项间的强依赖关系(如yarn.nodemanager.resource.memory-mb与yarn.scheduler.maximum-allocation-mb的数值约束)和分布式系统三大瓶颈(存储扩展、计算调度、网络连接)。这些技术价值直接支撑大数据批处理、日志分析、ETL

weixin_34050005的博客 354

Hadoop集群部署实战:版本选择、配置陷阱与生产级稳定性保障

Hadoop不是单一软件,而是由HDFS、YARN等组件构成的分布式协作机制。其核心原理在于元数据高可用(NameNode HA)、数据块冗余存储(DataNode+副本策略)与资源协同调度(ResourceManager+NodeManager)。技术价值体现在PB级低成本存储、批流一体底座能力及企业级权限治理(Kerberos)支撑。典型应用场景包括金融风控数据湖、电商用户行为分析、物流轨迹离线计算等对稳定性、一致性和可扩展性要求严苛的生产环境。本文聚焦真实部署中Java版本兼容性、fs.default

dienangpiao2051的博客 433

Flink 集群在 Kubernetes 上的部署与运维

本文介绍了Docker国内镜像地址和Kubernetes(K8s)基础命令,重点讲解了在K8s上部署Flink集群的完整流程。内容包括:1)Docker国内镜像源;2)K8s常用命令(资源查看、创建/删除、日志检查等);3)Flink集群部署步骤,涉及PV/PVC创建、资源配置参数优化(内存、CPU、Slot数等);4)通过HAProxy实现Flink服务负载均衡;5)多套Flink集群隔离部署方案(使用K8s Namespace和独立存储)。特别强调了持久化存储配置和NodePort端口规划的重要性,确保

tian_jiangnan的博客 388

Hadoop伪分布式环境从零搭建与实战排错指南

Hadoop是一个基于Java的分布式计算框架,其核心由HDFS(分布式文件系统)和YARN(资源调度器)构成,支撑MapReduce等计算模型运行。理解组件间协同原理——如NameNode与DataNode的元数据管理、ResourceManager与NodeManager的资源分配契约——是稳定部署的前提。技术价值在于提供高容错、可扩展的大数据存储与计算能力,广泛应用于日志分析、ETL、实时数仓等场景。而伪分布式模式作为本地验证集群行为的关键路径,既能规避单机模式对网络和权限机制的屏蔽,又无需多节点硬件

weixin_34208185的博客 413

ensp VRRP+MSTP综合性实验

网络结构拓扑图 实验要求 要求: 1、全网互通,IP地址任意规划,路径最优,无环路。 2、AR1上面有一个loopback口,ip地址为1.1.1.1/24, 要求所有电脑能访问。 3、vlan10通过LSW1访问1.1.1.1,当LSW1出现问题即使 g0/0/1故障亦能通过lsw2访问。 vlan30通过LSW2访问1.1.1.1,当LSW2出现问题即使 g0/0/1故障亦能通过lsw1访问。 4、LSW1为vlan10的主根,vlan30的备根。 LSW2为vlan30的主根,vlan1

qq_45631844的博客 1万+

Anolis 8系统下,手把手搞定Nginx、Redis、JDK8和Tomcat9的完整安装与配置(含开机自启)

本文详细介绍了在Anolis 8系统下搭建Java Web全栈环境的完整流程,包括JDK8、Tomcat9、Nginx和Redis的安装与配置,并实现系统级服务管理。通过深入每个组件的配置细节,揭示服务间的协同关系,最终打造一个生产级可用的标准化环境。

weixin_42556197的博客 158

CAN总线错误帧全解析:从数据包到硬件层的故障树分析

本文深入解析CAN总线错误帧的故障树分析方法,从数据包到硬件层全面剖析错误机制。通过物理层信号测试、数据链路层错误解码和应用层协议排查,提供系统化的诊断框架。结合CANoe配置和示波器波形分析,帮助工程师快速定位总线故障,提升系统可靠性。

weixin_26742753的博客 488

【水下小目标检测】SWIPENet与样本重加权:应对模糊与噪声的深度学习策略

本文深入探讨了水下小目标检测的挑战与解决方案,重点介绍了SWIPENet网络架构与IMA样本重加权算法。通过空洞卷积模块、特征金字塔重构和多尺度预测机制,SWIPENet有效提升了模糊目标的检测精度。结合Invert Multi-Class Adaboost算法,系统性地解决了水下环境中的样本不均衡问题,在URPC数据集上实现了48.8%的mAP,特别适合海洋生物检测等应用场景。

weixin_29057163的博客 344

从零搭建ROS机械臂仿真环境:Ubuntu 20.04+Noetic下配置睿尔曼RM65的完整流程

本文详细介绍了在Ubuntu 20.04系统中,基于ROS Noetic搭建睿尔曼RM65机械臂的完整仿真环境。从环境准备、工作空间创建到MoveIt!配置与Gazebo仿真环境集成,提供了完整的流程和优化建议,帮助开发者高效实现机械臂仿真与调试。

v6b7n8m9q0的博客 933

LVGL实战 透视卡盘

八张卡立在一个圆柱面上,摄像机在柱心前方。每帧对屏幕上的每个像素发一条射线,与卡片所在平面求交,得到三维交点,再投影回卡片自己的二维坐标系取样。透视、倾斜、近大远小、相互遮挡 —— 全部是这一步的副产物。

摸鱼专家 53

YOLOv8 超参数调优教程! 使用Ray Tune进行高效的超参数调优!

YOLOv8超参数调优教程!😎 使用Ray Tune进行高效的超参数调优!

Coding... 1万+

Python爬虫实战:Boss直聘职位数据采集实战 - Playwright + 结构化解析完整方案(附CSV导出 + SQLite持久化存储)!

我长期专注 Python 爬虫工程化实战,主理专栏 《Python爬虫实战》:从采集策略到反爬对抗,从数据清洗到分布式调度,持续输出可复用的方法论与可落地案例。内容主打一个“能跑、能用、能扩展”,让数据价值真正做到——抓得到、洗得净、用得上。

喵手的博客 2185

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

上一篇: centos6编译安装json工具 jq1.5
下一篇: CDH5.14安装spark2
kyle0349
博客等级 码龄14年 39粉丝 31原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值