用Shell脚本过滤Hadoop中不能访问的节点

Hadoop集群环境搭建(我这里是搭建的一个主节点,两个从节点) hadoop集群弄得我心力交瘁,终于弄好后决定记录一下。(以下步骤仅供参考) 一、首先,需要准备的东西(基于电脑是64位的) 1.虚拟机VMware12以上(我这里用的是VMware14) 下载链接:https://pan.baidu.com/s/1mx7913tXtVz57Ywi_gYh5A 提取码:87am 2.Linu系统CentOs6.4以上(我这里用的是Centos6.... 阅读详情

最近使用的一个集群hp1,因为维护集群的人不给力,节点总是过一段时间就掉一两个。今天发现重启hadoop时,HDFS已经进入保护模式了。

决定把slaves节点中的无法访问的节点全部过滤掉,所以写了一个小脚本,在这里记录一下,以后方便直接拿来使用。

PS:用C Shell编写的

代码如下:

#!/bin/csh
if ( $#argv < 1 ) then
	echo "Usage: $0 host_file"
	exit 1
endif
set NODES = `cat $1`
foreach NODE ( $NODES )
	ping -q -c 1 $NODE > /dev/null
	if ( $? == 0 )	then
		echo $NODE
	endif
end

顺便附带一个ssh检查的脚本:

#!/bin/csh
set nodes = `cat slaves`
foreach i ( $nodes )
	echo $i
	ssh $i exit
end


Cadence PCB设计实战:地孔优化与后期处理全流程解析 本文详细解析了Cadence PCB设计中地孔优化与后期处理的全流程,包括地孔设计基础、盲埋孔实战技巧、后期处理核心要点以及钻孔文件生成秘籍。通过具体参数设置和实用技巧,帮助工程师提升PCB设计的信号完整性和可制造性,特别适合需要处理复杂多层板的设计师参考。 阅读详情

相关推荐

编写shell脚本——一键启动hadoop集群

编写脚本为了方便使用hadoop集群 前提:搭建好一个完整的hadoop集群 创建一个存放脚本的目录 这里创建了一个bin目录来存放脚本文件 [hadoop@node01 ~]$ cd [hadoop@node01 ~]$ mkdir bin [hadoop@node01 ~]$ pwd /home/hadoop [hadoop@node01 ~]$ cd /home/hadoop/bin/ 在node01下创建脚本 脚本内容入下 #!/bin/bash case $1 in "start"

A_Little_Fish_的博客 2439

大数据之Hadoop集群

综上所述,Hadoop集群是一个强大的分布式计算平台,用于处理和分析大规模的数据集。它由多个计算节点组成,通过分布式存储和计算实现数据的高效处理。Hadoop是一个开源的大数据处理框架,最初由Doug Cutting和Mike Cafarella开发,旨在处理和分析大规模的数据集。MapReduce是Hadoop的分布式计算框架,它允许程序员在不了解分布式系统底层细节的情况下,编写处理大规模数据的程序。Hadoop集群是由多台计算机(节点)组成的一个分布式计算系统,主要用于处理大规模的数据集。

赵玉的专栏 2070

Hadoop | 集群配置(一)使用Shell脚本解决完全分布式集群节点之间的文件传输问题 | scp命令 | rsync命令

文章目录参考资料一、前言二、rsync 远程同步工具三、使用 shell 编写分发脚本四、总结 参考资料 视频链接 Linux scp命令 一、前言 在Hadoop完全分布式集群环境下,里面的各个节点都是通过 SSH免密登陆 连接的,比如现有三台集群节点,分别是 hadoop101、hadoop102、hadoo103。 hadoop101节点可以通过 ssh命令连接到hadoop102,即: ssh hadoop102 那么,除了远程登陆以外,还有其他的作用吗? 当然有的,比如远程传输文件:sc

希望每天都能进步一点点 1683

【大数据】【Hadoop】3、Hadoop系统的组成(Hadoop1.x)

文章目录前言名称节点(NameNode)辅助名称节点(Secondary NameNode)数据节点(DataNode)作业跟踪器(JobTracker)任务跟踪器(TaskTracker)两种类型节点主节点从节点:一、Hadoop分布式文件系统Hadoop 文件的本质是块存储二、文件元数据和名称节点三、辅助名称节点 前言 我们先介绍构成 Hadoop 1.x系统的组件,再介绍构成 Hadoop 2.x 系统的新组件。宏观上说,Hadoop 1.x 系统有以下几个守护进程: 名称节点(NameNode) 维

jts2015的博客 2562

HadoopHA高可用集群启动脚本

使用需要修改成自己的路径 用sh ./ha-start启动

Ansys Lumerical 2023 R1.2新功能实战:薄膜铌酸锂调制器仿真全流程解析

本文详细解析了Ansys Lumerical 2023 R1.2在薄膜铌酸锂电光相位调制器仿真中的最新功能与应用。通过实战演示,展示了从电极配置、电场计算到模式分析的全流程,重点介绍了各向异性介电常数支持和多物理场耦合优化等关键技术,助力开发者高效设计高性能光通信器件。

weixin_28454475的博客 1207

Hadoop 分布式群集安装

看一下这个图,图里面表示是三个节点,左边这个是主节点,右边的两个是从节点,hadoop群集是支持主从架构的. 不同节点上启动的进程是不一样的. 主节点进程: NameNode,Secondary namenode, ResourceManager 从节点进程: DataNode, NodeManager 环境准备:三个虚拟机 192.168.247.5 hadoop1 192.168.247.6 hadoop2 192.168.247.7 hadoop3 注意:每个节点的基础环境都...

woailyoo0000的博客 398

ensp企业网综合实验(课程设计)

使用MSTP+VRRP技术实现负载均衡以及增加网络的可靠性;出口配置napt;所有用户均为自动获取IP地址;

qq_50829760的博客 1万+

使用shell脚本安装hadoop高可用集群

文章目录一.创建一台虚拟机二.复制两台虚拟机三.启动集群四.脚本内容如下1.jdk2.hadoop和zookeeper 集群划分 192.168.56.120 hadoop01 192.168.56.121 hadoop02 192.168.56.122 hadoop03 QuorumPeerMain QuorumPeerMain QuorumPeerMain JournalNode JournalNode JournalNode NameNode NameNode NodeMana

sun_0128的博客 1万+

【问题解决】解决 Python `PermissionError` 权限不足:文件/进程/端口全场景修复

本文总结了Python程序中常见的权限问题及解决方案,包括文件、进程和端口权限错误。文件权限问题通常由文件占用、权限不足或路径错误引起;进程问题多因权限不足或系统限制;端口问题则与端口占用、防火墙或特权端口相关。解决方案提供了详细的代码实现:文件权限管理器类(FilePermissionManager)包含检查权限(check_permission)、修复权限(fix_permission)、安全写入(safe_write)和安全删除(safe_delete)等方法,通过异常处理和临时文件等技术确保操作安全

博客 358

QT如何使用CTK插件搭建应用程序框架?

CTK框架,QT框架,插件系统

cs821984831的博客 735

【Hadoop】集群启停脚本

这篇文章主要跟大家分享Hadoop集群启停脚本、jps脚本以及关机脚本,对脚本感兴趣的友友们也可以和我交流哦!

你不来,再美的天地,都狼藉 ~ 7万+

Xilinx FPGA平台GTX简易使用教程(汇总篇)

Xilinx平台GTX简易使用教程,先“知其然”,慢慢再研究“所以然”。

数字IC/FPGA杂货铺,找一找,或许有你想要的~ 3万+

使用shell脚本查看HADOOP集群节点状态

都知道hadoop查看节点状态使用的是jps命令,但是在shell脚本中,直接使用会提示:’bash: jps: 未找到命令‘,原因很简单:因为jps命令是位于jdk的bin目录下(hadoop基于java),执行shell脚本的时候,并不会读取/etc/profile文件,因此才会找不到。解决的办法有两种。在脚本里直接添加: /opt/jdk1.8.0_291/bin/jps 第二种: 执行shell脚本的时候,并不会读取/etc/profile文件,但是会读取/home/.bashrc这个文件,需

weixin_44328257的博客 2631

16、TFT-LCD 1.8寸显示屏使用

1.8寸TFT-LCD显示屏,简单来说就是用来显示东西的显示器,跟之前的oled1315显示屏的作用是一样的,今天我们就来使用TFT显示屏显示一些内容。1.8寸TFT-LCD显示屏,简单来说就是用来显示东西的显示器,跟之前的oled1315显示屏的作用是一样的,今天我们就来使用TFT显示屏显示一些内容。这块显示屏在淘宝就可以买得到,驱动版本是ST7735S,这里圈住,一会要考的。

繁星点点~ 6768

看完这篇你就能讲解LLC软开关:一文秒懂 ZVS 和 ZCS 到底啥意思!

想要 MOS 管ZVS 好实现➜ 把工作频率保持在 fr1 或更高。想让整流二极管也ZCS 实现➜ 频率就别高过 fr1。设计磁性元件时,一定要计算好 Lr、Lm、Cr 的值,这直接决定你 fr、fr1 是多少!LLC 的软开关技术不是“魔法”,是电感电容+频率控制的精妙组合;fr1 就像黄金分割点,整流和开关都能“刚刚好”;不是所有软开关都能同时实现,要看你在频率曲线的哪一段!

weixin_43199439的博客 1533

hadoop安装与配置-shell脚本一键安装配置(集群版)

本文介绍了在Hadoop集群中安装和配置Hadoop的过程。通过使用Shell脚本一键安装,我们下载了指定版本的Hadoop,并将其安装到指定目录。随后,我们配置了Hadoop的核心、HDFS、MapReduce和YARN等关键参数。最后,我们启动了Hadoop集群,并通过浏览器访问了HDFS和YARN的Web界面。通过本文的指导,您可以轻松地搭建和配置Hadoop集群,为大规模数据处理提供强大的分布式计算能力。

zcs2312852665的博客 1769

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

编写shell脚本启动hadoop集群

为了方便启动关闭hadoop集群,我们直接编写脚本,每次启动集群时运行脚本即可。

weixin_63600551的博客 573

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

大中型超市收银系统(可直接运行)

光步前台收银系统系统功能:商品销售、商品退货、挂单、收银员权限、会员销售、单品取消、整单取消、商品查询、脱机销售、脱机数据上传,基本资料下载,开钱箱、小票打印、收款结算,支持多币种付款方式(现金、储值卡、礼券、微信等),支持多种促销。运行环境:.net 4.0登陆信息用户名:1001 密码:123456内置商品信息,商品编码可输入00001000 - 00010000,测试效果相关功能键F5 结算 F9挂单 F11商品查询 F8退货 Insert单品取消 Del整单取消 F12开钱箱F2 会员 Ctrl+Z退出系统 Home 锁屏 相关源码待公开

shell脚本一键启动hadoop,zookeeper以及jps查看全部节点

话不多说,直接上脚本。 启动hadoop: #!/bin/sh #start hdfs echo "hdfs is starting..." ssh hadoop102 "/opt/module/hadoop-2.7.2/sbin/start-dfs.sh" #start yarn echo "yarn is starting..." ssh hadoop103 "/opt/module/hadoop-2.7.2/sbin/start-yarn.sh" 这里需要注意我的主节点是hadoop102,子

mo 760

visio安装包

Microsoft Office Visio 是一款专业的制图软件。利用经过更新的形状、协作工具和数据链接图表,创建专业级图表以简化复杂的信息。

Hadoop的shell命令测试

第一次实验作业 本实验所有shell命令及脚本均在/usr/local/hadoop/目录下执行 1.利用Hadoop提供的Shell命令完成相同任务,向HDFS中上传任意文本文件,如果指定的文件在HDFS中已经存在,由用户指定是追加到原有文件末尾还是覆盖原有的文件 在/home/hadoop/目录下创建三个文件: localTest,内容: This is a local file. a...

thewhichlife的博客 2890

hadoop集群常用shell脚本

1.群发脚本XSync(xsync) #!/bin/bash #1 获取参数,如果不够直接退出 pcount=$# if ((pcount==0)); then echo no args; exit; fi #2 获取文件名称 p1=$1 fname=`basename $p1` echo fname=$fname #3 获取上级目录到绝对路径 pdir=`cd -P $(dirname $p...

YellowXiuHui的博客 539

Hadoop的shell脚本分析

Hadoop的shell脚本分析前记:这些天一直学习hadoop,学习中也遇到了许多的问题,主要是对hadoop的shell脚本和hadoop的源码概念不够清楚,所以我就对hadoop的bin目录下的shell脚本进行了研究,有一些成果想记录下来,也希望大家前来批评指正。分析原因:很多hado...

chuanjiaoye5017的博客 186

解决SHELL脚本使用hadoop fs -get 命令 报错 command not found

SHELL脚本使用hadoop 命令 报错 command not found 问题解决 项目背景 项目中需要定时从HADOOP HDFS 中下载定时更新的文件,为了方便操作,写了SHELL脚本定时下载,脚本中使用的核心命令就是 hadoop fs -get /xxxx/xxxx/xxx.log 手动切换到 hadoop用户 ,独立执行命令时,完全正常,可放到SHELL脚本中就一直报错...

u012972294的博客 2361

大数据常用shell脚本之ha-hadoop脚本

一、前置准备 CentOS7、jdk1.8、zookeeper-3.5.7、hadoop-2.7.7 想要完成本期视频中所有操作,需要以下准备: HA(高可用)-Hadoop集群环境搭建视频+图文教程 大数据常用shell脚本之分发脚本编写-视频教程 大数据常用shell脚本之zk脚本编写-视频教程 二、简单了解 KaTeX parse error: Undefined control sequence: \* at position 1: \̲*̲表示传递给函数或脚本的所有参数…*”会将所有的参数

广彐水厂 521

hadoop环境部署自动化shell脚本(伪分布式、完全分布式集群搭建)

本文旨在提供一个hadoop环境部署脚本帮助读者更快速地搭建用于学习和开发的hadoop环境,节省大数据技术入门时间和成本。

weixin_42011520的博客 3851
上一篇: grep命令最常用的功能总结
下一篇: Hadoop问题记录:Wrong FS: hdfs://hp5-249:9000/, expected: file:///
下木
博客等级 码龄16年 88粉丝 132原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值