hadoop 集群遇到的坑

本文记录了在三台不同服务商的服务器上部署Hadoop集群的过程,解决了虚拟网卡请求、端口冲突及主机名解析等问题,通过修改hosts文件并调整端口使用情况,最终成功实现完全分布式Hadoop集群的启动。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

PS:租了三台服务器,准备做集群,三台服务器分属于BAT,一开始做redis集群就遇到了虚拟网卡请求不到的情况

最近在部署hadoop集群,本地的、伪分布式的hadoop已经分别在三台服务器上实现了,分别部署的,在开始部署完全分布式的时候,发现名称节点只能启动 NameNode 和 ResourceManager ,数据节点只能启动NameNode,

查看secondarynamenode 日志发现,是启动的时候 8020端口请求不到,可是端口能够ping通,不解。一开始以为是运营商之间虚拟网卡的原因,但是ping能够互相ping通,排除这个因素,再查资料,后来发现有的帖子回复说是找不到host找不到自己的内网IP导致的,试着修改host ,

登录云服务器控制台,查看内网IP,修改hosts ,增加

# 内网IP  本机hostname

结果再运行,发现服务起来了,果断把另外两台服务器修改hosts,

再重新启动start-all.sh ,

发现还有报错,再分析日志,这次报错50090 、8040端口  Address already in use,

这个就好说了,到root下运行

# netstat -anp|grep 50090

查看进程,直接kill;

stop-all.sh之后,再次start-all.sh结果hadoop正常启动了

本次遇到的问题,应该主要是hosts修改

 

# 自己内网IP        自己hostname

# 别人的公网IP     别人的hostname

 

先写到这里,后边再完善下,睡了……

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值