hadoop-web-常用端口和服务

本文汇总了大数据生态系统中常用服务的默认端口号,包括HDFS、YARN、HistoryServer等核心组件,以及Hive、Kafka、Spark等重要工具的访问端口,为大数据平台的管理和维护提供便利。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

http://Master:8088   查看集群状态(需要先启动yarn)

http://Master:50070  查看HDFS系统(适用于2.x版本,1.x版本好像是50030)

http://Master:19888  查看JobHistory(需要先启动jobHistoryserver,执行mr-jobhistory-daemon.sh start historyserver可以启动)

 

1、HDFS界面:http://potter2:50070

 查看NameNode状态;
 该端口的定义位于core-default.xml中,可以在hdfs-site.xml 中修改;
 如果通过该端口看着这个页面,以为着NameNode节点是存活的。

1、HDFS页面:50070

2、YARN的管理界面:8088

3、HistoryServer的管理界面:19888

4、Zookeeper的服务端口号:2181

5、Mysql的服务端口号:3306

6、Hive.server1=10000

7、Kafka的服务端口号:9092

8、azkaban界面:8443

9、Hbase界面:16010,60010

10、Spark的界面:8080

11、Spark的URL:7077
 

 

### Hadoop集群中Slave2节点Root权限配置解决方案 在Hadoop集群环境中,确保各个节点之间的通信顺畅以及安全设置至关重要。对于slave2节点上的root权限问题或配置信息,主要涉及以下几个方面: #### 1. SSH无密码登录配置 为了使Master能够顺利管理各Slave节点,在所有节点间建立SSH免密登录是非常必要的。这通常由root用户完成,因此需要确认从master到slave2的SSH连接是否正常工作,并且不需要输入密码即可访问。 ```bash ssh-copy-id root@slave2 ``` 这条命令会将当前机器(通常是master)的公钥复制到目标服务器(这里是slave2),从而实现无需密码验证就能通过SSH远程登录[^2]。 #### 2. 修改/etc/hosts文件映射 确保每台计算机都能正确解析其他成员的名字为IP地址。编辑`/etc/hosts`文件来添加集群内所有主机的信息,包括master和其他slaves。这对于防止因DNS查询失败而导致的问题非常重要。 ```plaintext # Example entry in /etc/hosts on all nodes 192.168.x.y master 192.168.x.z slave2 ... ``` 这样可以保证即使在网络环境不稳定的情况下也能保持良好的连通性[^4]。 #### 3. 设置适当的服务账户权限 虽然很多操作可以通过root来进行,但在实际生产环境中不建议频繁使用root账号运行服务程序。应该创建专门用于运行Hadoop进程的普通用户(比如hadoop)。给该用户分配足够的权限以满足日常运维需求的同时也降低了潜在风险。 ```bash sudo addgroup hadoop sudo useradd -m -G hadoop hduser sudo chown -R hduser:hadoop /usr/local/hadoop/ ``` 这段脚本展示了如何新建一个名为hduser的新用户并将其加入到hadoop组里;接着改变指定目录下的所有权归属以便让新用户拥有对该路径下资源的操作权利[^1]。 #### 4. 调整防火墙规则允许必要端口通讯 如果启用了Linux自带的firewalld或其他类型的防火墙,则需开放一些特定端口号供HDFS、YARN等组件之间互相调用所需。具体哪些端口要看所部署版本而定,一般情况下至少要打开如下几个常用范围内的端口: - NameNode Web UI (HTTP): 50070/tcp - DataNodes RPC Port: 50010/tcp, 50020/tcp - SecondaryNameNode HTTP Server: 50090/tcp - ResourceManager Web App: 8088/tcp - NodeManager Localizer: 8040/tcp, 8042/tcp 可通过以下方式查看现有策略并将上述提到的相关条目添加进去: ```bash firewall-cmd --list-all firewall-cmd --zone=public --add-port=50070/tcp --permanent systemctl restart firewalld.service ``` 以上措施有助于解决可能出现于slave2节点处关于root权限方面的困扰,同时也提高了整个系统的稳定性和安全性[^3]。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值