Spark Web界面

本文介绍了Spark的Web界面,默认端口为4040,提供了应用程序的调度阶段、任务信息、RDD大小、内存使用情况及环境信息等内容。若一台机器上运行多个SparkContext,端口会依次递增。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

1.7 Spark Web 界面

     每一个SparkContext发布一个web界面,默认端口是4040,它显示了应用程序的有用信息。这包括:

Ø  一系列的调度阶段和任务

Ø  对于RDD大小和内存使用的总结

Ø  环境信息

Ø  运行的执行器(executor)的信息

     你可以通过浏览器访问http://<driver-node>:4040当然,你必去先启动SparkContext。比如命令:./bin/spark-shell,出现下面的web界面信息:


      如果某台机器上运行多个SparkContext,它的web端口会自动连续加一,比如4041,4042,4043等。为了浏览持久的事件日志,设置park.eventLog.enabled就可以了。


欢迎关注我的微信公众号


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值