Spark 总结2

本文介绍了如何正确启动Spark集群,包括解决网页访问不成功的问题、配置防火墙、使用正确的启动命令等关键步骤。此外还强调了指定启动资源的重要性,并解释了在未指定master地址时Spark将默认启动为local模式。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

Spark 总结2

网页访问时候 没有打开  

注意防火墙! 

 

 

 

启动park shell

bin下面的spark-shell   这样启动的是单机版的

可以看到没有接入集群中:

 

应该这么玩儿  用park协议  spark://192.168.94.132:7077     地址 协议

./spark-shell --mster  spark://192.168.94.132:7077

必须指定启动资源!!

如果启动spark shell时没有指定master地址,但是也可以正常启动spark shell和执行spark shell中的程序,其实是启动了spark的local模式,该模式仅在本机启动一个进程,没有与集群建立联系。总结的非常好!!!!!!

指定资源:

 

 

SparkContext (sc)

通向spark集群的一个入口   通过它来提交任务

 

posted @ 2017-09-15 22:10 toov5 阅读( ...) 评论( ...) 编辑 收藏
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值