记一次java -jar的方式启动spark

博主分享了在没有yarn和spark集群的测试环境中,如何通过java-jar和java-cp命令来运行Spark程序。在遇到classnotfound异常时,将jar包放入jre的ext目录下解决了问题,创建了一个简单但实用的测试环境,避免了运维复杂集群的时间成本。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

因为测试环境没有yarn,也没有现成的spark集群
权衡一下,不用spark-submit,使用java -jar挺轻量,啥都不用部署,
所以我打了一个jar包,丢到服务器上面,问题来了
1.要制定main函数
所以java -jar不能用,改java-cp指定主类
2.报各种 class not found
直接把这个jar包往jre的ext里面一丢,啥都不缺,快得很。
这样一个简陋但是能用的测试轻量环境就可以了。
比起我以前一个人运维yarn,spar,hivek集群那些省了不少时间。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值