Crontab执行java/spark-shell/spark-submit 异常解决方法

当在Linux的crontab中运行java、spark-shell或spark-submit时,可能会遇到异常,尤其是涉及到基础库的问题。这通常是由于crontab使用独立的环境变量,导致依赖PATH的命令无法执行。解决方案包括将当前用户的PATH信息添加到crontab中,或者通过修改crontab文件并添加PATH环境变量。这两种方法都可以有效地解决这个问题。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

现象:

java/spark-shell/spark-submit 语句在linux shell中直接执行时没有任何问题,但是放到crontab中就出异常,且异常一般都抛在一些基础库里,让人感觉非常莫名,比如这种:

Traceback (most recent call last):
  File "/usr/lib64/python2.4/logging/__init__.py", line 731, in emit
    msg = self.format(record)
  File "/usr/lib64/python2.4/logging/__init__.py", line 617, in format
    return fmt.format(record)
  File "/usr/lib64/python2.4/logging/__init__.py", line 408, in format
    s = self._fmt % record.__dict__
KeyError: 'funcName'


原因:

由于crontab使用了自己独立的一套环境变量,与当前linux用户的path是不一样的。因此很多依赖于PATH的命令语句都会无法执行(比如依赖于python,或者依赖于java)。

可以看这里:https://stackoverflow.com/questions/2388087/how-to-get-cron-to-call-in-the-correct-paths


解决方法1:

#在当前用户的linux shell下执行下列命令,获取当前的path信息,复制到剪贴版中:

echo $PATH

#将PATH信息加入到crontab中:

crontab -e

#在文件首部新增两个空行,在第一行增加下列信息。其中<$PATH> 改为你剪贴板中的值:

PATH=<$PATH> 


解决方法2:(该方法比较安全,推荐)

#直接依次运行如下命令修改crontab,而后crontab -e 就可以正常用了。

echo PATH=$PATH > tmp.cron

echo >> tmp.cron

crontab -l >> tmp.cron

crontab tmp.cron 


转载请注明出处:http://blog.youkuaiyun.com/suranxu007/article/details/78562153

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值