问题:
在python编辑器中运行spark程序时,忘记加spark.stop()停止spark,所以每提交一次程序就多一个spark-submit进程,而且sparkUI的端口号还被占用了。这时候用
kill -9 spark-submit_pid
无法杀死spark-submit进程
原因:
kill -9发送SIGKILL信号将其终止,但是以下两种情况不起作用:
a、该进程处于"Zombie"状态(使用ps命令返回defunct的进程)。此时进程已经释放所有资源,但还未得到其父进程的确认。"Zombie"进程要等到下次重启时才会消失,但它的存在不会影响系统性能。
"Zombie"进程即所谓的“僵尸进程”,相关概念参考:
b、 该进程处于"kernel mode"(核心态)且在等待不可获得的资源。处于核心态的进程忽略所有信号处理,因此对于这些一直处于核心态的进程只能通过重启系统实现。进程在AIX 中会处于两种状态,即用户态和核心态。只有处于用户态的进程才可以用“kill”命令将其终止
解决办法:
目前找到的解决办法只能重启,,,
参考文献:

本文探讨了在Python编辑器中运行Spark程序时,因未调用spark.stop()导致spark-submit进程累积及sparkUI端口被占用的问题。解析了kill-9命令在特定情况下(如进程为Zombie状态或处于kernelmode)失效的原因,并提供了重启系统的解决办法。
2万+

被折叠的 条评论
为什么被折叠?



