Solution for hanging workers
两种解决方式:
1. 如果确认是因为当前worker的并发是prefork(多进程),并且可能是由于死锁原因造成!
那么可以使用 CELERYD_FORCE = True ,这样可以有效防止死锁。即使不是这个原因造成的,也尽量加上。
注意:这种处理方式在4.0之后的版本不支持了,使用时需检查版本,也可采用下面的方式
2. 第二种解决方式适用于大多数进程hanging的情况,可以使用time_limit参数,设定任务的执行超时时间,当超过这个时间的话,就先生成新的进程,并通过信号将hanging的进程杀死。
另外,如果配置中使用了act_late的参数数,需要配合broker_transport_options = {'visiblity_timeout': 10 *60 }使用,这样,在task经过超时时间之后如果还没被ack, 就会被发送到其他worker去执行。如果没设置ack_late,代表对执行结果并不关心,这个参数也就没必要设置了
很有用的一片博客链接:http://blog.youkuaiyun.com/woshiaotian/article/details/36422781

本文介绍了Celery中解决worker挂起的两种方法:一是使用CELERYD_FORCE配置避免死锁;二是利用time_limit参数设定任务执行超时时间,通过生成新进程并杀死挂起进程的方式来处理。此外还提到了如何配置确保任务超时未被确认时能够重新分配。
463

被折叠的 条评论
为什么被折叠?



