小计使用多线程和gevent来提高celery性能及稳定性

本文探讨了如何利用celery支持的多线程和协程(特别是gevent)来提高任务队列的性能和稳定性。通过设置celery的并发模式为gevent,可以实现轻量级的并发,避免上下文切换的开销,从而在某些任务场景下获得比线程池更好的性能。同时,文章提醒,如果任务中包含不支持gevent的模块,可能会导致堵塞问题。建议根据任务类型选择合适的并发策略。

前言:

      有朋友问我,我那个任务队列是怎么实现,他的疑问其实主要是celery不支持多线程。先说说我那实现的方法,其实我的做法和celery、rq这样的框架很像的,都是把任务push到队列里面,然后pull取出任务而已,celery里面还可以取任务,我这个是通过传送uuid来实现的。   朋友问celery不支持多线程,那是他没有好好看文档。celery是支持多任务并发的,哎。。。 好好看文档呀。


wKiom1PUqSvjJ3AUAAFdD7oefQQ360.jpg

原文http://rfyiamcool.blog.51cto.com/1030776/1530826 


队列存储brokers用的是rabbitmq,后面测试下用mongodb搞搞。我这里做个测试:


下面是tasks.py文件,也就是celery能支持异步的函数。

1
2
3
4
5
@app.task
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值