学习内容:
- celery介绍,以及原理
- celery安装与配置
- celery使用,路由配置
- celery中其他模块(kombu-Queue,celery.utils.log)
学习目标
- 了解celery的基本原理
- 可配置celery,写简单的服务
- 可编写一个定时任务--待续
一、celery基本介绍以及原理
(1)celery使用原因:
在程序运行过程中,我们经常会遇到一些耗时耗资源的操作,为了避免阻塞主程序,我们会采用异步或者多线程来处理任务。比如在主程序中调用一个函数,并从该函数中获取函数返回值。如果这个函数不能很快执行完成并返回,那么主程序就会阻塞,知直到函数返回。
(2)celery基本概念:
Celery是一个强大的分布式任务队列,它可以让任务的执行完全脱离主程序,甚至可以被分配到其他的主机上运行。它是一个专注于实时处理的任务队列,同时也支持任务调度。
(3)celery实现原理:
原理图如下:
其中包含的模块有:
任务模块 :Task,包含异步任务和定时任务。其中,异步任务通常在业务逻辑中被触发并发往任务队列,而定时任务由 Celery Beat 进程周期性地将任务发往任务队列。
消息中间件:Broker,即为任务调度队列,接收任务生产者发来的消息(即任务),将任务存入队列。Celery 本身不提供队列服务,官方推荐使用 RabbitMQ 和 Redis 等。
任务执行单元 :Worker, 是执行任务的处理单元,它实时监控消息队列,获取队列中调度的任务,并执行它。
任务结果存储 :Backend,用于存储任务的执行结果,以供查询。同消息中间件一样,存储也可使用 RabbitMQ, Redis 和 MongoDB 等。
二、celery下载安装
(1)pip下载安装celery
$ pip install celery==3.1.0
tip:windows上不支持celery4.2版本,必须下载3.x版本
(2)pip下载celery所需队列(选择:redis)
$ pip install celery[redis