django开发-使用celery搭建分布式(多节点)任务队列

最新推荐文章于 2024-08-25 22:47:57 发布

weixin_33725722

最新推荐文章于 2024-08-25 22:47:57 发布

阅读量1.3k

点赞数

CC 4.0 BY-SA版权

文章标签： python 爬虫大数据

原文链接：https://segmentfault.com/a/1190000017216184

本文介绍了如何在Django项目中利用Celery和RabbitMQ搭建分布式任务队列，包括主节点和子节点的配置，以及遇到的问题和解决方法。内容涉及设置环境、项目结构、Celery配置、任务定义和启动命令。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

今天介绍一下如何在django项目中使用celery搭建一个有两个节点的任务队列(一个主节点一个子节点；主节点发布任务，子节点收到任务并执行。搭建3个或者以上的节点就类似了)，使用到了celery,rabbitmq。这里不会单独介绍celery和rabbitmq中的知识了。

1.项目基础环境：
两个ubuntu18.04虚拟机、python3.6.5、django2.0.4、celery3.1.26post2

2.主节点django项目结构：
图片描述

3.settings.py中关于celery的配置：

import djcelery
# 此处的Queue和Exchange都涉及到RabbitMQ中的概念，这里不做介绍
from kombu import Queue, Exchange
djcelery.setup_loader()
BROKER_URL = 'amqp://test:test@192.168.43.6:5672/testhost'
CELERY_RESULT_BACKEND = 'amqp://test:test@192.168.43.6:5672/testhost'

CELERY_TASK_RESULT_EXPIRES=3600
CELERY_TASK_SERIALIZER='json'
CELERY_RESULT_SERIALIZER='json'
# CELERY_ACCEPT_CONTENT = ['json', 'pickle', 'msgpack', 'yaml']

CELERY_DEFAULT_EXCHANGE = 'train'
CELERY_DEFAULT_EXCHANGE_TYPE = 'direct'

CELERY_IMPORTS = ("proj.cele