
分布式
文章平均质量分 84
清如許
关注微信公众号somenzz,后台回复【2048】,送你一份大礼
展开
-
一文搞懂 celery 远程调用任务
celery 是分布式的异步任务队列,既然是分布式,那么肯定是支持远程调度任务的,那么它是如何实现的呢?celery 主要是通过中间人来实现远程调度的,中间人 broker 的工具如 RabbitMQ,Redis 服务支持远程访问。由于官方的示例都是基于本地的任务调用,本文向大家展示如何使用 Celery 调用远程主机上的任务- 在主机 C 上调用主机 A 上的任务 taskA,调用主机 ...原创 2018-09-05 06:56:59 · 3954 阅读 · 0 评论 -
分布式异步任务神器-Celery
最近研究了下异步任务神器-Celery,发现非常好用,可以说是高可用,假如你发出一个任务执行命令给 Celery,只要 Celery 的执行单元 (worker) 在运行,那么它一定会执行;如果执行单元 (worker) 出现故障,如断电,断网情况下,只要执行单元 (worker) 恢复运行,那么它会继续执行你已经发出的命令。这一点有很强的实用价值:假如有交易系统接到了大量交易请求,主机却挂了...原创 2018-09-03 06:52:49 · 7068 阅读 · 0 评论 -
如何部署一个健壮的 apache-airflow 调度系统
之前介绍过的 apache-airflow 系列文章任务调度神器 airflow 之初体验airflow 安装,部署,填坑airflow 配置 CeleryExecutor介绍了如何安装、配置、及使用,接下来介绍如何在跨多个节点来安装部署 apache-airflow:本文主要介绍以下几点:airflow 的守护进程airflow 单节点部署airflow 多节点(集群)部署...原创 2018-09-17 21:38:38 · 11854 阅读 · 4 评论 -
Docker 容器从入门到痴迷
文章目录1. docker 是什么2. docker 解决什么问题1. 解决虚拟机资源消耗问题。2. 快速部署。3. 提供一次性的环境。4. 提供弹性的云服务。5. 组建微服务架构。3. docker 安装部署与使用1. 安装 docker 引擎2. 使用 docker1. 理解 docker 的架构2. docker 命令3. 卷的概念4. 自制镜像并发布4. docker 网络6. docke...原创 2018-09-28 23:15:30 · 1286 阅读 · 0 评论