Apache Dolphinscheduler在某新能源企业的落地与实践

背景介绍

某企业深耕于新能源制造行业，致力于推动能源技术的发展与应用。作为一家具有多年行业经验的企业，我们在新能源领域积累了深厚的技术实力和市场认知，业务涵盖了新能源产业链的关键环节，从上游的装备制造业到下游的应用解决方案，为客户提供全方位的服务。

随着业务的不断发展，日益增长的跨基地生产数据同步及计算对我们的整体数据架构带来了极大的挑战。

数据架构

以上是现有的数据架构图，其中最大的特点为跨基地的多机房设计，运维难度高，资源需求量大。传统意义上的多机房数据架构存在以下两大问题：

带宽瓶颈

离线场景主要是批处理场景，是对海量历史数据进行离线分析/处理的场景，该场景对延迟不敏感，但由于其处理数据量巨大对网络带宽等资源消耗较大；

另外，生产场景中作业数量一般较多且执行时间不受控，若两个机房的主机只是简单叠加在一起做为一个集群来用，可能会存在大量的跨机房互访，产生大量的随机流量打满有限的跨机房带宽, 此时除离线自身受影响外, 还可能对其它跨机房业务造成影响。

网络抖动

跨城网络会受供应商服务质量影响（或施工影响）造成抖动（或断网）, 与机房内CLOS架构的网络质量相比会低很多。

若两个机房的主机当做为一个集群来用，以HDFS为例，当网络抖动时，不但会导致跨机房读写延迟增加，还会影响DN的IBR等过程，造成服务性能和稳定性下降；

当网络出现严重问题造成断网时，会导致异地机房数据不可用，还会导致异地机房DN失联，造成大量Block低于预期副本数，触发NN大量补副本等问题。

综上所述，多机房的主要矛盾是跨机房网络带宽不足、稳定性差与离线海量数据处理任务高效产出之间的矛盾，解决该主要矛盾面临的核心问题是如何减少跨机房带宽的消耗，防止异地出现多次数据交换而带来的额外开销。

根据以上存在的问题，我们选择了某地域基地，用于部署统一的数据集群，其中包括数据计算集群、数据存储、数据应用、数据治理等工具，构建以某地域基地为中心的大数据统一平台。

存储相关，我们采购了某知名供应商的分离存储业务，实施存算分离架构，同时支持S3、Hadoop等多项存储协议，空间易于扩展，极大补全了原生HDFS存在大量Block时对NameNode的负载压力这一方面的缺陷。

选型及落地

之前，我们原有的调度系统来自于我们供应商提供的基于Azkaban的开发的平台，存在以下问题：

单点故障

如果Azkaban Web Server或Executor Server出现故障，可能会导致整个工作流执行中断。虽然Azkaban支持多E