- 博客(218)
- 收藏
- 关注
原创 airflow整体架构
run命令运行过程读取dag文件生成task依赖关系,然后生成封装airflow run的command命令,通过celery发送到executor端,重新执行该airflow run命令。scheduler命令运行过程:调度器通过SchedulerJob类run方法执行整个流程,包括使用多进程处理DagDir,包括生成Dag,产生DagRun,每个DagRun下又生成多个TaskInsta...
2018-10-29 16:01:06
4429
1
原创 spark2.1源码分析3:spark-rpc如何实现将netty的Channel隐藏在inbox中
spark2.1源码分析3:spark-rpc如何实现将netty的Channel隐藏在inbox中
2017-03-07 16:15:59
1060
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人