
调度
请叫我超哥
这个作者很懒,什么都没留下…
展开
-
azkaban使用详解(实际场景运用,多flow之间配置依赖)
azkaban是一个使用起来很方便的调度框架azkaban如何配置多个flow?多flow之间如何依赖? 如何设置通用参数?常用job参数如何设置?本文章为你解答。(1):azkaban如何配置多个flow多flow配置要这样配:把多个flow放到一起打成zip包就可以了,之后在azkaban的web界面上upload即可。(2):设置通用参数通用参数这样配:其中test1下的conf.properties文件中设置的属性只在test1下有效,test2下的conf.properties原创 2020-11-12 16:11:57 · 3564 阅读 · 0 评论 -
常用调度工具Oozie、Azkaban、Airflow总结
调度的意义:调度时一个项目中必不可少的,项目中一般都会包括程序、hive脚本等多任务,我们一般把任务写到shell脚本中,最后通过调度工具把所有的任务串起来。airflow是一个可编程的工作流调度、监控平台。可分布式部署调用,基于DAG(本身没有队列功能,需要使用第三方组件,比如redis、rabbitMQ),airflow用python进行编程开发,可以进行丰富的任务处理,包括bash命令的执行、python代码调用、发送邮件、发送Http请求等。airflow websever -D启动airf原创 2020-06-04 15:18:39 · 7813 阅读 · 0 评论