Azkaban使用流程

Azkaban使用流程

转至元数据结尾

转至元数据起始

访问:

公共组件的Azkaban目前部署在l-job1.ppt.cn2服务器上,可以直接通过http://l-azkaban1.ppt.cn2.qunar.com:8081/index来进行访问

账号密码:

账号和密码都为azkaban,之后可能接入LDAP

 

创建工程:

点击右上角的Create Project 并输入工程名和描述来创建工程,通常一个任务建一个project。

上传Job:

点击进入project后,点击右上角的Upload上传任务,格式必须是zip

Job格式:

job文件必须以.job为后缀,并且zip压缩后上传

Command类型单一job示例

1、创建job描述文件

vi command.job

#command.job

type=command                                                   

command=echo 'hello'


2、将job资源文件打包成zip文件

zip command.job

3、上传job,见上一步

4、执行Job

Command类型多job工作流flow

1、创建有依赖关系的多个job描述

第一个job:foo.job

# foo.job

type=command

command=echo foo

 

第二个job:bar.job依赖foo.job

# bar.job

type=command

dependencies=foo

command=echo bar

 

2、将所有job资源文件打到一个zip包中

 

3、在azkaban的web管理界面创建工程并上传zip包

4、启动工作流flow

 

Command类型远程job工作流flow

1、创建job

 

type=command
command=ssh ucenterdev@l-data1.ppt.cn2 "sh /home/q/data/dailylocationrsync.sh"

#ssh到远程服务器执行脚本,必须有脚本中涉及的目录的权限

2、打成zip

3、执行job

 

定时任务:

 可以指定任务执行的时间,指定方式为cron表达式

### Azkaban使用教程与配置指南 #### 1. 编译并获取分发包 在完成 Azkaban 的编译后,需重点关注以下几个分发包及其路径: - `azkaban-web-server` 和 `azkaban-exec-server` 是核心组件的 tar 包。 - 数据库初始化 SQL 文件位于 `azkaban-db/build/sql/create-all-sql-3.73.1.sql` 中。 这些文件分别对应 Web Server、Executor Server 和数据库初始化脚本[^1]。 #### 2. 初始化 MySQL 数据库 为了使 Azkaban 正常运行,需要先创建对应的数据库和表结构。具体操作如下: - **解压 SQL 脚本** 如果使用的是较早版本(如 2.5.0),可以解压 `azkaban-sql-script-2.5.0.tar.gz` 并找到其中的 MySQL 脚本文件[^2]。 - **执行 SQL 脚本** 使用命令行工具或其他图形化客户端将 SQL 文件导入到目标 MySQL 实例中。例如: ```bash mysql -u root -p < create-all-sql-3.73.1.sql ``` 此过程会自动创建必要的数据库以及相应的表结构[^1]。 #### 3. 配置 Azkaban 属性文件 进入 Azkaban 的解压目录,并修改 `conf/azkaban.properties` 文件以适配环境需求。以下是常见的配置项解释[^4]: | 参数 | 含义 | |--------------------------|----------------------------------------------------------------------| | `azkaban.name` | 设置 Azkaban 服务的名字 | | `azkaban.webserver.port`| 指定 Web Server 运行的端口,默认为 8081 | | `azkaban.executor.port` | 指定 Executor Server 运行的端口,默认为 12321 | | `mysql.host` | MySQL 主机地址 | | `mysql.port` | MySQL 端口号 | | `mysql.database` | 存储 Azkaban 数据的数据库名称 | | `mysql.user` | 访问 MySQL 的用户名 | | `mysql.password` | 对应用户的密码 | 确保以上参数均正确无误后再启动服务。 #### 4. 启动 Azkaban 组件 Azkaban 的基本架构由两个主要部分组成:Web Server 和 Executor Server[^3]。两者都需要独立启动才能正常工作。 - **启动 Web Server** 执行以下命令来启动 Web Server: ```bash bin/azkaban-web-start.sh ``` - **启动 Executor Server** 类似地,通过下面的指令开启 Executor Server: ```bash bin/azkaban-executor-start.sh ``` 成功启动后可通过浏览器访问指定 URL 地址验证部署情况。 --- ### 示例代码片段 以下是简单的 YAML 配置样例,展示如何定义一个作业流程[^3]: ```yaml name: example_flow flow: job1: type: command command: echo "Job 1 started" job2: type: command dependsOn: [job1] command: echo "Job 2 completed after Job 1" ``` 该例子描述了一个包含两步的任务链路关系——`job2` 只有当 `job1` 成功完成后才会被执行。 ---
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值