Azkaban(2.50)单节点安装

本文详细介绍了Azkaban的部署步骤,包括Web服务器与执行服务器的安装配置,数据库设置,以及如何配置邮件通知和插件。适用于希望在本地环境中搭建Azkaban作业调度系统的读者。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

准备工作
Azkaban Web服务器
azkaban-web-server-2.5.0.tar.gz
Azkaban执行服务器
azkaban-executor-server-2.5.0.tar.gz
下载地址:http://azkaban.github.io/downloads.html

MySQL
目前azkaban只支持 mysql,需安装mysql服务器,本文档中默认已安装好mysql服务器,并建立了 root用户,密码 root.

环境
将安装文件上传到集群,最好上传到安装 hive、sqoop的机器上,方便命令的执行
在当前用户目录下新建 azkabantools目录,用于存放源安装文件.新建azkaban目录,用于存放azkaban运行程序

登陆mysql:以root用户登陆

 mysql -u root -p

在这里插入图片描述

1)为Azkaban单独创建一个数据库:

     create database azkaban

在这里插入图片描述

2)单独创建一个数据库用户,实际生产中最好单独创建一个用户,这里我使用azkaban/密码,并对用户授权

创建:create user ‘azkaban’@‘主机名’ identified by ‘密码’;(用户azkaban、主机名、对数据库azkaban)

         授权:grant select,insert,update,delete,create,index on `azkaban`.* to 'azkaban'@'主机名' with grant option;

注意符号 azkaban 不是单引号
在这里插入图片描述

在这里插入图片描述

接下来也通过 超级用户root 登陆
再执行下面的 (对不同ip赋权)

mysql> grant all privileges on *.* to 'azkaban'@'%' identified by 'azkaban123' with grant option;
 Query OK, 0 rows affected (0.00 sec)
 mysql> grant all privileges on *.* to 'azkaban'@'master' identified by 'azkaban' with grant option;
 Query OK, 0 rows affected (0.00 sec)
 mysql> grant all privileges on *.* to 'azkaban'@'localhost' identified by 'azkaban' with grant option;
 Query OK, 0 rows affected (0.00 sec)

注意此时不同ip 可以赋值不同用户密码去访问 此时意思我分别 设置 除了master 和localhost 之外的ip 通过 azkaban123 去访问

在这里插入图片描述

在这里插入图片描述

此时就可以通过azkaban账号登陆了、

在这里插入图片描述

下载azkaban-sql-script-2.5.0.tar.gz 解压缩

      执行create-all-sql-2.5.0.sql

在这里插入图片描述

退出,做重定向

      mysql -uazkaban -pazkaban -Dazkaban</home/hadoop/app/azkaban-2.5.0/create-all-sql-2.5.0.sql(全路径)

再次登录 查看新建表的情况表以新建(完成)
2.5.0版本是自带的不需要配置jdbc 驱动(其他版本需要将 mysql连接驱动 放置 extlib 下)
二、配置Azkaban Web Server

1)安装web server

   下载  解压缩

在其 主目录下 生成生成KeyStore文件
keytool -keystore keystore -alias jetty -genkey -keyalg RSA
本人设置 azkaban
在这里插入图片描述

密码尽量一致(包括大小写)

 修改配置文件:conf/azkaban.properties
 注 如发现 某个配置找不到 请改成全路径(强烈建议都改成全路径)

 修改

#Azkaban Personalization Settings
azkaban.name=Test #服务器UI名称,用于服务器上方显示的名字
azkaban.label=My Local Azkaban #描述
azkaban.color=#FF3601 #UI颜色
azkaban.default.servlet.path=/index #
web.resource.dir=web/ #默认根web目录
default.timezone.id=Asia/Shanghai #默认时区,已改为亚洲/上海 默认为美国

#Azkaban UserManager class
user.manager.class=azkaban.user.XmlUserManager #用户权限管理默认类
user.manager.xml.file=conf/azkaban-users.xml #用户配置,具体配置参加下文

#Loader for projects
executor.global.properties=conf/global.properties # global配置文件所在位置
azkaban.project.dir=projects #

database.type=mysql #数据库类型
mysql.port=3306 #端口号
mysql.host=localhost #数据库连接IP
mysql.database=azkaban #数据库实例名
mysql.user=root #数据库用户名
mysql.password=root #数据库密码
mysql.numconnections=100 #最大连接数
velocity.dev.mode=false

Azkaban Jetty server properties.

jetty.maxThreads=25
jetty.ssl.port=8443
jetty.port=8081
jetty.keystore=/software/servers/azkaban-web-2.5.0/keystore
jetty.password=123qwe
jetty.keypassword=123qwe
jetty.truststore=/software/servers/azkaban-web-2.5.0/keystore
jetty.trustpassword=123qwe

执行服务器属性

executor.port=12321 #执行服务器端口

邮件设置(根据公司邮件设置)

mail.sender=xxxxxxxx@163.com #发送邮箱
mail.host=smtp.163.com #发送邮箱smtp地址
mail.user=xxxxxxxx #发送邮件时显示的名称
mail.password=********** #邮箱密码
job.failure.email=xxxxxxxx@163.com #任务失败时发送邮件的地址
job.success.email=xxxxxxxx@163.com #任务成功时发送邮件的地址
lockdown.create.projects=false #
cache.directory=cache #缓存目录

启动web server

  bin/azkaban-web-start.sh 

  bin/azkaban-web-shutdown.sh 

    https://192.168.80.11:8443/

回车

https://ip:8443/   web页面展示

在这里插入图片描述
配置安装完成!!!

三、配置安装Azkaban Executor Server

  1)安装Azkaban Executor Server    

       下载azkaban-executor-server-2.5.0.tar.gz  上传、解压缩即可。

在这里插入图片描述
2)配置数据库(setting up to DB)

     修改conf/azkaban.properties
     注 如发现 某个配置找不到 请改成全路径(强烈建议都改成全路径)

#Azkaban
default.timezone.id=Asia/Shanghai #时区

Azkaban JobTypes 插件配置

azkaban.jobtype.plugin.dir=plugins/jobtypes #jobtype 插件所在位置

#Loader for projects
executor.global.properties=conf/global.properties
azkaban.project.dir=projects

#数据库设置
database.type=mysql #数据库类型(目前只支持mysql)
mysql.port=3306 #数据库端口号
mysql.host=192.168.20.200 #数据库IP地址
mysql.database=azkaban #数据库实例名
mysql.user=root #数据库用户名
mysql.password=root #数据库密码
mysql.numconnections=100 #最大连接数

执行服务器配置

executor.maxThreads=50 #最大线程数
executor.port=12321 #端口号(如修改,请与web服务中一致)
executor.flow.threads=30 #线程数

用户配置 (可保持默认不修改)
进入azkaban web服务器conf目录,修改azkaban-users.xml
vi azkaban-users.xml 增加 管理员用户



//已经改示例


执行服务器
在执行服务器目录下执行启动命令
bin/azkaban-executor-start.sh
注:只能要执行服务器根目录运行

启动完成后,在浏览器(建议使用谷歌浏览器)中输入https://服务器IP地址:8443 ,即可访问azkaban服务了.在登录中输入刚才新的户用名及密码,点击 login.

7、配置具体的插件(主要是sms包)
vi azkaban.properties
添加 azkaban.alerter.plugin.dir=********/plugins/alerter/azkaban-sms
并在其具体路径下新建其具体的路径 并将 其自己 azkaban-sms 包放到其具体lib 下 完成
将项目配置文件放到 azkaban-sms 下的 conf 下 完成

参考:https://www.cnblogs.com/lyywj170403/p/8893846.html
https://blog.youkuaiyun.com/dabokele/article/details/52235657

版本:3.38,解压后,配置自己的环境可直接用 azkaban-3.38.0\azkaban-db azkaban-3.38.0\azkaban-exec-server azkaban-3.38.0\azkaban-solo-server azkaban-3.38.0\azkaban-web-server ----------------后续步骤------------------ 1.创建数据库并导入基本数据 (1)创建数据库 create database azkaban; (2)mysql授权 GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY '123456' WITH GRANT OPTION; FLUSH PRIVILEGES; (3)导入数据 use azkaban; source /opt/azkaban-3.38.0/azkaban-db/create-all-sql-0.1.0-SNAPSHOT.sql 2. ssl配置 cd /opt/azkaban-3.38.0\azkaban-web-server keytool -keystore keystore -alias jetty -genkey -keyalg RSA 输入密钥库口令: 再次输入新口令: 您的名字与姓氏是什么? [Unknown]: xue 您的组织单位名称是什么? [Unknown]: xue 您的组织名称是什么? [Unknown]: xue 您所在的城市或区域名称是什么? [Unknown]: beijing 您所在的省/市/自治区名称是什么? [Unknown]: beijing 该单位的双字母国家/地区代码是什么? [Unknown]: CN CN=xue, OU=xue, O=xue, L=beijing, ST=beijing, C=CN是否正确? [否]: Y 输入 的密钥口令 (如果和密钥库口令相同, 按回车): 3.修改azkaban-exec-server下配置文件,引入mysql的依赖包 (1)将azkaban-solo-server下conf、plugins、sql目录复制到azkaban-exec-server目录下 cd azkaban-3.38.0/azkaban-solo-server/ cp -a ./conf ./plugins ./sql ../azkaban-exec-server (2)修改azkaban-exec-server/conf/的azkaban.properties文件 # Azkaban Personalization Settings azkaban.name=master azkaban.label=My Local Azkaban azkaban.color=#FF3601 azkaban.default.servlet.path=/index web.resource.dir=web/ #修改时区 default.timezone.id=Asia/Shanghai # Azkaban UserManager class user.manager.class=azkaban.user.XmlUserManager #修改为绝对路径,否则可能找不到 user.manager.xml.file=/opt/azkaban-3.38.0/azkaban-exec-server/conf/azkaban-users.xml # Loader for projects executor.global.properties=/opt/azkaban-3.38.0/azkaban-exec-server/conf/global.properties azkaban.project.dir=projects database.type=mysql mysql.port=3306 mysql.host=master mysql.database=azkaban mysql.user=root mysql.password=123456 mysql.numconnections=100 (其他默认) 4. 在conf目录下新建log4j.properties文件 [root@master azkaban-exec-server]# vim conf/log4j.properties 复制以下内容到log4j文件: log4j.rootLogger=INFO, Console log4j.logger.azkaban=INFO, server log
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值