azkaban3.16安装部署坑以及azkaban邮件提醒设置

azkaban 邮件设置 以及上传zip位置 azkaban 会将上传的zip包最终放到 mysql 的blob(一种数据存储类型中) from   https://blog.csdn.net/CaptainJava/article/details/81185839 1、配置发送人信息     在azkaban-web-server-3.16.0应用conf下azkaban.properties配置发送人信息     此设置已经设置好,... 阅读详情

一、azkaban3.16安装部署
   启动azkaban-web-server-3.16.0或azkaban-exec-server-3.16.0是如果摆错内容为找不到global.properties、 azkaban-users.xml或keystore 请确认两件事情,①确认文件是否存在,不存在则需要按要求创建。②如果存在则看报错信息中此文件的路径是否正确,此处可以修改azkaban.properties中配置的文件路径为绝对路径。
二、azkaban执行任务报错
1、azkaban 执行job 报错 azkaban.native.lib
azkaban.utils.UndefinedPropertyException: Missing required property 'azkaban.native.lib'
    at azkaban.utils.Props.getString(Props.java:478)
    at azkaban.jobExecutor.ProcessJob.run(ProcessJob.java:120)
    at azkaban.execapp.JobRunner.runJob(JobRunner.java:693)
    at azkaban.execapp.JobRunner.run(JobRunner.java:545)
    at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:511)
    at java.util.concurrent.FutureTask.run(FutureTask.java:266)
    at java.util.concurrent.ThreadPoolExecutor.runWorker(ThreadPoolExecutor.java:1142)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:617)
    at java.lang.Thread.run(Thread.java:748)
    23-07-2018 17:51:48 CST Start ERROR - Missing required property 'azkaban.native.lib' cause: null
解决方法:
 ①当前azkaban使用的3.16 解决方法为:
plugins/jobtypes/commonprivate.properties下把 azkaban.native.lib=false就行了
  ②如果在较高版本中,如3.2的那个配置文件下并没有找到这个可以改的地方
       最后的解决方法是:common/java/azkaban/jobExeccutor/utils/ProcessJob.java里  
<code class="language-java">boolean isExecuteAsUser = sysProps.getBoolean(EXECUTE_AS_USER, true);</code>  
改成
boolean isExecuteAsUser = sysProps.getBoolean(EXECUTE_AS_USER, false);

2、执行job python脚本报错 Unknown column 'None' in 'field list'
替换 元组中的none
#获取消费平均值
def get_avg_amount(mysql_ip,mysql_user,mysql_pass,db_name):
    result = []
    db = MySQLdb.connect(mysql_ip,mysql_user,mysql_pass,db_name,charset='utf8')
    # 使用cursor()方法获取操作游标
    cursor = db.cursor()
    target_config='select round(max(x.total_amount)/3,2) from (select t.customer_id as customer_id,sum(t.behaviour_purchase_amount) as total_amount from lm_rfmdata.customer_rfm_attr t group by t.customer_id) x'
    cursor.execute(target_config)
    for i in cursor.fetchall():
        result.append(i)
    val = (1,)
    if result[0][0] is None :
        result[0]=val
    return result

 

三、邮件提醒/通知设置 Notification Email Settings 

1、配置发送人信息
    在azkaban-web-server-3.16.0应用conf下azkaban.properties配置发送人信息

    此设置已经设置好,无特殊改动无需修改。
    cd /software/azkaban-web-server-3.16.0/conf
    vim azkaban.properties
    添加发件人信息:
    mail.sender=***@***.cn //作为发送邮件的账号
    mail.host=smtp.exmail.qq.com //腾讯企业邮箱使用这个,具体根据个人邮箱服务器设置
    mail.user=Notify emails of azkaban //根据需要设置名称
    mail.password=********* //发送邮件账号的密码
2、设置提醒人(收件人)邮件地址(以下三种方法当前版本亲测都可用。如果发送失败请自己查看azkaban日志)
    ①(推荐使用)方法一、在azkaban任务包,即所有.job文件的根目录下创建一个以.properties为扩展名的文件,(如notifyEmil.properties。名字无所谓。)将此文件一同打包为azkaban任务包。多个邮箱可以用逗号隔开。

     配置项有   :

#多个邮箱可以用逗号隔开
failure.emails    失败提醒人
success.emails    成功提醒人
notify.emails     执行(总是)提醒人

          
    ②方法二、在.job文件中添加提醒人邮件地址

        在提交的job文件中添加如下相应属性:
        failure.emails  失败提醒人
        success.emails    成功提醒人
        notify.emails     执行(总是)提醒人
        三个属性视具体需求而添加。
        如:

#customer_life_cycle_change.job
type = command
command = sh customer_life_cycle_change.sh
failure.emails=***@****.cn
success.emails=***@****.cn
notify.emails =***@****.cn

        按照以上两部设置之后可以在azkaban web UI中查看任务通知设置。
        project-->Execute Flow-->Notification-->右侧显示设置结果

    ③还有更直观更方便的。方法三、
        启动azkaban之后访问web端,创建好所需要的project(.job文件无需设置)
        进入project-->Execute Flow-->Notification 直接设置 提醒人信息 手动执行 也可以

        但是这个貌似单次有效。   ^_^ 


3、查看配置结果

    按照以上两部设置之后可以在azkaban web UI中查看任务通知设置。
    project-->Execute Flow-->Notification-->右侧显示设置结果
 


 

上图为job中配置好收件人的效果。

 

四、创建azkaban任务时输入中文备注提示已存在的项目(azkaban版本3.16.0)

问题:当前版本在创建Project时如果输入了中文的描述,提示错误信息    ERROR: Insert project for existing project failed. xxxxxx

问题解决:

1、猜测当前版本不支持中文描述(很有可能通过调整配置可以解决,但是这么低的版本不会常用,不纠结,直接暴力解决)

        ①创建项目是描述项暂时输入英文字符创建项目

②进入项目中点击描述信息

③编辑中文描述,点保存

 

④有可能出现这个提示,暂且忽略,点关闭

⑤刷新页面就可以看到 描述已经修改成为中文的了

 

2、既然有以上猜测,当然是升级azkaban版本啊  哈哈

亲测azkaban 3.30.0版本是可以直接输入中文的

我家另一套环境装的时候装的3.30 是可以直接输中文的。其他版本未测试。

 

 

 

 

 

 

 

 

 

CentOS7下载/安装Azkaban及单机版配置详细教程 在azkaban下找到需要的4个jar包文件,可以单独将此文件复制到azkaban下的某个单独的目录下,为后期azkaban的运行而使用(如果用时候知道从哪里找也可以不去复制)可以直接使用我上面的azkaban-solo-server包,替换掉自己解压的,会比较快,要不然代码修改的会很多,这方面如果有需要可以留言,我后面再单出一个。这里执行完bin/start-solo.sh后azkaban服务就起来了,但可能有小伙伴会和我一样运行后无法访问,执行后azkaban服务会立即退出。改为 阿里云的镜像路径。 阅读详情

相关推荐

azkaban配置邮件内容log链接

azkaban配置邮件内容log链接,可以配置azkaban邮件发送内容中的url链接配置:点击直接指向azkaban web服务器,解决localhost问题

azkaban邮件自定义详解

注:本人只安装过3.9和2.5,文章中也只会说明这两个版本 1、准备工作 github上下载对应版本的源码,如果不是最新版则需要在README.md文件点击超链接跳转的历史版本下载页面 2.5编译用的是ant,3.9编译用的是gredle(基于Apache Ant和Apache Maven概念的项目自动化构建开源工具) 如果是版本是2.5则还需要再网上下载编译过后的安装包,因为我尝试了很多次都无法再本地编译,解决一个还会出现别的问题,windows和Linux都尝试了下,所以不想再浪费.

u013368700的博客 2584

VSLAM框架对比

格VSLAM特点介绍: (一)ORB-SLAM2 (二)ORB-SLAM3 (三)LSD-SLAM (四)

ljtx200888的博客 2293

azkaban报错:azkaban.jobExecutor.utils.process.ProcessFailureException: Process exited with code 64

azkaban报错:azkaban.jobExecutor.utils.process.ProcessFailureException: Process exited with code 64

jackfeng86的专栏 4105

【backtrader保姆级教学】投资组合回测

method1:探索投资组合的最有方案,使用蒙特卡洛模拟Markowitz模型。# 提取最小波动组合对应的权重, 并转换成Numpy数组。# 绘制收益-标准差的散点图,并用颜色描绘夏普比率。# 在收益-风险散点图中突出风险最小的点。:param any_day: 任意日期。# 将该点坐标显示在图中并保留四位小数。password = “替换密码”# 找到标准差最小数据的索引值。user = “替换账号”# 计算GMV投资组合收益。# 计算每项资产的夏普比率。# 设置无风险回报率为0。

weixin_38132951的博客 2314

从DBC到ARXML:用RTA-CAR7实现车载通信协议栈自动化生成全流程

本文详细介绍了如何利用ETAS RTA-CAR7工具链,特别是ISOLAR-A和RTA-BSW ConfGen,实现从车载通信DBC文件到AUTOSAR ARXML系统描述文件,再到基础软件(BSW)协议栈代码的自动化生成全流程。该流程通过深度配置、信号路由、PDU复用及规则定制,大幅提升开发效率与一致性,是应对现代汽车电子复杂网络开发的关键实践。

brandy的博客 220

安装Azkaban常遇的问题

1.文件不存在 解决办法:切换目录到server的conf下,然后执行:vi azkaban.properties ,将文件路径设置成绝对路径即可 2.Keystore was tampered with, or password was incorrect问题: 解决办法:和1的问题类似,都要配置绝对路径,和1在同一个文件中修改即可 ...

翻滚吧->阿城的博客 406

多重共线性问题 -- 岭回归方法

概述 本篇博客分为三大部分,线性模型、多重共线性问题和岭回归。其中,线性模型中介绍了线性模型定义和普通最小二乘法对线性模型的拟合。第二部分,借由1987-2007年的人口、消费和科技对碳排放的影响的数据来说明多重共线性问题(包括如何从定性和定量两个方面判断多重共线性问题)和多重共线性问题对普通最小二乘估计的影响。第三部分,使用岭回归对第二部分中的多重共线性问题进行拟合,并基于R2R^2R2决定系数...

楚江客的记录 1万+

azkaban配置邮件预警

配置层面 1. apache平台 只需在azkaban-web/conf/azkaban.properties配置文件中添加邮箱配置即可 2. CDH平台 CDH平台由于云平台禁用了smtp的25端口,所以需要将配置的端口换成465,同时需要改动azkaban源码 1. azkaban源码编译 1.停止服务 2.备份原文件 3.修改azkaban-common/src/main/java/azkaban/utils/EmailMessage.java 文件头引入包:import java.securi

zyh1234456的博客 1542

脑电分析:为什么大脑信号会“变同步”?——事件相关同步化与去同步化 (ERS/ERD) 全景解析

脑电分析中的事件相关同步化(ERS)和去同步化(ERD)是研究大脑动态节律的重要方法,反映特定任务下脑电频段能量的变化。ERD表示神经元活动分散(功率下降),提示脑区活跃处理信息;ERS则反映神经元同步(功率增强),常与静息状态相关。本文详解了ERS/ERD的生理机制、计算流程(包括基线校正和功率谱分析),并提供了Python实现示例,展示如何通过Welch法和STFT进行时频分析,生成ERD/ERS热力图。该技术广泛应用于运动想象脑机接口、癫痫检测等领域,为理解大脑功能状态提供了量化工具。

qq_32516809的博客 1394

DICOM三维重建:基于VTK实现三种面绘制算法

版本:VS2019、VTK9.0.1 #define vtkRenderingCore_AUTOINIT 3(vtkInteractionStyle,vtkRenderingFreeType,vtkRenderingOpenGL2) #define vtkRenderingVolume_AUTOINIT 1(vtkRenderingVolumeOpenGL2) #include "vtkDICOMImageReader.h" #include "vtkRenderWindowInteractor.h" #i

一直在笑的博客 5922

azkaban简介及azkaban部署、原理和使用介绍

azkaban简介及azkaban部署、原理和使用介绍 azkaban简介 ​ Azkaban是一套简单的任务调度服务,整体包括三部分webserver、dbserver、executorserver。 ​ Azkaban是由Linkedin开源的一个Java项目,批量工作流任务调度器。用于在一个工作流内以一个特定的顺序运行一组工作和流程。 ​ Azkaban定义了一种KV文件格式来建立任务之间的依赖关系,并提供一个易于使用的web用户界面维护和跟踪你的工作流。 项目官网:https://azkaban.g

wt334502157的博客 3万+

Zemax操作33--5倍激光扩束器

5倍扩束

lzy750750的博客 2930

Linux环境下部署Azkaban

azkaban部署

super_mochi1 1901

Proteus仿真实战:ADC0832时序解析与51单片机精准电压采集

本文详细解析了ADC0832模数转换芯片在Proteus仿真环境中的时序控制与51单片机驱动实现。通过实战代码示例和精度优化技巧,帮助开发者掌握电压采集的关键技术,包括时序配置、数据校验和噪声抑制等核心要点,提升嵌入式系统设计的精准度与可靠性。

weixin_29172963的博客 873

Devexpress16.2.6破解工具

Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具Devexpress16.2.6破解工具

Azkaban的介绍、安装与使用

本文介绍了工作流调度器Azkaban的安装部署与实战应用。首先阐述了工作流调度的必要性及常见系统对比,重点分析了Azkaban与Oozie的特性差异。接着详细说明了Azkaban的安装步骤,包括Web/Executor服务器配置、SSL证书生成、数据库初始化及环境变量设置。最后通过5个实战案例(基础命令、多任务依赖、HDFS操作、MapReduce任务和Hive脚本执行)演示了Azkaban的核心功能。该调度系统具有轻量级、配置简单和Web界面友好等特点,适合Hadoop生态中的任务调度需求。

ywl470812087的博客 10万+

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

Linux部署Azkaban

必须进入到/opt/module/azkaban/azkaban-exec 路径,分别在三台机器上,才能启动 executor server。如果在/opt/module/azkaban/azkaban-exec 目录下出现 executor.port 文件,说明 启动成功。必须进入到master的/opt/module/azkaban/azkaban-web 路径,启动 web server。Ooize 相比 Azkaban 是一个重量级的任务调度系统,功能全面,但配置使用 也更复杂。

yeqi_ymj的博客 1143

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

Azkaban安装部署

Azkaban 下载地址 下载地址:http://azkaban.github.io/downloads.html Azkaban 安装部署 (1)将 Azkaban Web 服务器、Azkaban 执行服务器、Azkaban 的 sql 执行脚本及 MySQL 安装包拷贝到 hadoop102 虚拟机/export/software 目录下 azkaban-web-server-2.5.0.tar.gz azkaban-executor-server-2.5.0.tar.gz azkaban-sql-sc

Knight 524

azkaban安装部署

1.下载azkaban源码git链接地址 2.中央maven太慢,修改为阿里云的仓库,修改build.gradle文件 buildscript { repositories { maven { url 'https://maven.aliyun.com/repository/gradle-plugin' } } allprojects { apply plugin: 'jacoco' repositories { maven { url '

Jatham_C的博客 1278

第2节 azkaban调度:16、azkaban的介绍以及azkaban的soloserver的安装使用

2. 工作流调度器azkaban 2.1 概述 azkaban官网: https://azkaban.github.io/ 2.1.1为什么需要工作流调度系统 l 一个完整的数据分析系统通常都是由大量任务单元组成: shell脚本程序,java程序,mapreduce程序、hive脚本等 l 各任务单元之间存在时间先后及前后依赖关系 l 为了很好地组织起这样的复杂执...

dengmanzhou3124的博客 270

Azkaban 安装部署&常见错误

Solo Server 源码下载/解压 3.81.0地址 [wzj@hadoop001 software]$ tar -xzvf 3.81.0.tar.gz -C ~/app/ [wzj@hadoop001 azkaban]$ ls az-core az-flow-trigger-dependency-plugin az-intellij-style.xml azkaban-exe...

wzj_wp的博客 1307

Azkaban3.81.0安装以及简单使用

1.为啥什么要使用WorkFlow? 生产中ETL、以及HIve sql等作业都是通过shell命令触发运行的,我们知道Linux有自带的Crontab调度器,通过它可以进行简单作业的调度,但是对于一些依赖的作业,比如作业B依赖于作业A完成后才能开始,这是Crontab很难去配置了,因为配置Crontab人根本不知道作业具体是何时完成的,全凭经验感觉,这是不可取的。此时我们需要Work Flow来...

゛Never give up~ 1641

Azkaban2.5.0的安装和部署

azkaban 2.5.0的部署安装过程

qq_41495340的博客 716

Azkaban3的安装

操作系统:ubuntu16.04LTS 1. 安装java8,高于或低于java8版本似乎会构建失败,为避免出现诡异的bug,请选择官方指定java版本 sudo add-apt-repository ppa:webupd8team/java sudo apt-get update sudo apt-get install oracle-java8-installer 2. 安装构建a...

seTaire的博客 498

16.Azkaban的安装

工作流调度器azkaban 2.1 概述 2.1.1为什么需要工作流调度系统 l 一个完整的数据分析系统通常都是由大量任务单元组成: shell脚本程序,java程序,mapreduce程序、hive脚本等 l 各任务单元之间存在时间先后及前后依赖关系 l 为了很好地组织起这样的复杂执行计划,需要一个工作流调度系统来调度执行; 例如,我们可能有这样一个需求,某个业务系统每...

weixin_30662109的博客 62

Azkaban 3.90.0 高可用集群搭建

Azkaban的两种模式 solo-server模式:exec进程和web进程为同一个进程,存放元数据的数据库为H2(自带数据库) multiple-executor模式:exec进程和web进程在不同的机器上,存放元数据的数据库为mysql 条件允许的话,可以剥离mysql,并添加多个azkaban-exec-server 服务器 组件 数据库 172.16.0.102 azkaban-web-server mysql-server-slave 172.16.0.103 azkaban

笑而不语的博客 1403
上一篇: Linux/Mac scp命令
下一篇: Hyperledger fabric 1.2 实践:IBM区块链平台- IBM Blockchain Platform: Develop -- Mac OS
grootblockchain
博客等级 码龄11年 55粉丝 101原创
评论 4
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值