
oozie
RayBreslin
大数据开发、设计企业应用
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
oozie(3):oozie配置Shell脚本调度
【参考官网:http://archive.cloudera.com/cdh5/cdh/5/oozie-4.1.0-cdh5.7.0/DG_ShellActionExtension.html】 一、实现功能 使用oozie调度运行本地shell脚本,实现脚本shell脚本自动化执行。 二、步骤 1.拷贝官方自带实例模板 cp -r examples/apps/shell/ oozie-a...原创 2018-12-08 09:08:26 · 2300 阅读 · 2 评论 -
oozie(4):coordinator调度
一、实现功能 定时任务执行。 二、步骤 1.配置统一系统时区 (1)确认东八区 date -R (2)不是的话修改,并且重启系统 rm -rf /etc/localtime ln -s /usr/share/zoneinfo/Asia/Shanghai /etc/localtime 2.修改oozie-site.xml (1)添加 <property> ...原创 2018-12-08 09:17:53 · 613 阅读 · 0 评论 -
oozie(5):oozie配置调度HDFS 多action顺序执行
一、实现功能 多个action联合操作,实现复杂功能。 二、步骤 1.复制shell实例,这里直接复制之前做的shell,只留下job.properties和workflow.xml cp -r oozie-apps/shell oozie-apps/hdfs 2.修改job.properties nameNode=hdfs://hadoop:8020 jobTracker=ha...原创 2018-12-08 09:30:02 · 739 阅读 · 0 评论 -
oozie错误:job一直在running或者SUSPENDED,但是就是不执行。任务单独执行是可以的。
1.问题描述 一个简单的mapreduce的wordcount任务,单独使用yarn调用时没有任何问题,可以跑出来。但是,放入yarn的时候,就会出现问题。一直时Running的状态,而且hadoop对应目录下也没有输出结果的目录,很是头痛。 2.原因: 经过百般查找和无限次尝试,发现是job.properties的jobTracker属性端口配置错误导致。因为Oozie去调用Ha...原创 2018-12-06 00:43:58 · 4001 阅读 · 0 评论 -
oozie(2):oozie配置调度MapReduce简单实例wordcount
一、实现功能 使用oozie实现简单的wordcount的mapreduce实例任务调用。 二、步骤 1.在oozie根目录下创建目录 mkdir oozie-apps 2.解压缩根目录下原有的实例包 tar -zxf oozie-examples.tar.gz 3.把需要的模板复制到oozie-apps,并改名字 cp -ra examples/apps/map-reduc...原创 2018-12-06 07:27:08 · 699 阅读 · 0 评论 -
oozie(1):oozie安装步骤
一、准备工作 1.准备软件 oozie和ext2.2 2.Hadoop 3.mysql 建数据库 mysql> create database oozie; 二、安装和配置 1.上传解压oozie安装包 tar -zxvf oozie-4.1.0-cdh5.7.0.tar.gz -C /opt/modules/ 2.修改hadoop里面的core-site.xml ...原创 2018-12-04 07:48:53 · 773 阅读 · 0 评论