Java架构学习(三十七)分布式JOB任务调度平台

本文详细介绍了Java中实现定时任务的多种方法,包括使用线程、TimerTask、线程池以及Quartz框架。同时,探讨了分布式Job在集群环境中可能遇到的幂等性问题及解决方案,并对比了传统任务调度的不足,最后引出了分布式任务调度平台XXL-JOB的概述。

一、任务调度概述

1、什么是任务调度?就是定时JOB,
	在什么时间执行代码任务
任务调度场景:网站每天主从新用户1000人,
            注册用户信息、登录信息、定时发送到我的邮箱。21:00。
  
  同步job,调用失败之后,有补偿机制,日志+定时JOB分布式解决方案
 2、java实现定时任务有几种?
 	Thread:线程来实现
 	ThreadTask:
 	线程池,可定时线程
 	quartz:定时任务调度框架
 	SpringBoot内置任务调度

二、java实现定时任务实现方案

1、使用线程的方式来实现定时任务
package com.leeue.com;

/**
 * 使用多线程方式实现定时Job
 * 
 * @classDesc: 功能描述:()
 * @author:<a href="leeue@foxmail.com">李月</a>
 * @Version:v1.0
 * @createTime:2018年10月17日 下午5:14:38
 */
public class Test001 {
	static int count = 0;
	public static void main(String[] args) {
	
		// 思考实现定时任务
		new Thread(new Runnable() {
			
			@Override
			public void run() {
				//监听任务调度
				while(true) {
					try {
						// 每隔一秒的时间 实现定时任务   许多定时任务的底层代码就是这样写的,不过封装的很好而已 
						Thread.sleep(1000);
					} catch (InterruptedException e) {
						// TODO Auto-generated catch block
						e.printStackTrace();
					}
					System.out.println("我是第"+(++count));
				}
			}
		}).start();
	}
}
 2、使用TimerTask方式来实现定时JOB
package com.leeue.com;

import java.util.Timer;
import java.util.TimerTask;

/**
 * 使用 time task方式来实现定时任务
 * 
 * @classDesc: 功能描述:()
 * @author:<a href="leeue@foxmail.com">李月</a>
 * @Version:v1.0
 * @createTime:2018年10月17日 下午5:24:34
 */
public class Test002 {
	static int count = 0;
	public static void main(String[] args) {
		TimerTask timerTask = new TimerTask() {
			@Override
			public void run() {
				//需要执行的调度任务
				System.out.println("我是第"+(++count));
			}
		};
		Timer timer = new Timer();
		//天数
		long delay = 0;
		//秒数
		long period = 3000;
		timer.schedule(timerTask, delay,period);
	}
}
3、使用线程池的方式来实现定时任务
package com.leeue.com;

import java.util.concurrent.Executor;
import java.util.concurrent.Executors;
import java.util.concurrent.ScheduledExecutorService;
import java.util.concurrent.TimeUnit;

/**
 * 使用多线程的方式来实现
 * 
 * @classDesc: 功能描述:()
 * @author:<a href="leeue@foxmail.com">李月</a>
 * @Version:v1.0
 * @createTime:2018年10月17日 下午5:53:17
 */
public class Test003 {
	static int count = 0;
	public static void main(String[] args) {
		Runnable runnable = new Runnable() {
			
			@Override
			public void run() {
				//需要执行的调度任务
				System.out.println("我是第"+(++count));
			}
		};
		
		ScheduledExecutorService service = Executors.newSingleThreadScheduledExecutor();
		// 第二个参数为首次执行的延时时间,第三个参数为定时执行的间隔时间
		service.scheduleAtFixedRate(runnable, 1, 1, TimeUnit.SECONDS);
	}
}
4、使用Quartz来实现定时调度任务

1、引入依赖文件
	<dependencies>
	<!-- quartz -->
	<dependency>
		<groupId>org.quartz-scheduler</groupId>
		<artifactId>quartz</artifactId>
		<version>2.2.1</version>
	</dependency>
	<dependency>
		<groupId>org.quartz-scheduler</groupId>
		<artifactId>quartz-jobs</artifactId>
		<version>2.2.1</version>
	</dependency>
</dependencies>
2、任务调度类
public class MyJob implements Job {

	public void execute(JobExecutionContext context) throws JobExecutionException {
		System.out.println("quartz MyJob date:" + new Date().getTime());
	}

}
3、任务启动类
package com.leeue.demo;

import java.util.Date;

import org.quartz.CronScheduleBuilder;
import org.quartz.JobBuilder;
import org.quartz.JobDetail;
import org.quartz.Scheduler;
import org.quartz.SchedulerException;
import org.quartz.SchedulerFactory;
import org.quartz.Trigger;
import org.quartz.TriggerBuilder;
import org.quartz.impl.StdSchedulerFactory;

public class App {
	public static void main(String[] args) throws SchedulerException {
		// 1.创建Scheduler的工厂
		SchedulerFactory sf = new StdSchedulerFactory();
		// 2.从工厂中获取调度器实例
		Scheduler scheduler = sf.getScheduler();

		// 3.创建JobDetail
		JobDetail jb = JobBuilder.newJob(MyJob.class).withDescription("this is a ram job") // job的描述
				.withIdentity("ramJob", "ramGroup") // job 的name和group
				.build();

		// 任务运行的时间,SimpleSchedle类型触发器有效
		long time = System.currentTimeMillis() + 3 * 1000L; // 3秒后启动任务
		Date statTime = new Date(time);

		// 4.创建Trigger
		// 使用SimpleScheduleBuilder或者CronScheduleBuilder
		Trigger t = TriggerBuilder.newTrigger().withDescription("").withIdentity("ramTrigger", "ramTriggerGroup")
				// .withSchedule(SimpleScheduleBuilder.simpleSchedule())
				.startAt(statTime) // 默认当前时间启动
				.withSchedule(CronScheduleBuilder.cronSchedule("0/2 * * * * ?")) // 两秒执行一次
				.build();

		// 5.注册任务和定时器
		scheduler.scheduleJob(jb, t);

		// 6.启动 调度器
		scheduler.start();
	}
}

三、分布式JOB解决幂等性问题

在这里插入图片描述

在集群的情况下,实现定时JOB会产生什么原因?
答:会出现重复执行。
分布式JOB怎么解决幂等问题?
答:
1、使用分布式锁来解决(zk、redis),保证一台服务器执行JOB
2、使用配置文件方式,配置文件加个配置 start=true 或者start=false
	如果为true这个tomcat就执行job,如果为false这个tomcat就不执行这个job
	。所以打包的时候要打两个war,一个tomcat执行job,一个不执行job。
	这样集群就没意义了。
 3、使用数据库唯一标识  插入的数据id是唯一,谁插入成功了谁就不报错
 		缺点:效率低,一般不使用
 	4、传统任务调度缺点:
 		 1、如果报错了,就会不会再执行了。没有补偿机制。
 		 

	缺点:1、没有补偿机制,
			   2、不支持集群
			   3、不支持路由策略 
			   路由策略:相当于nginx的轮询策略的方式一样的,这里表示分发
			   到某个job上去进行执行
			   4、没有统计
			   5、没有 管理job平台
			   6、重试多遍,就要发报警邮箱。
			   7、状态监控

四、分布式任务调度平台 XXL-JOB 概述

xxl job  

分布式调度平台图:

在这里插入图片描述

分布式JOB调度平台原理:
分布式任务调度平台XXL-JOB》 一、简介 1.1 概述 XXL-JOB是一个轻量级分布式任务调度框架,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。现已开放源代码并接入多家公司线上产品线,开箱即用。 1.2 特性 1、简单:支持通过Web页面对任务进行CRUD操作,操作简单,一分钟上手; 2、动态:支持动态修改任务状态、暂停/恢复任务,以及终止运行中任务,即时生效; 3、调度HA:“调度中心”基于集群Quartz实现,可保证调度中心HA; 4、任务HA:任务支持多地址配置,可保证任务执行HA; 5、任务Failover:多地址配置时,调度失败时将会平滑切换执行器进行Failover; 6、一致性:“调度中心”通过DB锁保证集群分布式调度的一致性; 7、自定义任务参数:支持在线配置调度任务入参,即时生效; 8、调度线程池:调度系统多线程触发调度运行,确保调度精确执行,不被堵塞; 9、执行日志:支持在线查看调度结果,并且查看完整的执行日志; 10、邮件报警:任务失败时支持邮件报警,支持配置多邮件地址群发报警邮件; 11、支持登录验证; 12、GLUE:提供Web IDE,支持在线开发任务逻辑代码,动态发布,实时编译生效,省略部署上线的过程。支持30个版本的历史版本回溯。 12、数据加密:调度中心和执行器之间的通讯进行数据加密,提升调度信息安全性; 14、任务依赖:支持配置子任务依赖,当父任务执行结束且执行成功后将会主动触发一次子任务的执行, 多个子任务用逗号分隔; 15、推送maven中央仓库: 将会把最新稳定版推送到maven中央仓库, 方便用户接入和使用; 1.3 发展 于2015年中,我在github上创建XXL-JOB项目仓库并提交第一个commit,随之进行系统结构设计,UI选型,交互设计…… 于2015-11月,XXL-JOB终于REALEASE了第一个大版本V1.0, 随后我将之发布到OSCHINA,XXL-JOB在OSCHINA上获得了@红薯的热门推荐,同期分别达到了OSCHINA的“热门动弹”排行第一和git.oschina的开源软件月热度排行第一,在此特别感谢红薯,感谢大家的关注和支持。 于2015-12月,我将XXL-JOB发表到我司内部知识库,并且得到内部同事认可。 于2016-01月我司展开XXL-JOB的内部接入和定制工作,在此感谢袁某和尹某两位同事的贡献,同时也感谢内部其他给与关注与支持的同事。我司大众点评目前已接入XXL-JOB,内部别名《Ferrari》(Ferrari基于XXL-JOB的V1.1版本定制而成,新接入应用推荐升级最新版本)。据最新统计, 自2016-01-21接入至2016-07-20期间,该系统已调度72000余次,表现优异。新接入应用推荐使用最新版本,因为经过数个大版本的更新,系统的任务模型、UI交互模型以及底层调度通讯模型都有了较大的优化和提升,核心功能更加稳定高效。 至今,XXL-JOB已接入多家公司的线上产品线,接入场景如电商业务,O2O业务和大数据作业等,截止2016-07-19为止,XXL-JOB已接入的公司包括不限于:- 1、大众点评; - 2、山东学而网络科技有限公司; - 3、安徽慧通互联科技有限公司; - 4、人人聚财金服; - 5、上海棠棣信息科技股份有限公司 - 6、运满满 - 7、米其林(中国区) - 8、妈妈联盟 - 9、九樱天下(北京)信息技术有限公司 - 10、万普拉斯科技有限公司(一加手机) - ……欢迎大家的关注和使用,XXL-JOB也将拥抱变化,持续发展。 1.4 下载 源码地址 (将会在两个git仓库同步发布最新代码)github地址git.osc地址 中央仓库地址 (将会把上个版本的公共依赖,推送到中央仓库)<!-- http://repo1.maven.org/maven2/com/xuxueli/xxl-job-core/ -->     com.xuxueli     xxl-job-core     1.4.1 博客地址oschina地址cnblogs地址csdn地址 技术交流群(仅作技术交流):367260654 标签:任务调度  job  作业调度
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值