分布式任务调度
目前,我们的定时任务都是基于SpringTask来实现的。但是SpringTask存在一些问题:
-
当微服务多实例部署时,定时任务会被执行多次。而事实上我们只需要这个任务被执行一次即可。
-
我们除了要定时创建表,还要定时持久化Redis数据到数据库,我们希望这多个定时任务能够按照顺序依次执行,SpringTask无法控制任务顺序
不仅仅是SpringTask,其它单机使用的定时任务工具,都无法实现像这种任务执行者的调度、任务执行顺序的编排、任务监控等功能。这些功能必须要用到分布式任务调度组件。
分布式任务调度原理
那么分布式任务调度是如何实现任务调度和编排的呢?
我们先来看看普通定时任务的实现原理,一般定时任务中会有两个组件:
-
任务:要执行的代码
-
任务触发器:基于定义好的规则触发任务
因此在多实例部署的时候,每个启动的服务实例都会有自己的任务触发器,这样就会导致各个实例各自运行,无法统一控制:
那如果我们想要统一控制各个服务实例的任务执行和调度该怎么办?
大家应该能想到:就是要把任务触发器提取到各个服务实例之外,去做统一的触发、统一的调度。
事实上,大多数的分布式任务调度组件都是这样做的:
这样一来,具体哪个任务该执行,什么时候执行,交给哪个应用实例来执行,全部都有统一的任务调度服务来统一控制。并且执行过程中的任务结果还可以通过回调接口返回,让我们方便的查看任务执行状态、执行日志。这样的服务就是分布式调度服务了。
分布式任务调度技术对比
能够实现分布式任务调度的技术有很多,常见的有:
Quartz | XXL-Job | SchedulerX | PowerJob | |
---|---|---|---|---|
定时类型 | CRON | 频率、间隔、CRON | 频率、间隔、CRON、OpenAPI | 频率、间隔、CRON、OpenAPI |
任务类型 | Java | 多语言脚本 | 多语言脚本 | 多语言脚本 |
任务调度方式 | 随机 | 单机、分片 | 单机、广播、Map、MapReduce | 单机、广播、分片、Map、MapReduce |
管理控制台 | 无 | 支持 | 支持 | 支持 |
日志白屏 | 无 | 支持 | 支持 | 支持 |
报警监控 | 无 | 支持 | 支持 | 支持 |
工作流 | 无 | 有限 | 支持 | 支持 |
其中:
-
Quartz由于功能相对比较落后,现在已经很少被使用了。
-
SchedulerX是阿里巴巴的云产品,收费。
-
PowerJob是阿里员工自己开源的一个组件,功能非常强大,不过目前市值占比还不高,还需要等待市场检验。
-
XXL-JOB:开源免费,功能虽然不如PowerJob,不过目前市场占比最高,稳定性有保证。
我们课堂中会选择XXL-JOB这个组件
XXL-JOB分为两部分:
-
执行器:我们的服务引入一个XXL-JOB的依赖,就可以通过配置创建一个执行器。负责与XXL-JOB调度中心交互,执行本地任务。
-
调度中心:一个独立服务,负责管理执行器、管理任务、任务执行的调度、任务结果和日志收集。
XXL-JOB定时创建榜单表
接下来,我们就来一个XXL-JOB的快速入门,顺便改造一下之前用SpringTask实现的定时创建榜单表的功能。
部署调度中心
调度中心在我们提供的虚拟机开发环境中已经部署完成了。访问:http://xxljob.tianji.com即可查看调度中心控制台页面。默认的账号密码是:admin/123456
微服务集成执行器
首先需要在tj-learning服务引入依赖:
<!--xxl-job-->
<dependency>
<groupId>com.xuxueli</groupId>
<artifactId>xxl-job-core</artifactId>
</dependency>
然后还需要配置执行器,下面是一个配置执行器的示例:
@Bean
public XxlJobSpringExecutor xxlJobExecutor() {
logger.info(">>>>>>>>>>> xxl-job config init.");
XxlJobSpringExecutor xxlJobSpringExecutor = new XxlJobSpringExecutor();
xxlJobSpringExecutor.setAdminAddresses(adminAddresses);
xxlJobSpringExecutor.setAppname(appname);
xxlJobSpringExecutor.setIp(ip);
xxlJobSpringExecutor.setPort(port);
xxlJobSpringExecutor.setAccessToken(accessToken);
xxlJobSpringExecutor.setLogPath(logPath);
xxlJobSpringExecutor.setLogRetentionDays(logRetentionDays);
return xxlJobSpringExecutor;
}
参数说明:
-
adminAddress:调度中心地址,天机学堂中就是填虚拟机地址
-
appname:微服务名称
-
ip和port:当前执行器的ip和端口,无需配置,自动获取
-
accessToken:访问令牌,在调度中心中配置令牌,所有执行器访问时都必须携带该令牌,否则无法访问。咱们项目的令牌已经配好,就是
tianji
。如果要修改,可以到虚拟机的/usr/local/src/xxl-job/application.properties
文件中,修改xxl.job.accessToken
属性,然后重启XXL-JOB即可。 -
logPath:任务运行日志的保存目录
-
logRetentionDays:日志最长保留时长
接下来,把之前的SpringTask任务改成XXL-JOB的任务。
我们修改tj-learning模块下的com.tianji.learning.handler.PointsBoardPersistentHandler
,将原本的@Scheduled
注解替换为@XXLJob
注解:
其中,@XxlJob
注解中定义的就是当前任务的名称。接下来,重启tj-learning
服务,登录XXL-JOB控制台,注册执行器。
在弹出的窗口中填写信息:
现在,执行器已经成功注册,任务也已经注册到调度中心。接下来,我们就可以来做任务调度了,也就是:
-
分配任务什么时候执行
-
如果有多个执行器,应该由哪个执行器执行(路由策略)
我们进入任务管理菜单,选中学习中心执行器,然后新增任务:
在弹出表单中,填写任务调度信息:
其中比较关键的几个配置:
-
调度配置:也就是什么时候执行,一般选择cron表达式
-
任务配置:采用BEAN模式,指定JobHandler,这里指定的就是在项目中
@XxlJob
注解中的任务名称 -
路由策略:就是指如果有多个任务执行器,该由谁执行?这里支持的策略非常多:
路由策略说明:
-
FIRST(第一个):固定选择第一个执行器;
-
LAST(最后一个):固定选择最后一个执行器;
-
ROUND(轮询):在线的执行器按照轮询策略选择一个执行
-
RANDOM(随机):随机选择在线的执行器;
-
CONSISTENT_HASH(一致性HASH):每个任务按照Hash算法固定选择某一台执行器,且所有任务均匀散列在不同执行器上。
-
LEAST_FREQUENTLY_USED(最不经常使用):使用频率最低的执行器优先被选举;
-
LEAST_RECENTLY_USED(最近最久未使用):最久未使用的执行器优先被选举;
-
FAILOVER(故障转移):按照顺序依次进行心跳检测,第一个心跳检测成功的执行器选定为目标执行器并发起调度;
-
BUSYOVER(忙碌转移):按照顺序依次进行空闲检测,第一个空闲检测成功的执行器选定为目标执行器并发起调度;
-
SHARDING_BROADCAST(分片广播):广播触发对应集群中所有执行器执行一次任务,同时系统自动传递分片参数;可根据分片参数开发分片任务
-