延迟调度实现

很多时候我们想把事件在某些事件之后执行

如:提交失败的数据每隔一些时间段执行一次(1min,30min,2h)
如:订单下单没有付款,第1天,第3天发短信提示

一、这就需要延迟调度实现,本文介绍两种方式

1、使用消息中间件rabbitmq延迟死信队列实现

rabbitmq方式类图展示

rabbitmq
package cn.quantgroup.cashloanflow.config.mq;

import cn.quantgroup.clf.api.delayretry.service.consumer.ConsumeDelayEventService;
import cn.quantgroup.tech.brave.service.ITechRabbitBuilder;
import org.springframework.amqp.core.*;
import org.springframework.amqp.rabbit.config.SimpleRabbitListenerContainerFactory;
import org.springframework.amqp.rabbit.config.SimpleRabbitListenerEndpoint;
import org.springframework.amqp.rabbit.connection.CachingConnectionFactory;
import org.springframework.amqp.rabbit.connection.ConnectionFactory;
import org.springframework.amqp.rabbit.core.RabbitTemplate;
import org.springframework.amqp.rabbit.listener.SimpleMessageListenerContainer;
import org.springframework.amqp.rabbit.listener.adapter.MessageListenerAdapter;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.beans.factory.annotation.Qualifier;
import org.springframework.beans.factory.annotation.Value;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;

import java.util.HashMap;
import java.util.Map;

/**
 * @author: amen
 * @date: 2019-01-08
 */

@Configuration
public class DelayMqConfig {

    @Value("${ka.rabbitmq.connection.host}")
    private String host;
    @Value("${ka.rabbitmq.connection.port}")
    private Integer port;
    @Value("${ka.rabbitmq.connection.user}")
    private String user;
    @Value("${ka.rabbitmq.connection.password}")
    private String password;
    @Value("${ka.rabbitmq.connection.virtual-host}")
    private String kaLoanVirtualHost;


    @Value("${ka.rabbitmq.delay.queue:ka.delay.queue}")
    private String delayQueue;
    @Value("${ka.rabbitmq.delay.exchange:ka.delay.exchange}")
    private String delayExchange;
    @Value("${ka.rabbitmq.delay.routingKey:ka.delay.routingKey}")
    private String delayRoutingKey;

    @Value("${ka.rabbitmq.dlx.queue:ka.dlx.queue}")
    private String dlxQueue;
    @Value("${ka.rabbitmq.dlx.exchange:ka.dlx.exchange}")
    private String dlxExchange;
    @Value("${ka.rabbitmq.dlx.routingKey:ka.dlx.routingKey}")
    private String dlxRoutingKey;



    @Autowired
    @Qualifier( "techRabbitBuilder" )
    private ITechRabbitBuilder techRabbitBuilder;

    @Bean("delayCachingConnectionFactory")
    public CachingConnectionFactory delayCachingConnectionFactory() {
        CachingConnectionFactory connectionFactory = new CachingConnectionFactory(host, port);
        connectionFactory.setCacheMode(CachingConnectionFactory.CacheMode.CONNECTION);
        connectionFactory.setChannelCacheSize(1024);
        connectionFactory.setConnectionCacheSize(1024);
        connectionFactory.setUsername(user);
        connectionFactory.setPassword(password);
        connectionFactory.setVirtualHost(kaLoanVirtualHost);
        connectionFactory.setPublisherReturns(false);
        connectionFactory.setPublisherConfirms(false);
        return connectionFactory;
    }


    /**
     * 申明死信队列
     * @return
     */
    @Bean("dlxExchangeBean")
    public DirectExchange dlxExchangeBean() {
        return new DirectExchange(dlxExchange);
    }

    @Bean("dlxQueueBean")
    public Queue dlxQueueBean() {
        return new Queue(dlxQueue);
    }


    @Bean
    public Binding binding(@Qualifier("dlxExchangeBean") DirectExchange dlxExchange, @Qualifier("dlxQueueBean") Queue dlxQueue) {
        return BindingBuilder.bind(dlxQueue).to(dlxExchange).with(dlxRoutingKey);
    }


    /**
     * 申明延时队列
     * @return
     */
    @Bean("delayExchange")
    public DirectExchange delayExchangeBean() {
        return new DirectExchange(delayExchange);
    }

    @Bean("delayQueue")
    public Queue orderQueueBean() {
        Map<String, Object> arguments = new HashMap<>(4);
        // 绑定该队列到死信交换机
        arguments.put("x-dead-letter-exchange", dlxExchange);
        arguments.put("x-dead-letter-routing-key", dlxRoutingKey);
        return new Queue(delayQueue, true, false, false, arguments);
    }

    @Bean
    public Binding orderBinding(@Qualifier("delayExchange") DirectExchange delayExchange, @Qualifier("delayQueue") Queue delayQueue) {
        return BindingBuilder.bind(delayQueue).to(delayExchange).with(delayRoutingKey);
    }




    /**
     * 监听死信队列
     * @param consumeDelayEventService
     * @param cachingConnectionFactory
     * @param dlxQueue
     * @return
     */
    @Bean("delaySimpleMessageListenerContainer")
    public SimpleMessageListenerContainer delaySimpleMessageListenerContainer(@Qualifier("consumeMqDelayEventService") ConsumeDelayEventService consumeDelayEventService,
                                                                                         @Qualifier("delayCachingConnectionFactory") CachingConnectionFactory cachingConnectionFactory,
                                                                                         @Qualifier("dlxQueueBean") Queue dlxQueue) {
        SimpleRabbitListenerContainerFactory simpleRabbitListenerContainerFactory = techRabbitBuilder
                .createSimpleRabbitListenerContainerFactory(cachingConnectionFactory);
        SimpleRabbitListenerEndpoint simpleRabbitListenerEndpoint = new SimpleRabbitListenerEndpoint();
        simpleRabbitListenerEndpoint.setQueues(dlxQueue);
        simpleRabbitListenerEndpoint.setMessageListener(new MessageListenerAdapter(consumeDelayEventService, "consumeMessage"));
        SimpleMessageListenerContainer container = simpleRabbitListenerContainerFactory.createListenerContainer(simpleRabbitListenerEndpoint);
        container.setAcknowledgeMode(AcknowledgeMode.AUTO);
        container.setConcurrentConsumers(10);
        container.start();
        return container;

    }


    @Bean(name = "delayRabbitTemplate")
    public RabbitTemplate delayRabbitTemplate(@Qualifier("delayCachingConnectionFactory") ConnectionFactory connectionFactory) {
        RabbitTemplate rabbitTemplate = techRabbitBuilder.createRabbitTemplate(connectionFactory);
        rabbitTemplate.setExchange(delayExchange);
        rabbitTemplate.setRoutingKey(delayRoutingKey);
        return rabbitTemplate;
    }
}
    @Resource(name = "delayRabbitTemplate")
    private RabbitTemplate rabbitTemplate;


    @Override
    public void sendDelayEvent(DelayEventBody delayEventBody) {
        Long delayMillis = DelayRetryUtil.getDelayMillis(delayEventBody);

        rabbitTemplate.convertAndSend(JSONTools.serialize(delayEventBody), message -> {
                    message.getMessageProperties().setDeliveryMode(MessageDeliveryMode.PERSISTENT);
                    message.getMessageProperties().setExpiration(delayMillis + "");
                    return message;
                });

        final Date executeTime = new Date(System.currentTimeMillis() + delayMillis);

        log.info("[delayMessageSend][RabbitMqDelay]延迟消息已发送, 延迟时间为:{},执行时间为:{},消息体为:{}",
                JSONTools.serialize(DelayRetryUtil.getDelayTimeModel(delayEventBody)),
                DateUtil.format(executeTime, DateUtil.DATE_FORMAT_1), JSONTools.serialize(delayEventBody));

    }

2、使用redis.zset存储关键key,使用执行时间作为score,每次取set首位元素比较当前时间(需要定时调度任务辅助) redis方式类图展示

redis

二、这种设计支持分布式,也支持高可用

不管对于mq还是redis,一般同一个服务不会是一台宿主机,多个宿主机节点。mq多个消费者监听同一个队列,由mq管理有效消费者。多个服务当定时任务触发的机器去请求redis,这种情况最好定时任务是支持分布式的.可以结合当当网elastic job(https://blog.youkuaiyun.com/styhm/article/details/81034729)

 

git项目:https://github.com/foxiaotao/delay-event-job.git

### 关于贪心算法实现最小延迟调度的设计与分析 #### 设计思路 为了有效地解决最小延迟调度问题,可以采用贪心策略来安排任务。核心思想是在每一步都做出局部最优的选择,从而期望达到全局最优的结果。具体来说,在处理多个具有不同截止日期的任务时,总是优先选择最早到期的任务执行。 对于给定的一组任务及其对应的期限和所需时间,通过计算各任务的实际完成时间和规定完成时间之间的差值作为延迟量[^2]。当实际完成时间小于等于规定完成时间,则认为该任务延迟;反之则存在正数的延迟。 #### 算法描述 1. 输入一组任务列表`tasks`,其中每个元素是一个元组`(d_i, t_i)`表示第i个任务的规定完成时间为`d_i`,需要花费的时间为`t_i`。 2. 对这些任务按照其规定的完成时间升序排序。 3. 初始化当前时刻`current_time = 0`。 4. 遍历已排序后的任务队列: - 更新当前时刻 `current_time += task[i][t_i]` - 如果此时超过了此任务的要求完成时间(`current_time > d_i`),记录下超时部分即为此次操作产生的延迟。 5. 输出总的延迟情况或其他统计信息。 下面给出一段Python代码用于模拟上述逻辑: ```python def min_lateness(tasks): """ 计算最小延迟 参数: tasks (list of tuples): [(deadline_1, duration_1), ... , (deadline_n, duration_n)] 返回: tuple: 总延迟时间和最晚被推迟的任务编号(-1代表不存在这样的任务) """ # 按照截止期从小到大排列任务 sorted_tasks = sorted(enumerate(tasks), key=lambda x:x[1][0]) current_time = 0 max_delay = 0 late_task_index = -1 for index,(duration, deadline) in enumerate(sorted_tasks,start=1): start_time = current_time end_time = start_time + duration if end_time > deadline: delay = end_time - deadline if delay >= max_delay: max_delay = delay late_task_index = index current_time = end_time return sum([max((end-start)-dead,0) for (_,start),(dead,end) in zip([(None,*task[:1])]+sorted_tasks[:-1],sorted_tasks)]),late_task_index if __name__ == "__main__": test_cases=[ ((98, 76), (14, 2)), ((10, 3), (20, 5)) ] results=[min_lateness(case)for case in test_cases] print(results) ``` 这段程序实现了基于贪心原则下的最小化总延迟的目标函数,并能够指出哪个任务造成了最大的单次延迟。注意这里假设输入数据已经合理合法化处理过,比如不会出现负数的工作耗时等情况[^1]。
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值