如何控制方法的调用Timeout超时,并主动中断调用请求

JAVA运行超时自动中断(强杀)的线程池 这里包装了一下JAVA原生的线程池,提供了一个支持超时后自动中断线程的功能,当然对于某些线程是无法进行中断的(比如阻塞的线程等等),因此这个类也提供了一个可以进行设置的标志位:stopTimeOutThread。默认为false表示对于超时的线程只进行中断,如果我们设置为true之后,对于超时线程除了进行中断之外,还会调用stop方法进行强行杀死。 阅读详情

前言

在我们实际开发过程中,我们经常遇到一些场景:

1、如果调用方法超过1秒,就应该停止调用,不要一直阻塞下去,防止把本身的服务资源搞挂。

2、在不可预知可能出现死锁/死循环的代码,要加上时间的阀值,避免阻塞。

很多开源框架都会有超时响应的设置;如果是我们自己开发的服务,怎么能做到这点呢?

JDK的Future

在jdk中有个future类,里面有获取等待超时的方法。

主要方法:
cancel():取消任务
get():等待任务执行完成,并获取执行结果
get(long timeout, TimeUnit unit):在指定的时间内会等待任务执行,超时则抛异常。

本文不重点介绍future方法,可自行网补。

Guava中的超时

Google开源的Guava工具包,还是比较强大的;里面即包含了超时的控制。里面有个。

TimeLimiter 是个接口,下面有两个子类。

FakeTimeLimiter, 常用于debug时,限制时间超时调试。

SimpleTimeLimiter 常用于正式方法中,调用方法超时,即抛出异常。

SimpleTimeLimiter

这个类有2种方式实现超时的控制,代理模式和回调模式。

一、基于代理模式

Guava采用的是JDK动态代理实现的AOP拦截,所以代理类必须实现一个接口。可以达到对类中所有的方法进行超时控制。

pom依赖

<dependency>
  <groupId>com.google.guava</groupId>
  <artifactId>guava</artifactId>
  <version>29.0-jre</version>
</dependency>

定义接口

定义了一个学生服务接口;

public interface StudentService {
    /**
     * 根据学生id 获取 学生姓名
     * @param studentId
     * @return
     */
    String getStudentNameById(Integer studentId);
  
    /**
     * 根据学生id 获取 学生爱好
     * @param studentId
     * @return
     */
    List<String> getStudentHobbyById(Integer studentId);
}

接口实现

实现了根据id获取姓名,以及获取爱好;

@Service
public class StudentServiceImpl implements StudentService {

    private static Logger logger = LoggerFactory.getLogger(StudentServiceImpl.class);

    @Override
    public String getStudentNameById(Integer studentId) {
        try{
            TimeUnit.SECONDS.sleep(3);
        }catch (Exception e){

        }
        return "张三";
    }

    @Override
    public List<String> getStudentHobbyById(Integer studentId) {
        try{
            TimeUnit.SECONDS.sleep(10);
        }catch (Exception e){

        }
        return Lists.newArrayList("篮球","羽毛球");
    }
}

获取姓名方法需耗时3秒;获取爱好方法需耗时10秒。

如何调用

@RestController
public class TimeoutController {
    private static Logger logger = LoggerFactory.getLogger(TimeoutController.class);

    @Autowired
    private StudentService studentService;

    @GetMapping("/test/timeout")
    public void test01(){

        SimpleTimeLimiter simpleTimeLimiter = new SimpleTimeLimiter();
        StudentService studentServiceProxy = simpleTimeLimiter.newProxy(this.studentService, StudentService.class, 6, TimeUnit.SECONDS);

        logger.info("获取学生姓名------开始");
        try {
            String studentNameById = studentServiceProxy.getStudentNameById(1);
            logger.info("学生姓名:{}",studentNameById);
        }catch (Exception e){
            logger.error("获取姓名调用异常:{}",e.getMessage());
        }
        logger.info("获取学生姓名------结束");

        logger.info("==============================");

        logger.info("获取学生爱好------开始");
        try {
            List<String> studentHobbyById = studentServiceProxy.getStudentHobbyById(1);
            logger.info("学生爱好:{}",studentHobbyById.toString());
        }catch (Exception e){
            logger.error("获取爱好调用异常:{}",e.getMessage());
        }
        logger.info("获取学生爱好------结束");
    }

}

上面是调用代码,核心代码如下:

SimpleTimeLimiter simpleTimeLimiter = new SimpleTimeLimiter();
StudentService studentServiceProxy = simpleTimeLimiter.newProxy(this.studentService, StudentService.class, 6, TimeUnit.SECONDS);

利用SimpleTimeLimiter新建了代理对象studentServiceProxy,并传递了6秒的超时设置。

我们只要在调用方法的时候,捕获TimeoutException异常即可。

执行结果如下:

上面的结果,获取爱好方法超过了6秒就中断了,并抛出了异常。

我们发现配置了超时时间6秒后,StudentServiceProxy代理对象的所有方法都是6秒超时。

解耦合,重构代码

我们发现上面的代码需要在调用方实现SimpleTimeLimiter的配置,感觉耦合度高了点。我们可以把代码改造一下。

接口定义

/**
 * @author gujiachun
 */
public interface StudentService {
    /**
     * 根据学生id 获取 学生姓名
     * @param studentId
     * @return
     */
    String getStudentNameById(Integer studentId);
    /**
     * 根据学生id 获取 学生姓名---超时控制
     * @param studentId
     * @return
     */
    String getStudentNameByIdWithTimeout(Integer studentId);

    /**
     * 根据学生id 获取 学生爱好
     * @param studentId
     * @return
     */
    List<String> getStudentHobbyById(Integer studentId);
    /**
     * 根据学生id 获取 学生爱好---超时控制
     * @param studentId
     * @return
     */
    List<String> getStudentHobbyByIdWithTimeout(Integer studentId);
}

接口实现

@Service
public class StudentServiceImpl implements StudentService {

    private static Logger logger = LoggerFactory.getLogger(StudentServiceImpl.class);

    private static final TimeLimiter timeLimiter = new SimpleTimeLimiter();

    private static final long TimeOutSec = 6;

    private StudentService studentServiceProxy;

    public StudentServiceImpl(){
        studentServiceProxy = timeLimiter.newProxy(this,StudentService.class,TimeOutSec,TimeUnit.SECONDS);
    }

    @Override
    public String getStudentNameById(Integer studentId) {
        try{
            TimeUnit.SECONDS.sleep(3);
        }catch (Exception e){

        }
        return "张三";
    }

    @Override
    public String getStudentNameByIdWithTimeout(Integer studentId) {
        return studentServiceProxy.getStudentNameById(studentId);
    }

    @Override
    public List<String> getStudentHobbyById(Integer studentId) {
        try{
            TimeUnit.SECONDS.sleep(10);
        }catch (Exception e){

        }
        return Lists.newArrayList("篮球","羽毛球");
    }

    @Override
    public List<String> getStudentHobbyByIdWithTimeout(Integer studentId) {
        return studentServiceProxy.getStudentHobbyById(studentId);
    }
}

调用方

@RestController
public class TimeoutController {

    private static Logger logger = LoggerFactory.getLogger(TimeoutController.class);

    @Autowired
    private StudentService studentService;

    @GetMapping("/test/timeout")
    public void test01(){

        logger.info("获取学生姓名------开始");
        try {
            String studentNameById = studentService.getStudentNameByIdWithTimeout(1);
            logger.info("学生姓名:{}",studentNameById);
        }catch (Exception e){
            logger.error("获取姓名调用异常:{}",e.getMessage());
        }
        logger.info("获取学生姓名------结束");

        logger.info("==============================");

        logger.info("获取学生爱好------开始");
        try {
            List<String> studentHobbyById = studentService.getStudentHobbyByIdWithTimeout(1);
            logger.info("学生爱好:{}",studentHobbyById.toString());
        }catch (Exception e){
            logger.error("获取爱好调用异常:{}",e.getMessage());
        }
        logger.info("获取学生爱好------结束");
    }

}

这样的改造就非常好了,调用方不需要关心具体的超时实现,直接调用即可。

二、基于回调模式

上面的代理模式是针对类的,回调模式是可以针对某段代码的。

@GetMapping("/test/timeout1")
public void test02(){

    logger.info("获取学生姓名------开始");

    SimpleTimeLimiter simpleTimeLimiter = new SimpleTimeLimiter();

    Callable<String> task = new Callable<String>() {
        @Override
        public String call() throws Exception {
            try{
                TimeUnit.SECONDS.sleep(10);
            }catch (Exception e){

            }
            return "张三";
        }
    };

    try {
        simpleTimeLimiter.callWithTimeout(task,6,TimeUnit.SECONDS,true);
    }catch (Exception e){
        logger.error("获取姓名调用异常:{}",e.getMessage());
    }

    logger.info("获取学生姓名------结束");
}

上面代码中,定义Callable使用业务代码。执行结果如下

线程池定义

SimpleTimeLimiter是可以自定义线程池的

@Bean(name = "taskPool01Executor")
public ThreadPoolTaskExecutor getTaskPool01Executor() {

    ThreadPoolTaskExecutor taskExecutor = new ThreadPoolTaskExecutor();
    //核心线程数
    taskExecutor.setCorePoolSize(10);
    //线程池维护线程的最大数量,只有在缓冲队列满了之后才会申请超过核心线程数的线程
    taskExecutor.setMaxPoolSize(100);
    //缓存队列
    taskExecutor.setQueueCapacity(50);
    //许的空闲时间,当超过了核心线程出之外的线程在空闲时间到达之后会被销毁
    taskExecutor.setKeepAliveSeconds(200);
    //异步方法内部线程名称
    taskExecutor.setThreadNamePrefix("TaskPool-01-");
    /**
     * 当线程池的任务缓存队列已满并且线程池中的线程数目达到maximumPoolSize,如果还有任务到来就会采取任务拒绝策略
     * 通常有以下四种策略:
     * ThreadPoolExecutor.AbortPolicy:丢弃任务并抛出RejectedExecutionException异常。
     * ThreadPoolExecutor.DiscardPolicy:也是丢弃任务,但是不抛出异常。
     * ThreadPoolExecutor.DiscardOldestPolicy:丢弃队列最前面的任务,然后重新尝试执行任务(重复此过程)
     * ThreadPoolExecutor.CallerRunsPolicy:重试添加当前的任务,自动重复调用 execute() 方法,直到成功
     */
    taskExecutor.setRejectedExecutionHandler(new ThreadPoolExecutor.AbortPolicy());
    taskExecutor.setWaitForTasksToCompleteOnShutdown(true);

    taskExecutor.initialize();

    return taskExecutor;
}

执行结果如下:

总结

SimpleTimeLimiter对象本质上也是使用了JDK中的Future对象实现了Timeout。

源码如下:

被Guava封装了一下,使用起来特别方便。小伙伴可自行尝试。

优化httpx.AsyncClient()的stream方法:如何合理设置timeout避免流式请求中断 本文深入探讨了如何优化httpx.AsyncClient()的stream方法,通过合理配置timeout参数避免流式请求意外中断。文章分析了连接超时与读取超时的核心区别,并针对不同业务场景提供了精细化的超时策略配置方案,帮助开发者确保AI对话等流式接口的稳定与实时性。 阅读详情

相关推荐

图形化界面无限转圈?CentOS 7的SELinux避坑指南(附命令行修复实录)

本文详细解析了CentOS 7图形界面启动时无限转圈或卡在'starting switch root'的故障原因,主要与SELinux安全策略冲突有关。提供了三种修复方案:临时禁用SELinux、重装策略包和精细调整策略,并分享了长期维护建议,帮助用户平衡系统安全性与可用性。

potato的博客 800

java 给某段代码加超时限制

1、需求场景:本项目中请求sftp拿文件的时候,有时候各种原因连不上,导致超时。但接口等待超时异常会很久。我们需要自定义时间范围内返回异常。

weixin_40841731的博客 947

单细胞双胞过滤-scrublet安装

pip install scrublet ----use-pep517有如下报错,分析可知安装annoy时不会自动更新gcc的版本,centos默认是4.8.5。pip install scrublet ----use-pep517 仍然报错,但似乎不影响使用,提示Successfully installed。打开终端,进入Python环境,输入以下代码,查看Python安装位置。暂时还没尝试是否存在问题,如果存在问题,降级scrublet版本。包的开发依赖的是比较低版本的numpy,会用到。

hzau_t的博客 796

java线程中断(interrupted)原理详解

在java中,线程的中断(interrupt)只是改变了线程的中断状态,注意:只是改变了线程的中断状态!至于这个中断状态改变后带来的结果,那是无法确定的,有时它更是让停止中的线程继续执行的唯一手段。不但不是让线程停止运行,反而是继续执行线程的手段。

qq_26112725的博客 5536

Visual Studio 2022调试Godot 4 C#项目全攻略:从环境配置到断点调试

本文详细介绍了如何配置Visual Studio 2022以高效调试Godot 4 C#项目。从环境搭建、外部编辑器设置到两种核心调试模式(附加到进程与启动配置)的实战指南,帮助开发者构建无缝的工业级工作流,解决编码乱码、断点失效等常见问题,大幅提升开发与问题排查效率。

bush的博客 395

QOpenGL入门教程(二)—— 第一个QOpenGLWidget程序

终于到了实际操作的环节了,这一章我们要做的是: 创建OpenGL窗口 创建并编写着色器程序 为着色器程序装配顶点数据 启动渲染管线进行绘图 第一步:创建新项目 首先,我们使用Qt创建一个常规的QWidget项目,建议不要勾选ui设计器(个人习惯,笔者不太习惯于使用ui来设计) 第二步:创建QOpenGLWidget并实现三个虚函数 QOpenGLWidget Qt5.4之前,Qt可以通过一个QGLWidget类来创建OpenGL窗口,但由于opengl的发展,在5.4版本的时候,Qt提供

ItaLink 1万+

java实现定时器的方法

这里面包括了一个 timestamp数组,以及一个 time参数,这里需要注意的是 time参数,在 setTimeout方法中是一个不带参数的 time参数,这个 time参数是用来设置定时器数组所需的时间,而不是用来设置定时器的时间。首先,我们先创建一个空的变量。上面的代码中,我们可以看到在 setTimeout方法中,会给出一个时间的值,并且这个时间是由线程来执行的,所以我们可以根据这个时间值来设置线程的执行顺序。在定时器中,有一个重要的参数叫做 top ()方法,当我们调用它的时候会产生一个异常。

花生日记 3247

MOOS-ivp 实验一 MOOS软件的安装与执行

MOOS-ivp实验一 实验一步骤总结 文章目录MOOS-ivp实验一前言一、实验一1.下载软件2.安装必要的插件3.安装后检查4.路径添加5.执行示例文件总结 前言 在moos学习过程中,我觉得最好把学习的每一步骤都总结一下,方便日后进行回顾。moos官网设置了十八个实验,涉及到了moos的各个方面,完成这些实验也是moos入门的好办法。 一、实验一 实验一主要内容仅仅是软件的安装,仅仅这一步就花费了我接近两天的时间。主要问题发生在linux系统的配置问题上。 1.下载软件 svn co https:

weixin_44151170的博客 6673

【Java并发】FutureTask-Callable设置接口超时限制

代码 原理是新建一个Callable线程(call方法可以返回对象),用FutureTask封装后,通过future对象的get方法来设定超时限制。如果超时,则future.cancel(true)取消执行。 重写Callable的call方法,在call方法中调用需要超时设置的接口(在这里是listQuery())。Callable线程我们放到线程池里执行。 import java.util.*; import java.util.concurrent.*; public class Main {

锥栗的博客 2415

一文介绍Linux EAS

EAS只在系统负载不重时,即系统中每个CPU的利用率都低于其算力的80%时才被启用,而且选出的最节能CPU只有比线程当前运行的CPU节约能量大于6%时,线程才会迁移到该CPU运行。因此EAS为线程选择最节约能量的CPU来运行的前提条件是很苛刻的,针对重载场景(比如游戏),EAS的功能应该很少被使用起来,针对重载场景的功耗优化,这里可能是一个值得尝试的点。算力(capacity)是CPU调度中的一个基础概念,它反映的是一个CPU的计算能力,是个规格化的值,可以通过读取Android手机的文件节点。

youzhangjing_的博客 1239

18、未来医疗信息学中的太赫兹天线技术

本文探讨了太赫兹天线技术在医疗信息学中的关键作用,重点分析了分裂环谐振器和纳米结构光导天线(PCA)的设计与性能提升方法,介绍了相干与非相干太赫兹检测技术,并通过等效电路模型和数值模拟深入解析PCA工作机理。文章还展示了太赫兹技术在无创血糖监测、肿瘤检测等医疗诊断中的实验应用,总结了其非侵入性、高分辨率成像和多参数分析等优势,同时指出信号检测难、成本高和技术复杂等挑战。未来趋势包括设备小型化、效率提升及与人工智能融合,拓展至药物研发、皮肤与神经疾病诊断等领域,展现出变革医疗健康的巨大潜力。

milk8的博客 146

408 Request Timeout超时设置合理值避免中断

在AI语音合成服务中,HTTP 408超时问题常因代理层与后端处理耗时不匹配引发。通过合理配置Nginx的proxy_read_timeout、采用异步任务或流式输出,可有效避免长文本请求中断。结合实际业务耗时分级设置超时阈值,并建立监控机制,才能保障系统稳定性与用户体验。

weixin_42584586的博客 1141

三维重建(十八)——colmap的使用(粗浅)

三维重建(十八)——colmap的使用(粗浅)

河海大学研究生在读的学习笔记 1378

PHP远程请求超时问题一网打尽:curl_setopt中connect_timeout和timeout的区别

解决PHP远程请求超时难题,深入解析curl_setopt超时设置。明确connect_timeout与timeout适用场景,掌握连接与传输阶段精准控制方法,提升请求稳定性与响应效率。配置灵活,效果显著,值得收藏。

PixelStream的博客 1048

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

STM32F407中文手册

STM32f407中文手册 本参考手册面向应用开发人员,提供有关使用 STM32F405xx/07xx、STM32F415xx/17xx、 STM32F42xxx 和 STM32F43xxx 微控制器存储器与外设的完整信息。STM32F405xx/07xx、STM32F415xx/17xx、STM32F42xxx 和 STM32F43xxx 构成一个微 控制器系列,各产品具有不同的存储器大小、封装和外设。有关订购信息以及器件的机械与电气特性,请参见数据手册。有关 ARM Cortex™-M4F 内核的信息,请参见《Cortex™-M4F 技术参考手册》。

Python 超时控制利器:func-timeout 使用详解

Python 超时控制利器:func-timeout 使用详解

诸神缄默不语的博客 1712

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

MLE-Agent超时控制:请求超时与中断处理

在机器学习和AI工程实践中,LLM(Large Language Model,大语言模型)请求的稳定性直接影响开发效率。MLE-Agent作为面向机器学习工程师和研究人员设计的智能编程助手,在处理LLM API调用时面临着网络延迟、服务不稳定、请求超时等挑战。本文将深入解析MLE-Agent的超时控制机制,帮助开发者理解并优化请求处理流程。 ## 超时控制的必要性 ### 为什么需要超时控制?...

gitblog_00553的博客 1104

curl_setopt超时设置全解析:从CURLOPT_TIMEOUT到CURLOPT_CONNECTTIMEOUT的精准控制

掌握curl_setopt超时参数设置技巧,有效避免请求卡死。详解CURLOPT_TIMEOUT与CURLOPT_CONNECTTIMEOUT应用场景及精准控制方法,提升脚本稳定性与响应速度,适用于高并发网络请求。配置方案清晰实用,值得收藏。

InstrIsle的博客 1258

http连接中客户端中断了请求,服务端会中断执行吗?超时时间设置?

由于http是基于tcp的,在tcp中,客户端中断了连接,服务端是无法感知的,只能通过发心跳包来检测,而显然我们的nginx是没有发心跳包的,所以,包括nginx,php-fpm都是不知道客户端已断开,而且web服务器也都没做这种中断机制,所以服务器依然会把客户端的请求走完,或者遇到某个超时设置才会停止执行。 测试代码: <?php $file = 'test-close.txt'; w...

猛犸象 1万+

【前端AJAX】如何处理AJAX请求超时和网络异常?以及手动取消AJAX请求的方法

效果如下:在服务器中设置一个定时器,模拟给服务器发送请求超时的情况,当3s后返回响应结果。 1.2 🔧请求超时的处理 在客户端设置超时2s(服务器3s之后才会返回响应结果),自动取消请求,并弹框告知用户网络异常。 1.3 🔩请求时网络异常的处理 当无网络连接时(可以在设置网络为),调用网络异常的回调,并弹框告知用户网络有问题。 整体代码如下: 2. 🔨如何手动取消AJAX请求 2.1 🥜案例 效果如下:还是和上述一样,在服务器中设置一个定时器,模拟给服务器发送请求超时的情况,当3s后返回响应...

xuxuii的博客 6720

JavaScript——中断请求的几种方案

1 Promise Promise有一个缺点是一旦创建无法取消,所以本质上Promise是无法被终止的. 但是我们可以通过中断调用链或中断Promise来模拟请求的中断. 中断调用链 中断调用链就是在某一个then/catch执行之后,后续的链式调用(包括then,catch,finally)不再继续执行. 方法是在then/catch返回一个新的Promise实例,并保持pending状态: new Promise((resolve, reject) => { setTimeout(() =

weixin_41309331的博客 3926

Nginx 请求超时

请求超时是指服务器在接收到客户端请求后,未能在规定的时间内完成该请求的处理,导致请求被中止或失败。客户端请求超时:客户端发起请求后等待响应的时间超过了 Nginx 配置的超时时间。Nginx 与后端服务的通信超时:当 Nginx 作为反向代理服务器时,它需要与后端应用服务器(如 PHP、Node.js、Tomcat 等)进行通信。如果后端响应迟缓或未及时响应,可能会导致请求超时。Nginx 自身处理请求的超时:当 Nginx 自身的处理时间过长,未能在指定的时间内完成请求时,也会发生超时。

2509_94100851的博客 997

curl_setopt超时机制揭秘:如何正确设置connect_timeout和timeout避免服务雪崩

掌握curl_setopt超时参数设置技巧,有效防止因网络延迟导致的服务雪崩。详解connect_timeout与timeout的差异及合理配置方法,适用于高并发PHP请求场景,提升系统稳定性与响应效率,值得收藏。

simcode的专栏 963
上一篇: Java 中的接口还可以这样用,你知道吗?
下一篇: 总览 Java 容器--集合框架的体系结构
java小姜在线冲
博客等级 码龄4年 53粉丝 137原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值