spring cloud resilience4j - Bulkhead 线程隔离并发控制

最新推荐文章于 2024-09-21 17:17:36 发布

原创最新推荐文章于 2024-09-21 17:17:36 发布 · 2.3k 阅读

0 ·

CC 4.0 BY-SA版权

文章标签：

#resilience4j

spring cloud 同时被 2 个专栏收录

44 篇文章

订阅专栏

熔断器

5 篇文章

订阅专栏

resilience4j的Bulkhead模块可实现并发控制，限制方法调用的并发数，避免某类调用异常危及系统整体。它有信号量和线程池两种实现方式，信号量模式无线程上下文切换开销，适合多数场景；线程池模式可复用线程减小内存开销。还介绍了配置参数、实例及更多相关功能。

简介

resilience4j 的 Bulkhead 模块实现并发控制，用于限制方法调用的并发数。

Bulkhead隔离不同种类的调用，并进行流控，这样可以避免某类调用异常或占用过多资源，危及系统整体。

实现方式用两种：

通过信号量Semaphores控制
通过线程池控制，使用一个有界队列和一个固定数量线程池。

信号量与线程池比较

信号量模式

信号量Semaphore是一个并发工具类，用来控制可同时并发的线程数，其内部维护了一组虚拟许可，通过构造器指定许可的数量，每次线程执行操作时先通过acquire方法获得许可，执行完毕再通过release方法释放许可。如果无可用许可，那么acquire方法将一直阻塞，直到其它线程释放许可。

在该模式下，接收请求和执行下游依赖在同一个线程内完成，不存在线程上下文切换所带来的性能开销，所以大部分场景应该选择信号量模式。

由于该模式不创建线程，不适合并行任务的情况。

线程池模式

线程池用来控制实际工作的线程数量，通过线程复用的方式来减小内存开销。线程池可同时工作的线程数量是一定的，超过该数量的线程需进入线程队列等待，直到有可用的工作线程来执行任务。

 该模式的优点是支持异步任务，缺点是线程调度会有额外的开销。

配置参数说明

信号量

属性	默认值	说明
maxConcurrentCalls	25	最大并发
maxWaitDuration	0	获取信号量的最长排队等待时间

线程池

属性	默认值	说明
maxThreadPoolSize	Runtime.getRuntime().availableProcessors()	最大线程数
coreThreadPoolSize	Runtime.getRuntime().availableProcessors() - 1	最少线程数
queueCapacity	100	等待队列大小
keepAliveDuration	20[ms]	线程空闲时，销毁前的等待时间

实例

依赖

spring boot:

repositories {
    jcenter()
}

dependencies {
  compile "io.github.resilience4j:resilience4j-spring-boot2:${resilience4jVersion}"
  compile('org.springframework.boot:spring-boot-starter-actuator')
  compile('org.springframework.boot:spring-boot-starter-aop')
}

spring cloud:

repositories {
    jCenter()
}

dependencies {
    compile "io.github.resilience4j:resilience4j-spring-cloud2:${resilience4jVersion}"
    compile('org.springframework.boot:spring-boot-starter-actuator')
    compile('org.springframework.boot:spring-boot-starter-aop')
    compile('org.springframework.cloud:spring-cloud-starter-config')  
}

配置文件

resilience4j.bulkhead:
    instances:
        backendA:
            maxConcurrentCalls: 10
        backendB:
            maxWaitDuration: 10ms
            maxConcurrentCalls: 20
            
resilience4j.thread-pool-bulkhead:
  instances:
    backendC:
      maxThreadPoolSize: 1
      coreThreadPoolSize: 1
      queueCapacity: 1

代码


@Bulkhead(name = "backendA",fallbackMethod = "fallback")
public String method(String param1) {
    return "test";
}

private String fallback(String param1, IllegalArgumentException e) {
    return "test fallback";
}

private String fallback(String param1, Exception e) {
    return "test fallback";
}