Test Load Balancer 测试均衡负载

本文介绍了一种名为TestLoadBalancer的测试分发工具,该工具能够将测试任务按策略分配到多台计算机上并行执行,从而缩短持续集成的构建时间。文章详细解释了其工作原理及如何使用。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

什么是Test Load Balancer ?

Test Load Balancer 测试分发工具,它能把所有的测试按照某个策略(数量、时间)均衡分布到不同的计算机上运行。

问题域?

一个典型的问题,当软件开发团队在做CI(持续集成)时,必须让CI的构建时间保持在一个合理的时间,比如10分钟为一个上线,但是由于需求的不断增多测试的数量也随之增加,花费在运行这些测试的时间越来越多,影响到了整个交付团队的进度。为了尽可能的缩短交付周期时间,减少测试的运行时间,一个行之有效的方法就是让测试并行执行。

Test Load Balancer 如何工作 ?

TLB(Test Load Balancer)有两个比较重要的概念:

server:存储,查询测试数据(测试时间、测试结果等)

balancer:测试分支,指定测试套件,设置server的url等

Balancer与CI或者与某种测试框架一起工作,Server只是一个数据交互中心,Balancer需要测试的数据需要和Server通信。

如何使用 ?

TLB必须结合构建工具使用,我们以TLB自带的例子为例。

examples/ant_junit

这个例子使用shell写的运行脚本,我在windows上做的,先把它的脚本改改。

把run_balancer.sh和上级目录的recipe.sh在powershell脚本里面合并。

 

$env:TLB_JOB_NAME='ant_junit'
$env:TLB_TOTAL_PARTITIONS='2'
$env:TEST_TASK='ant test.balanced'

Function StartServer() {
    cd ..\..\server
    .\server.bat start
    cd ..\examples\ant_junit
}

Function RunTest() {
    $env:TLB_DATA_DIR='.\demo_tlb_store'
    $env:TLB_OUT_FILE-".\tlb_balancer.out"
    $env:TLB_ERR_FILE='.\tlb_balancer.err'
    $env:TLB_BASE_URL='http://localhost:7019'
    $env:TLB_JOB_VERSION='1.0.0'

    for($i=1; $i -le $env:TLB_TOTAL_PARTITIONS; $i++) {
        $env:TLB_PARTITION_NUMBER='$i'
        $env:TLB_BALANCER_PORT='300$i'
        iex $TEST_TASK
    }
}

Function StopServer() {
    cd ..\..\server
    .\server.bat stop
    cd ..\examples\ant_junit
}

Function Runner() {
    StartServer
    RunTest
    StopServer
}

Runner

TLB所有的设置依赖环境变量, TLB_TOTAL_PARTITIONS指定所有的测试分成多少份,TLB_BASE_URL指定TLB Server的地址,TLB_PARTITION_NUMBER当前node执行那一份测试,TLB_BALANCER_PORT指定node的端口。

StartServer启动TLB服务器,会开启一个cmd窗口,关闭的时候调用脚本关闭这个窗口就可以关闭TLB 服务器。

RunTest 运行测试,在每个node都必须配置TLB_PARTITION_NUMBER和TLB_BALANCER_PORT.

StopServer 关闭TLB Server。

Runner 脚本入口函数。

这里的脚本是把TLB Server 和 Balancer写在一起的,只为show一下TLB如何使用,如果要在不同node运行,必须把它分成server和balancer两部分脚本。server只需要 StartServer 和StopServer函数,而node只需要RunTest函数,去掉for循环,指定具体的TLB_PATTITION_NUMBER和PORT就可以了。

TLB不足?

TLB虽然可以实现测试分发,但是如果不结合CI工具的话,就必须手动的去运行每个node,而且在server也不能监控和收集每个node的运行结果。

http://www.devhup.com/?p=49


<think>我们正在使用Spring Cloud Gateway 2021版本(对应Spring Cloud 2021.0.x)与Nacos集成,并希望配置负载均衡器的重试机制。根据引用[3]可知,该版本中Gateway使用Spring Cloud LoadBalancer作为负载均衡器,而不是Ribbon。因此,我们需要配置的是Spring Cloud LoadBalancer的重试机制。 在Spring Cloud Gateway中,重试机制可以通过`Retry`过滤器进行配置。该过滤器可以针对特定的路由进行设置。同时,Spring Cloud LoadBalancer本身也支持重试,但通常我们更倾向于在Gateway的全局过滤器或路由过滤器中配置重试。 根据Spring Cloud Gateway的文档,重试过滤器的配置属性以`spring.cloud.gateway.routes[].filters`为前缀。我们可以为路由添加`Retry`过滤器,并配置相关参数。 具体配置步骤如下: 1. 在路由配置中定义重试过滤器: 在application.yml(或bootstrap.yml)中,为特定的路由添加重试配置。例如: ```yaml spring: cloud: gateway: routes: - id: user-service uri: lb://user-service predicates: - Path=/user/** filters: - name: Retry args: retries: 3 statuses: BAD_GATEWAY, INTERNAL_SERVER_ERROR, SERVICE_UNAVAILABLE, GATEWAY_TIMEOUT methods: GET,POST series: SERVER_ERROR exceptions: java.io.IOException, org.springframework.cloud.gateway.support.TimeoutException backoff: firstBackoff: 10ms maxBackoff: 1000ms factor: 2 basedOnPreviousValue: false ``` 参数说明: - `retries`: 重试次数,包括首次请求。 - `statuses`: 需要重试的HTTP状态码列表(使用`org.springframework.http.HttpStatus`枚举值)。 - `methods`: 重试的HTTP方法列表(如GET、POST)。 - `series`: 重试的HTTP状态系列(使用`org.springframework.http.HttpStatus.Series`枚举值),如`SERVER_ERROR`(5xx)。 - `exceptions`: 需要重试的异常列表(全限定类名)。 - `backoff`: 退避策略,配置重试之间的等待时间。 - `firstBackoff`: 第一次重试的等待时间。 - `maxBackoff`: 最大等待时间。 - `factor`: 乘数因子(下一次等待时间 = 上一次等待时间 * factor)。 - `basedOnPreviousValue`: 是否基于上一次的等待时间(如果为false,则每次重试都从firstBackoff开始计算)。 2. 动态刷新配置: 由于我们使用了Nacos作为配置中心,我们希望这些配置能够动态刷新。根据引用[2]中的信息,我们需要确保: - 配置文件是`bootstrap.properties`(或`bootstrap.yml`),并且正确配置了Nacos Config的相关属性。 - 在配置类上使用`@RefreshScope`注解(但注意:对于路由定义,Spring Cloud Gateway默认支持动态刷新路由,但需要确保配置是通过`RouteDefinitionLocator`加载的,并且Nacos Config的自动刷新已开启)。 在Gateway中,路由配置的刷新通常是通过`Spring Cloud Gateway`的`RouteRefreshListener`来监听`RefreshRoutesEvent`事件实现的。当我们使用Nacos Config时,只要Nacos的配置发生变化,就会触发`RefreshEvent`,然后`RouteRefreshListener`会处理路由刷新。 但是,请注意:上述重试配置是作为路由定义的一部分,因此当Nacos中的配置发生变化时,整个路由配置会被刷新,重试配置也会随之更新。 3. 验证配置刷新: 我们可以通过修改Nacos中对应配置文件(例如`we.properties`)中的重试配置,然后观察Gateway是否应用了新的重试设置。 4. 注意事项: - 重试可能会增加服务的负载,特别是在服务不健康的情况下,因此需要谨慎设置重试次数和退避策略。 - 重试只针对幂等的操作(如GET、PUT等),非幂等操作(如POST)的重试可能导致重复操作,需要根据业务场景决定是否配置。 5. 全局重试配置: 除了针对特定路由配置重试,我们也可以配置全局重试过滤器。但是,Spring Cloud Gateway默认不提供全局的Retry过滤器配置。我们可以通过自定义全局过滤器来实现,但更常见的做法是为每个需要重试的路由单独配置。 6. 关于LoadBalancer的重试: 另外,Spring Cloud LoadBalancer本身也支持重试,但通常我们更倾向于在Gateway层面进行重试,因为这样可以捕获到网络错误和网关层面的超时等。LoadBalancer的重试主要是针对服务实例的选择(例如,当某个实例不可用时,重试选择另一个实例)。在Gateway中,我们一般使用上述的Retry过滤器即可。 总结:要在Spring Cloud Gateway 2021与Nacos集成时配置并动态刷新重试机制,我们应在路由配置中添加Retry过滤器,并利用Nacos Config的动态刷新功能来更新路由配置。 如果遇到重试配置不生效的问题,请检查: - 是否正确配置了Nacos Config,并且配置能够动态刷新(引用[2]中提到了bootstrap配置和动态刷新)。 - 路由配置是否正确,特别是重试过滤器的参数名称。 - 是否触发了RefreshRoutesEvent事件。 希望以上信息对您有所帮助。 相关问题: 1. 如何在Spring Cloud Gateway中配置全局重试过滤器? 2. Spring Cloud LoadBalancer的重试机制与Gateway的Retry过滤器有什么区别? 3. 如何监控Spring Cloud Gateway中的重试事件?</think>### Spring Cloud Gateway 2021 与 Nacos 集成:负载均衡重试配置刷新 在 Spring Cloud Gateway 2021 (对应 Spring Cloud 2021.0.x) 与 Nacos 集成时,配置负载均衡重试机制并支持动态刷新需遵循以下步骤: --- ### 一、核心依赖配置 确保 `pom.xml` 包含必要依赖(关键版本需匹配): ```xml <dependency> <groupId>com.alibaba.cloud</groupId> <artifactId>spring-cloud-starter-alibaba-nacos-discovery</artifactId> <version>2021.0.1.0</version> <!-- 与SC2021兼容 --> </dependency> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-loadbalancer</artifactId> <!-- 替代Ribbon --> <version>3.1.1</version> </dependency> <dependency> <groupId>org.springframework.cloud</groupId> <artifactId>spring-cloud-starter-gateway</artifactId> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-actuator</artifactId> <!-- 配置刷新监控 --> </dependency> ``` --- ### 二、重试机制配置 在 `bootstrap.yml` 中配置负载均衡重试参数(**必须使用bootstrap**): ```yaml spring: cloud: nacos: discovery: server-addr: 127.0.0.1:8848 config: server-addr: 127.0.0.1:8848 namespace: a7fe434b-021e-42d0-b4ca-6ab9b6ab9d1d # 命名空间 group: WE_GROUP refresh-enabled: true # 启用动态刷新[^2] gateway: routes: - id: user-service uri: lb://user-service # 负载均衡路由 predicates: - Path=/user/** filters: - name: Retry # 重试过滤器 args: retries: 3 # 最大重试次数 statuses: INTERNAL_SERVER_ERROR, BAD_GATEWAY # 触发重试的HTTP状态码 methods: GET,POST # 支持的方法 backoff: firstBackoff: 10ms # 首次重试间隔 maxBackoff: 1000ms # 最大间隔 factor: 2 # 间隔乘数因子 ``` > **数学表达式说明**: > 退避时间计算公式为:$t_k = \min(\text{firstBackoff} \times \text{factor}^{k-1}, \text{maxBackoff})$ > 其中 $k$ 为当前重试次数。 --- ### 三、动态刷新配置 #### 1. Nacos 配置中心 在 Nacos 控制台创建配置文件 `we.properties`(与 `bootstrap.yml` 中配置的 `spring.cloud.nacos.config.name` 一致),内容为: ```properties spring.cloud.gateway.routes[0].filters[0].args.retries=5 # 修改重试次数 spring.cloud.gateway.routes[0].filters[0].args.backoff.firstBackoff=50ms ``` #### 2. 启用配置刷新 在 Gateway 应用中: ```java @RestController @RefreshScope // 启用配置刷新[^2] public class ConfigController { @Value("${spring.cloud.gateway.routes[0].filters[0].args.retries:3}") private Integer retries; // 自动注入最新值 } ``` #### 3. 手动触发刷新(可选) 调用 Actuator 端点刷新配置: ```bash curl -X POST http://localhost:8080/actuator/refresh ``` --- ### 四、验证与监控 1. **日志验证**: 修改 Nacos 配置后,观察日志是否出现: ``` Refreshing Gateway routes... Routes refreshed: [user-service] ``` 2. **Actuator 端点**: 访问 `http://localhost:8080/actuator/gateway/routes` 查看最新路由配置。 3. **负载均衡测试**: 模拟服务节点故障,观察 Gateway 是否按新配置进行重试。 --- ### 常见问题解决 1. **配置不生效**: - 确认使用 `bootstrap.yml` 而非 `application.yml`[^2] - 检查 Nacos 配置的 `namespace` 和 `group` 是否匹配 - 确保依赖 `spring-cloud-starter-alibaba-nacos-config` 2. **负载均衡失败**: - 确认已引入 `spring-cloud-loadbalancer`(2021+ 版本必须)[^3] - 检查服务名是否在 Nacos 注册:`lb://service-name` 3. **重试策略无效**: - 验证 HTTP 状态码是否匹配 `statuses` 配置 - 排除非幂等请求(如 POST)避免数据重复 > **注意**:重试配置修改后,**已有请求仍使用旧配置**,新请求生效新配置。 --- ### 相关问题 1. 如何在 Spring Cloud Gateway 中实现基于响应体的动态路由? 2. Nacos 配置中心如何实现多环境隔离(如 dev/test/prod)? 3. Spring Cloud LoadBalancer 与 Ribbon 的性能对比有哪些关键差异?
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值