网关限流(基于网关Gateway令牌桶算法)

1:前言

网关可以做很多的事情,比如,限流,当我们的系统被频繁的请求的时候,就有可能将系统压垮,所以为了解决这个问题,需要在每一个微服务中做限流操作,但是如果有了网关,那么就可以在网关系统做限流,因为所有的请求都需要先通过网关系统才能路由到微服务中

1.1 思路分析

1.2 令牌桶算法

令牌桶算法是比较常见的限流算法之一,大概描述如下: 

1)所有的请求在处理之前都需要拿到一个可用的令牌才会被处理; 

2)根据限流大小,设置按照一定的速率往桶里添加令牌; 

3)桶设置最大的放置令牌限制,当桶满时、新添加的令牌就被丢弃或者拒绝; 

4)请求达到后首先要获取令牌桶中的令牌,拿着令牌才可以进行其他的业务逻辑,处理完业务逻辑之后,将令牌直接删除; 

5)令牌桶有最低限额,当桶中的令牌达到最低限额的时候,请求处理完之后将不会删除令牌,以此保证足够的限流 

如下图:

 这个算法的实现,有很多技术,Guava(读音: 瓜哇)是其中之一,redis客户端也有其实现。

1.3 网关限流代码实现

需求:每个ip地址1秒内只能发送1次请求,多出来的请求返回429错误。

代码实现:

(1)spring cloud gateway 默认使用redis的RateLimter限流算法来实现。所以我们要使用首先需要引入redis的依赖

<!--redis-->
<dependency>
    <groupId>org.springframework.boot</groupId>
    <artifactId>spring-boot-starter-data-redis-reactive</artifactId>
    <version>2.1.3.RELEASE</version>
</dependency>

2)定义KeyResolver

在GatewayApplicatioin引导类中添加如下代码,KeyResolver用于计算某一个类型的限流的KEY也就是说,可以通过KeyResolver来指定限流的Key。

 //定义一个KeyResolver
    @Bean
    public KeyResolver ipKeyResolver() {
        return new KeyResolver() {
            @Override
            public Mono<String> resolve(ServerWebExchange exchange) {
                return Mono.just(exchange.getRequest().getRemoteAddress().getHostName());
            }
        };
    }

3)修改application.yml中配置项,指定限制流量的配置以及REDIS的配置,修改后最终配置如下:

spring:
  application:
    name: sysgateway
  cloud:
    gateway:
      globalcors:
        cors-configurations:
          '[/**]': # 匹配所有请求
            allowedOrigins: "*" #跨域处理 允许所有的域
            allowedMethods: # 支持的方法
            - GET
            - POST
            - PUT
            - DELETE
      routes:
      - id: goods
        uri: lb://goods
        predicates:
        - Path=/goods/**
        filters:
        - StripPrefix= 1
        - name: RequestRateLimiter #请求数限流 名字不能随便写 
          args:
            key-resolver: "#{@ipKeyResolver}"
            redis-rate-limiter.replenishRate: 1 #令牌桶每秒填充平均速率
            redis-rate-limiter.burstCapacity: 1 #令牌桶总容量
      - id: system
        uri: lb://system
        predicates:
        - Path=/system/**
        filters:
        - StripPrefix= 1
  # 配置Redis 127.0.0.1可以省略配置
  redis:
    host: 192.168.200.128
    port: 6379
server:
  port: 9101
eureka:
  client:
    service-url:
      defaultZone: http://127.0.0.1:6868/eureka
  instance:
    prefer-ip-address: true

解释:

  • burstCapacity:令牌桶总容量。
  • replenishRate:令牌桶每秒填充平均速率。
  • key-resolver:用于限流的键的解析器的 Bean 对象的名字。它使用 SpEL 表达式根据#{@beanName}从 Spring 容器中获取 Bean 对象。

通过在replenishRate和中设置相同的值来实现稳定的速率burstCapacity。设置burstCapacity高于时,可以允许临时突发replenishRate。在这种情况下,需要在突发之间允许速率限制器一段时间(根据replenishRate),因为2次连续突发将导致请求被丢弃(HTTP 429 - Too Many Requests

key-resolver: "#{@userKeyResolver}" 用于通过SPEL表达式来指定使用哪一个KeyResolver.

如上配置:

表示 一秒内,允许 一个请求通过,令牌桶的填充速率也是一秒钟添加一个令牌。

最大突发状况 也只允许 一秒内有一次请求,可以根据业务来调整 。

测试  快速刷新,当1秒内发送多次请求,就会返回429错误

网关令牌桶限流是一种常用的流量控制机制,用于保护后端服务免受过多请求的影响。它基于令牌桶算法,通过限制请求的速率来平滑流量,确保系统的稳定性和可靠性。 在网关令牌桶限流中,令牌桶是一个固定容量的桶,其中包含一定数量的令牌。每个令牌代表一个请求的许可。当有请求到达时,网关会检查桶中是否有足够的令牌。如果有足够的令牌,则请求被允许通过,并从桶中消耗一个令牌;如果没有足够的令牌,则请求被拒绝。 令牌桶算法的特点是可以在短时间内处理突发流量,同时也可以限制平均请求速率。通过调整令牌生成速率和桶的容量,可以灵活地控制系统的吞吐量和并发度。 网关令牌桶限流的优点包括: 1. 简单有效:实现相对简单,能够有效地控制流量。 2. 平滑限流:通过令牌桶算法,可以平滑地限制请求的速率,避免突发流量对系统造成过大的压力。 3. 灵活配置:可以根据实际需求调整令牌生成速率和桶的容量,以适应不同的业务场景。 然而,网关令牌桶限流也存在一些限制和注意事项: 1. 令牌桶算法需要一定的计算资源,对于高并发场景需要进行性能测试和优化。 2. 如果请求速率超过了令牌桶的容量,会导致请求被拒绝,可能会影响用户体验。 3. 令牌桶算法只能控制请求的速率,无法对请求的处理时间进行限制。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值