接口限流方案

最新推荐文章于 2025-07-08 00:57:14 发布

qq_38844040

最新推荐文章于 2025-07-08 00:57:14 发布

阅读量1.6k

点赞数

CC 4.0 BY-SA版权

分类专栏： javaweb

本文链接：https://blog.youkuaiyun.com/qq_38844040/article/details/82261683

javaweb 专栏收录该内容

13 篇文章 ¥9.90 ¥99.00

订阅专栏

超级会员免费看

由于业务应用系统的负载能力有限，为了防止非预期的请求对系统压力过大而拖垮业务应用系统，必须采取流量控制措施。
服务接口的流量控制策略：分流、降级、限流熔断
分流：扩容机器、单元化通道
降级：关闭非核心接口，保证核心接口链路的正常运行
限流：业务系统限流、数据库限流

常见的限流算法有：令牌桶、漏桶、Redis计数器。
下面用图说话吧令牌桶算法
这里写图片描述

谷歌的guava库已经帮我们实现好了有兴趣的朋友可以去看看源码

@Component
public class GuavaLimitSimpalDemo {
   
   

    private static final RateLimiter rateLimit

了解本专栏

订阅专栏解锁全文

超级会员免费看

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

qq_38844040

关注关注

0
点赞
踩
3

收藏

觉得还不错? 一键收藏
1
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

专栏目录

订阅专栏

接口限流策略

dream0130__的博客

04-19

1209

字节三面的场景题限流的目的是通过对于并发访问进行限速，一般是达到限制的速率，就会触发相应的限流行为。常见的限流行为如下: 拒绝服务。把多出来的请求拒绝掉，受到流量暴增的时候，会统计当前的哪个客户端来的请求最多，直接进行拒绝，把带恶意的请求阻挡。服务降级。关闭一些不太重要的服务，让给更重要的功能。另一种是返回部分数据。特权请求。我们只把有限的资源分给重要的用户，我们应该把资源尽可能的分给特权用户。延时队列。利用一个队列来进行缓冲大量的请求，如果队列满，则进行拒绝，一般用于应对短暂的峰刺请求。限

Springboot项目接口限流方案

m0_37978198的博客

01-25

2572

本文提供系统接口限流的基本方案，拿来可用，可以指定系统接口总并发数，也是指定某些接口的并发数，还可以根据IP指定该接口的并发数，有兴趣的小伙伴可以参考下。

1 条评论您还未登录，请先登录后发表或查看评论

限流算法

weixin_39590058的博客

09-21

193

https://www.infoq.cn/article/Qg2tX8fyw5Vt-f3HH673 固定窗口计数器固定窗口计数器算法概念如下：将时间划分为多个窗口；在每个窗口内每有一次请求就将计数器加一；如果计数器超过了限制数量，则本窗口内所有的请求都被丢弃当时间到达下一个窗口时，计数器重置。固定窗口计数器是最为简单的算法，但这个算法有时会让通过请求量允许为限制的两倍。考虑如下情况：限制 1 秒内最多通过 5 个请求，在第一个窗口的最后半秒内通过了 5 个请求，第二个窗口的前半秒内又通过了

深入浅出分布式限流

最新发布

m0_51561690的博客

07-08

390

分布式限流是一种在分布式系统架构下，对跨多个服务节点或实例的全局请求总量或速率进行统一协调和控制的机制。它的核心目标是防止整个系统被突发的高流量压垮，保障系统的稳定性、可用性和公平性。

如何实现接口限流?

lzh804121985的博客

07-30

579

接口限流策略

简单5步实现接口限流 Redis

yujunlong3919的专栏

12-11

376

文章目录1. 定义类型2. 定义注解3. 定义Redis 配置4. 定义LimitAspect5. 方法加上注解 1. 定义类型 package com.ityu.mall.util; /** * @author MrBird */ public enum LimitType { /** * 传统类型 */ CUSTOMER, /** *...

Java 限流接口实现

weixin_45817985的博客

12-21

236

Java 限流接口实现

《框架封装 · 优雅接口限流方案》

山人行

08-14

1136

接口限流是一种控制应用程序或服务访问速率的技术措施，主要用于防止因请求过多导致系统过载、响应延迟或服务崩溃。在高并发场景下，合理地实施接口限流对于保障系统的稳定性和可用性至关重要。本篇文章介绍一下在框架封装过程中，如何优雅的实现接口限流方案，希望能帮助到大家。技术栈：后端 SpringCloud + 前端 Vue/Nuxt这步骤没什么特殊的，定义一个限流注解，方便添加。一些和限流相关的参数考虑进去。/*** 限流名称,例如 TestLimit*//*** 指定时间内允许通过的请求数。

API接口限流方案

chq0910的博客

03-28

700

一、简单介绍由于业务应用系统的负载能力有限，为了防止非预期的请求对系统压力过大而拖垮业务应用系统，必须采取流量控制措施。服务接口的流量控制策略：分流、降级、限流分流：扩容机器、单元化通道降级：关闭非核心接口，保证核心接口链...

SpringBoot中如何实现限流----1.对接口进行限流

王不困的博客

03-20

2106

因为互联网系统通常都要面对大并发大流量的请求，在突发情况下（最常见的场景就是秒杀、抢购），瞬时大流量会直接将系统打垮，无法对外提供服务。在完成优化后业务代码和限流代码解耦，开发人员只要一个注解，不用关心限流的实现逻辑，而且减少了代码冗余大大提高了代码可读性，代码评审时谁还敢再笑话你？，水先进入到漏桶里，漏桶里的水按一定速率流出，当流出的速率小于流入的速率时，由于漏桶容量有限，后续进入的水直接溢出（拒绝请求），以此实现限流。，业务代码和限流代码混在一起，而且明显违背了DRY原则，代码冗余，重复劳动。

接口限流算法及解决方案

漏水亦凡的专栏

08-27

4875

参考：接口限流算法：漏桶算法&amp;amp;amp;令牌桶算法 redisson实现分布式限流一、限流算法 1. 漏桶算法 2. 令牌桶算法二、令牌桶算法VS漏桶算法三、解决方案 1. 使用Guava的RateLimiter进行限流控制（单机） 2. 使用Semphore进行并发流控（单机） 3. redisson实现分布式限流工作中对外提供的API ...

hystrix接口限流

04-20

Hystrix是Netflix开源的一款容错框架，包含常用的容错方法：线程隔离、信号量隔离、降级策略、熔断技术。在高并发访问下，系统所依赖的服务的稳定性对系统的影响非常大，依赖有很多不可控的因素，比如网络连接变慢，资源突然繁忙，暂时不可用，服务脱机等。我们要构建稳定、可靠的分布式系统，就必须要有这样一套容错方法

实现接口的限流各种算法

zhiyikeji的博客

07-02

4543

当然在现在的分布式架构下，我们可以通过服务的快速熔断，降级，隔离，限流等方式来应对单个微服务崩溃而导致整个服务不可用的情况，如果你使用的是SpringCloud，你可以使用Hystrix，如果你使用的是SpringCloud-alibaba，那么你可以使用Sentinel来帮助你实现接口的限流，但是，如果我们不依赖于其它组件，那该如何去实现接口的限流呢？实现接口限流的方法有很多，我大概带着大家一起探讨一下。计数器法是限流算法里最简单也是最容易实现的一种算法。比如我们规定，对于 A 接口来说，我们 1 分钟的

简单限流接口

pyf1903047190的博客

10-13

390

限流接口 - 结合redis对接口进行限流应用场景：对接口进行限制，比如说一分钟只能发送5条短信，一个接口一分钟之内只能调用2次。 /** * @Description: 限流接口 - 结合redis对接口使用限流 * @Author: yufengpeng * @CreateDate: 2019/6/26 11:08 */ public class RateLimitUtil { ...

接口限流设计

个人博客，欢迎收藏。

01-05

1534

主要是为了解决在面对不确定的不稳定的流量冲击下，能够确保系统的稳定运行，如果系统对流量不进行控制，系统很有可能因为大流量的冲击影响系统的稳定性，情况严重时还会导致系统瘫痪。是定义一个有一定容量的桶，如果桶的容量未满，新的请求就被放入桶内，如果桶的容量满了，新的请求就会被丢弃，漏桶算法通过控制输出速率，平滑网络流量，起到消峰填谷的作用。与漏桶不同的是，桶里放入的是令牌，而漏桶放入的是请求，当出现突发流量时，只要桶内的令牌足够时请求就可以得到处理的机会（这里说机会，主要还是要看系统的处理能力）。

通过Redis+自定义注解实现接口限流策略

热门推荐

一恍过去

02-18

1万+

通过Redis+自定义注解实现接口限流策略

接口限流技术调研

Coolyqq的专栏

05-09

277

1. 限流算法工作中对外提供的API 接口设计很多时候要考虑限流，如果不考虑，可能会造成系统的连锁反应，轻者响应缓慢，重者系统宕机。而比较成熟的限流算法有令牌桶算法，本篇介绍令牌桶算法原理如上图，系统以恒定速率不断产生令牌，令牌桶有最大容量，超过最大容量则丢弃，同时用户请求接口，如果此时令牌桶中有令牌则能访问获取数据，否则直接拒绝用户请求 2.单机解决方案 Guava rateLimiter实现 //单机全局限流器，QPS为1 privatestaticfinal...

高并发接口限流方案

刘皇叔说Java的博客

12-25

1946

所谓限流，就是指限制流量请求的频次。它主要是在高并发情况下，用于保护系统的一种策略，主要是避免在流量高峰导致系统崩溃，造成系统不可用的问题。固定窗口计数器：该策略将时间划分为固定大小的窗口，在每个窗口内限制请求的数量。例如，每秒钟最多允许处理10个请求。如果超过了限制数量，则拒绝后续请求。这种方法简单直观，但可能会因为窗口切换瞬间的流量峰值而导致不均匀的限流效果。滑动窗口计数器：与固定窗口计数器类似，滑动窗口计数器也将时间划分为窗口，但窗口之间存在重叠。

接口限流

weixin_33946020的博客

03-12

239

为什么80%的码农都做不了架构师？>>> ...

验证码接口限流

04-01

### 验证码接口限流实现方案对于验证码接口的限流处理，可以通过多种算法和技术手段来实现。以下是基于提供的引用内容以及专业知识整理的一个完整的解决方案。 #### 1. 使用令牌桶算法令牌桶是一种常见的限流算法，适用于各种场景下的流量控制。通过设置固定的速率向桶中放入令牌，每次请求消耗一定数量的令牌。如果桶中的令牌不足，则拒绝该次请求[^2]。 ```java import java.util.concurrent.Executors; import java.util.concurrent.ScheduledExecutorService; import java.util.concurrent.TimeUnit; public class TokenBucket { private int capacity; // 桶容量 private double tokens; // 当前令牌数 private final double ratePerSecond; // 每秒新增令牌数 private long lastRefillTimestamp; // 上一次填充时间戳 public TokenBucket(int capacity, double ratePerSecond) { this.capacity = capacity; this.tokens = capacity; this.ratePerSecond = ratePerSecond; this.lastRefillTimestamp = System.currentTimeMillis(); } public synchronized boolean tryConsume(int numTokens) { refill(); // 填充令牌 if (tokens >= numTokens) { // 判断是否有足够的令牌 tokens -= numTokens; return true; } return false; } private void refill() { long now = System.currentTimeMillis(); double newTokens = (now - lastRefillTimestamp) / 1000 * ratePerSecond; tokens = Math.min(capacity, tokens + newTokens); lastRefillTimestamp = now; } } ``` 上述代码展示了如何创建一个简单的令牌桶类，并提供了一个 `tryConsume` 方法用于判断当前请求是否可以被允许执行。 --- #### 2. 结合AOP与注解的方式为了提高开发效率并减少重复代码，在Spring Boot项目中可以利用面向切面编程（AOP）配合自定义注解完成限流逻辑。这种方式使得开发者只需在目标方法上添加特定注解即可启用限流功能。 ```java @Retention(RetentionPolicy.RUNTIME) @Target(ElementType.METHOD) public @interface RateLimit { String keyPrefix() default ""; // 缓存key前缀 int limit() default 100; // 请求上限 int timeUnit() default 60; // 时间窗口大小（单位：秒） } @Aspect @Component public class RateLimitInterceptor { @Autowired private RedisTemplate<String, Object> redisTemplate; @Around("@annotation(rateLimit)") public Object handleRateLimit(ProceedingJoinPoint joinPoint, RateLimit rateLimit) throws Throwable { String key = generateKey(joinPoint, rateLimit.keyPrefix()); Integer count = getCountFromRedis(key); if (count != null && count > rateLimit.limit()) { throw new RuntimeException("超出访问频率限制"); } else { incrementCountInRedis(key, rateLimit.timeUnit()); return joinPoint.proceed(); } } private String generateKey(ProceedingJoinPoint joinPoint, String prefix) { StringBuilder sb = new StringBuilder(prefix).append("_").append(joinPoint.getSignature().toShortString()); return sb.toString(); } private Integer getCountFromRedis(String key) { ValueOperations<String, Object> ops = redisTemplate.opsForValue(); return ops.get(key) == null ? 0 : (Integer) ops.get(key); } private void incrementCountInRedis(String key, int expireInSeconds) { ValueOperations<String, Object> ops = redisTemplate.opsForValue(); ops.increment(key, 1); // 自增计数器 redisTemplate.expire(key, expireInSeconds, TimeUnit.SECONDS); // 设置过期时间 } } ``` 此部分实现了基于Redis存储状态信息的功能，能够有效应对分布式环境下的需求[^4]。 --- #### 3. 考虑滑动窗口策略除了传统的固定窗口外，还可以采用更精确的滑动窗口机制进一步优化限流效果。这种方法会将统计周期划分为若干子区间，从而避免因突发流量而误触阈值的情况发生[^3]。 ```java class SlidingWindowRateLimiter { private static final int WINDOW_SIZE_MS = 1000; // 统计窗口长度（毫秒） private static final int BUCKET_COUNT = 10; // 子区间的数目 private List<Long[]> buckets = new ArrayList<>(BUCKET_COUNT); public SlidingWindowRateLimiter() { for (int i = 0; i < BUCKET_COUNT; ++i) { buckets.add(new Long[] {System.currentTimeMillis(), 0L}); } } public synchronized boolean allowRequest(long maxRequestsAllowedWithinWindow) { long currentTimeMillis = System.currentTimeMillis(); // 清理旧数据 while (!buckets.isEmpty() && currentTimeMillis - buckets.get(0)[0] > WINDOW_SIZE_MS) { buckets.remove(0); } // 更新最新一条记录的时间戳和次数 Long[] latestEntry = buckets.size() > 0 ? buckets.get(buckets.size()-1):null; if(latestEntry!=null&&currentTimeMillis-latestEntry[0]<WINDOW_SIZE_MS/BUCKET_COUNT){ latestEntry[1]++; }else{ buckets.add(new Long[]{currentTimeMillis,1L}); } // 计算总请求数量 long totalRequests = buckets.stream().mapToLong(entry -> entry[1]).sum(); return totalRequests <= maxRequestsAllowedWithinWindow; } } ``` 以上即为一种典型的滑动窗口限流器设计思路。 --- #### 总结综上所述，针对验证码接口实施有效的限流措施可以从以下几个方面入手： - **选择合适的算法**：如令牌桶或漏斗模型； - **引入缓存工具支持分布式的高效协作**：推荐使用Redis作为中间件； - **简化编码流程**：借助AOP技术封装复杂的业务细节于框架内部；最终目的是既保障用户体验又能维持服务端稳定运行。