JavaGuide项目详解：服务限流算法与实现方案

班磊闯Andrea

于 2025-05-30 09:01:05 发布

阅读量239

点赞数 3

CC 4.0 BY-SA版权

本文链接：https://blog.youkuaiyun.com/gitblog_01129/article/details/148323109

JavaGuide项目详解：服务限流算法与实现方案

JavaGuide JavaGuide：这是一份Java学习与面试指南，它涵盖了Java程序员所需要掌握的大部分核心知识。这份指南是一份通俗易懂、风趣幽默的学习资料，内容全面，深受Java学习者的欢迎。项目地址: https://gitcode.com/gh_mirrors/ja/JavaGuide

什么是服务限流

服务限流是软件系统保护自身稳定性的一种重要手段，它通过控制请求的速率来防止系统被瞬时的大量请求击垮。就像现实生活中的排队机制一样，限流确保系统在自身处理能力范围内平稳运行。

限流的本质是一种权衡：通过暂时限制部分请求的处理，来换取系统的整体稳定性。虽然这可能导致某些用户请求无法立即得到响应，但避免了系统崩溃带来的更大损失。

常见限流算法详解

1. 固定窗口计数器算法

原理：将时间划分为固定大小的窗口，在每个窗口内限制请求数量。

示例：限制接口每分钟处理60个请求

每分钟为一个时间窗口
窗口开始时计数器清零
每处理一个请求计数器加1
当计数器达到60时拒绝后续请求
每分钟结束时重置计数器

优点：实现简单直观

缺点：

限流不够平滑，可能出现窗口切换时的请求突增
无法应对突发流量，窗口初期耗尽配额会导致后期无法处理请求

2. 滑动窗口计数器算法

原理：将时间窗口细分为更小的片段，窗口随时间滑动。

示例：限制每分钟60个请求

将1分钟分为60个1秒的片段
每秒滑动一次窗口
每个片段限制1个请求
统计当前窗口内所有片段的请求总和

优点：

比固定窗口更精确
能更好应对突发流量

缺点：

实现较复杂
依然存在限流不够平滑的问题

3. 漏桶算法

原理：将请求视为水流入桶，以固定速率处理请求（漏水）。

实现方式：

使用队列保存请求
工作线程以固定速率从队列取出请求处理
当队列满时拒绝新请求

优点：

输出速率恒定，非常平滑
实现相对简单

缺点：

无法应对突发流量
可能造成请求延迟较大

4. 令牌桶算法

原理：系统以固定速率向桶中添加令牌，请求处理需要获取令牌。

工作流程：

定期向桶中添加令牌（有最大容量限制）
请求到达时尝试获取令牌
获取成功则处理请求
获取失败则拒绝请求

优点：

允许一定程度的突发流量（桶中积累的令牌）
可以动态调整令牌生成速率

缺点：

实现相对复杂
参数配置需要经验

限流对象选择策略

在实际项目中，我们需要确定针对什么进行限流：

IP限流：简单有效，但可能误伤正常用户
用户ID限流：针对特定用户进行限制
业务参数限流：如商品ID、订单类型等
分层限流：
- VIP用户不限流
- 普通用户适度限流
- 恶意用户严格限流
动态限流：根据系统指标（QPS、负载等）动态调整

单机限流实现方案

1. Guava RateLimiter

Google Guava提供的限流工具，基于令牌桶算法：

// 创建限流器：每秒5个请求
RateLimiter limiter = RateLimiter.create(5.0);

// 获取令牌
if(limiter.tryAcquire()) {
    // 处理请求
} else {
    // 拒绝请求
}

特点：

支持平滑突发限流
支持预热模式
简单易用

2. Bucket4j

功能更全面的限流库：

Bandwidth limit = Bandwidth.classic(100, Refill.intervally(100, Duration.ofMinutes(1)));
Bucket bucket = Bucket.builder().addLimit(limit).build();

if(bucket.tryConsume(1)) {
    // 处理请求
}

优势：

支持多种算法
可集成监控
支持分布式限流

3. Resilience4j

不仅提供限流，还包括熔断、重试等功能：

RateLimiterConfig config = RateLimiterConfig.custom()
    .limitRefreshPeriod(Duration.ofSeconds(1))
    .limitForPeriod(10)
    .timeoutDuration(Duration.ofMillis(25))
    .build();

RateLimiter limiter = RateLimiter.of("myLimiter", config);

适用场景：

需要完整熔断限流方案
微服务架构
高可用性要求高的系统

分布式限流实现方案

1. Redis + Lua

利用Redis的原子性和高性能：

local key = KEYS[1]
local limit = tonumber(ARGV[1])
local expire_time = ARGV[2]

local current = tonumber(redis.call('get', key) or "0")
if current + 1 > limit then
    return 0
else
    redis.call("INCRBY", key, "1")
    redis.call("EXPIRE", key, expire_time)
    return 1
end

优势：

高性能
原子性保证
灵活性强

2. Redisson RRateLimiter

基于Redis的分布式限流器：

RRateLimiter limiter = redisson.getRateLimiter("myLimiter");
limiter.trySetRate(RateType.OVERALL, 100, 1, RateIntervalUnit.MINUTES);

if(limiter.tryAcquire()) {
    // 处理请求
}

特点：