使用Guava实现限流器

本文介绍了如何利用Google Guava库中的RateLimiter实现限流功能,基于令牌桶算法,创建全局限流器限制请求QPS,并在Spring MVC中添加自定义拦截器进行流量控制。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

一般来说,系统的吞吐量是可以计算出一个阈值的,为了保证系统的稳定运行,一旦达到这个阈值,就需要限制流量并采取一些措施以完成限制流量的目的。比如:延迟处理,拒绝处理,或者部分拒绝处理等等。否则,很容易导致服务器的宕机。

想学习分布式、微服务、JVM、多线程、架构、java、python的童鞋,千万不要扫码,否则后果自负~

现有的方案

Google的Guava工具包中就提供了一个限流工具类——RateLimiter,本文也是通过使用该工具类来实现限流功能。RateLimiter是基于“令牌通算法”来实现限流的。

令牌桶算法

令牌桶算法是一个存放固定容量令牌(token)的桶,按照固定速率往桶里添加令牌。令牌桶算法基本可以用下面的几个概念来描述:

假如用户配置的平均发送速率为r,则每隔1/r秒一个令牌被加入到桶中。

桶中最多存放b个令牌,当桶满时,新添加的令牌被丢弃或拒绝。

当一个n个字节大小的数据包到达,将从桶中删除n个令牌,接着数据包被发送到网络上。

如果桶中的令牌不足n个,则不会删除令牌,且该数据包将被限流(要么丢弃,要么缓冲区等待)。

限流器实现

1.pom文件中引入Guava包

com.google.guava

guava

27.0.1-jre

2.自定义拦截器,并在拦截器中实现限流

a)定义一个拦截器抽象类,用于多个拦截器复用,主要是继承HandlerInterceptorAdapter,重写preHandle方法;并提供preFilter抽象方法,供子类实现。

/**

  • @author linzhiqiang

  • @date 2019/4/17

*/

public abstract class AbstractInterceptor extends HandlerInterceptorAdapter {

private Logger logger = LoggerFactory.getLogger(AbstractInterceptor.class);

@Override

public boolean preHandle(HttpServletRequest request, HttpServletResponse response, Object handler) throws Exception {

ResponseEnum result;

try {

result = preFilter(request);

} catch (Exception e) {

logger.error(“preHandle catch a exception:” + e.getMessage());

result = ResponseEnum.FAIL;

}

if (ResponseEnum.SUCCESS.code.equals(result.code)) {

return true;

}

handlerResponse(result, response);

return false;

}

/**

  • 自定义pre处理

  • @param request

  • @return

*/

protected abstract ResponseEnum preFilter(HttpServletRequest request);

/**

  • 错误处理事件

  • @param result

  • @param response

*/

private void handlerResponse(ResponseEnum result, HttpServletResponse response) {

ResponseDto responseDto = new ResponseDto();

responseDto.setCode(result.code);

responseDto.setStatus(result.status);

responseDto.setMessage(result.message);

response.setStatus(HttpServletResponse.SC_OK);

response.setContentType(MediaType.APPLICATION_JSON_UTF8_VALUE);

PrintWriter printWriter = null;

try {

printWriter = response.getWriter();

printWriter.write(JsonUtils.toJson(responseDto));

} catch (Exception e) {

logger.error(“handlerResponse catch a exception:” + e.getMessage());

} finally {

if (printWriter != null) {

printWriter.close();

}

}

}

}

b)定义流量控制拦截器,流量控制拦截器继承自上面的拦截器抽象类,在preFilter方法中进行流量控制。

/**

  • @author linzhiqiang

  • @date 2019/4/17

*/

@Component(“rateLimitInterceptor”)

public class RateLimitInterceptor extends AbstractInterceptor {

private Logger logger = LoggerFactory.getLogger(RateLimitInterceptor.class);

/**

  • 单机全局限流器(限制QPS为250)

*/

private static final RateLimiter rateLimiter = RateLimiter.create(300);

public static void setRate(double limiterQPS){

rateLimiter.setRate(limiterQPS);

}

@Override

protected ResponseEnum preFilter(HttpServletRequest request) {

if (!rateLimiter.tryAcquire()) {

logger.warn(“限流中…”);

return ResponseEnum.RATE_LIMIT;

}

return ResponseEnum.SUCCESS;

}

}

使用Guava提供的RateLimiter类来实现流量控制,过程很简单:定义了一个QPS为1的全局限流器(便于测试),使用tryAcquire()方法来尝试获取令牌,如果成功则返回ResponseEnum.OK,否则返回ResponseEnum.RATE_LIMIT。

3.继承WebMvcConfigurerAdapter来添加自定义拦截器

@Configuration

public class MyWebAppConfigurer extends WebMvcConfigurationSupport {

@Override

public void addInterceptors(InterceptorRegistry registry) {

// 多个拦截器组成一个拦截器链

// addPathPatterns 用于添加拦截规则

// excludePathPatterns 用户排除拦截

registry.addInterceptor(new RateLimitInterceptor()).addPathPatterns(“/**”);

super.addInterceptors(registry);

}

}

自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。

深知大多数Java工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!

因此收集整理了一份《2024年Java开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。img

既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上Java开发知识点,真正体系化!

由于文件比较大,这里只是将部分目录截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且会持续更新!

如果你觉得这些内容对你有帮助,可以扫码获取!!(备注Java获取)

img

总结

我们总是喜欢瞻仰大厂的大神们,但实际上大神也不过凡人,与菜鸟程序员相比,也就多花了几分心思,如果你再不努力,差距也只会越来越大。实际上,作为程序员,丰富自己的知识储备,提升自己的知识深度和广度是很有必要的。

Mybatis源码解析

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取!
们总是喜欢瞻仰大厂的大神们,但实际上大神也不过凡人,与菜鸟程序员相比,也就多花了几分心思,如果你再不努力,差距也只会越来越大。实际上,作为程序员,丰富自己的知识储备,提升自己的知识深度和广度是很有必要的。

Mybatis源码解析

[外链图片转存中…(img-lv7eFz5d-1713523018353)]

[外链图片转存中…(img-qBBeo1ve-1713523018353)]

《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值